A Microsoft, em parceria com a organização anti-pornografia de vingança StopNCII, está fornecendo uma ferramenta para vítimas de deepfakes pornográficos removerem imagens de mecanismos de busca. Criando um 'hash' digital da imagem no dispositivo do usuário, a ferramenta auxilia na remoção completa de imagens de nudez sintética em plataformas como o Bing. Essa iniciativa visa combater o abuso da IA generativa na criação de deepfakes pornográficos, um problema que os relatórios de usuários sozinhos não conseguem resolver eficazmente. No entanto, o Google ainda não colaborou com a StopNCII, e os EUA carecem de legislação federal específica para lidar com esse tipo de comportamento.

Um homem na Flórida, EUA, foi preso por supostamente usar inteligência artificial para gerar pornografia infantil e enfrenta até 20 acusações de obscenidade. O funcionário de cinema distribuiu imagens de pornografia infantil geradas por IA no aplicativo social Kik, causando grande preocupação. O caso destaca o uso indevido da inteligência artificial generativa, levando legisladores em vários níveis a pressionarem por leis para proibir a disseminação de conteúdo impróprio. No ano passado, o Centro Nacional para Crianças Desaparecidas e Exploradas recebeu 4700 denúncias relacionadas, incluindo o uso de IA generativa para criar deepfakes de crianças reais para chantagem. A história continua...

A advogada da vice-prefeita de São Francisco, Yvonne Meré, entrou com uma ação contra 16 sites que usam inteligência artificial para criar conteúdo pornográfico deepfake. Esses sites usam IA para transformar fotos de mulheres e meninas em imagens de nudez sem o consentimento delas, levantando preocupações legais e éticas. A ação visa combater essa tendência prejudicial, que está crescendo entre adolescentes, especialmente aqueles que usam "aplicativos de nudez" para manipular fotos de colegas. Esses sites receberam 200 milhões de acessos nos primeiros seis meses, oferecendo serviços iniciais gratuitos, com processamento posterior pago.

O Senado dos EUA aprovou por unanimidade o projeto de lei "The Disrupt Explicit Forged Images and Non-Consensual Edits Act", que visa combater imagens pornográficas deepfake criadas sem consentimento, fornecendo às vítimas meios legais para responsabilizar os culpados. O projeto de lei permitirá que as vítimas processem indivíduos ou organizações que criarem ou distribuírem essas imagens falsas, com indenizações de até US$ 250.000, buscando proteger figuras públicas e adolescentes desse tipo de abuso.

Em setembro de 2023, o número de acessos a aplicativos e sites que usam inteligência artificial para criar deepfakes aumentou drasticamente, atingindo 24 milhões de usuários. Anúncios nas redes sociais impulsionaram esses serviços, com um aumento de mais de 2400% nos links de anúncios nas redes sociais, levantando preocupações sobre deepfakes pornográficos não consensuais. Com o avanço da tecnologia de IA, os softwares de deepfake ficaram mais fáceis de serem criados, tornando pessoas comuns alvos e gerando problemas de privacidade e legais. Em resposta a essa tendência, algumas plataformas, como TikTok e Meta Platforms, já começaram a tomar medidas.

Análise de 2023 revela que a grande maioria dos vídeos deepfake online são pornográficos, com um aumento de 550% em relação a 2019. 'Conteúdo pornográfico deepfake representa 98% de todos os vídeos deepfake, e 99% das vítimas são mulheres'. A Coreia do Sul tornou-se o principal alvo de conteúdo pornográfico deepfake, em parte devido à popularidade da música pop.

Um psiquiatra infantil da Carolina do Norte foi condenado à prisão por produzir, possuir e transportar material de abuso sexual infantil (CSAI). O psiquiatra infantil, David Tatum, foi acusado de usar software de inteligência artificial para gravar secretamente pacientes e criar imagens e vídeos ilegais. Os promotores disseram que as ações do psiquiatra causaram danos às crianças e ele foi condenado a 40 anos de prisão e 30 anos de liberdade supervisionada.

Os procuradores-gerais dos 50 estados americanos se uniram para exigir que o Congresso crie um comitê para estudar o impacto da pornografia infantil gerada por IA. O comitê deve propor soluções para impedir que a IA seja usada para gerar conteúdo falso de abuso sexual infantil. O apelo inclui a ampliação do escopo legal para incluir explicitamente a pornografia infantil gerada por IA como ilegal.