Recentemente, a Internet Watch Foundation (IWF) do Reino Unido publicou um relatório preocupante que revela um aumento alarmante de conteúdo de abuso sexual infantil (CSAI) gerado por inteligência artificial na internet. Com a proliferação da tecnologia de IA, quase qualquer pessoa com um computador e algum conhecimento técnico pode agora gerar vídeos deepfake realistas.
Em uma pesquisa de 30 dias realizada pela IWF na primavera deste ano, foram encontrados 3.512 itens de pornografia infantil criada com IA em fóruns da dark web, sendo a maioria extremamente realista. Este número representa um aumento de 17% em comparação com uma pesquisa semelhante realizada no outono de 2023. Ainda mais preocupante é o aumento na proporção de conteúdo recentemente publicado que mostra atos sexuais mais extremos ou explícitos.
Fonte: Imagem gerada por IA, fornecida pelo Midjourney.
O diretor de tecnologia da IWF, Dan Sexton, disse: "A realidade está melhorando e a gravidade do conteúdo também está aumentando. Esta é uma tendência que não queremos ver." Embora os vídeos totalmente sintéticos atuais ainda não sejam perfeitamente realistas, isso pode mudar rapidamente com o rápido desenvolvimento da tecnologia. Embora a maioria dos predadores ainda dependa de material de vídeo real existente para criar deepfakes, essa tendência certamente causa danos duradouros às vítimas.
Além disso, o relatório destaca os novos desafios enfrentados pelos órgãos reguladores, empresas de tecnologia e agências de aplicação da lei devido ao rápido desenvolvimento da tecnologia de IA. No verão passado, sete grandes empresas de IA dos EUA assinaram um compromisso público para seguir uma série de diretrizes éticas e de segurança. No entanto, elas não controlam os muitos pequenos programas de IA espalhados pela web, que geralmente são gratuitos e fáceis de obter.
Este novo tipo de pornografia infantil pode tornar mais difícil rastrear os pedófilos que comercializam esse conteúdo. Os novos materiais falsos gerados muitas vezes conseguem escapar das varreduras automáticas de plataformas de mídia social e agências de aplicação da lei, o que gera incerteza sobre como lidar com a situação. O Departamento de Justiça dos EUA já apresentou acusações contra pelo menos um homem que usou inteligência artificial para produzir pornografia infantil, mas ainda existe uma zona cinzenta legal em relação à definição desse tipo de crime.
O FBI afirma que leva a sério todas as acusações de crimes contra crianças e trabalha com agências de aplicação da lei em todo o país para investigar. Um apelo especial às vítimas: se você ou alguém que você conhece for vítima de exploração infantil, entre em contato imediatamente com a linha direta do grupo online.
Pontos importantes:
📈 Um relatório recente mostra um aumento acentuado no conteúdo de abuso sexual infantil gerado por IA na dark web, com um aumento de 17% em relação ao período anterior.
🛑 A realidade e a gravidade do conteúdo falsificado estão aumentando, causando danos e sofrimento ainda maiores às vítimas.
⚖️ Ainda existe uma zona cinzenta legal em relação à definição de conteúdo gerado por IA, apresentando novos desafios às agências de aplicação da lei.