Recentemente, a polícia do Novo México, nos EUA, gerou controvérsia ao usar uma imagem gerada por IA de uma garota virtual de 14 anos em uma investigação para capturar suspeitos de crimes sexuais. Essa investigação surgiu no contexto de um processo judicial contra o aplicativo de mídia social Snapchat, acusando a plataforma de falha em proteger crianças de exploração e abuso sexual.
Fonte: Imagem gerada por IA, provedor de serviços de licenciamento de imagens Midjourney
De acordo com os documentos judiciais, a polícia criou uma conta falsa no Snapchat chamada "Heather" para tentar entrar em contato com potenciais criminosos sexuais.
Nesse processo, a polícia identificou e se comunicou com vários suspeitos óbvios de crimes sexuais, com nomes de usuário assustadores como "child.rape" e "pedo_lover10". Anteriormente, em investigações semelhantes, a polícia costumava usar fotos de mulheres jovens (muitas vezes policiais) para enganar esses criminosos, mas desta vez optou por uma imagem virtual de uma garota gerada por IA.
Os resultados da investigação mostraram que o método teve um sucesso inesperado, com muitos suspeitos caindo na armadilha, tentando induzir "Heather" a compartilhar imagens explícitas ou material de abuso sexual infantil. Embora a investigação tenha revelado a realidade sombria por trás do algoritmo do Snapchat, o uso de imagens geradas por IA pela polícia também levantou novas questões éticas.
Especialistas jurídicos apontam que a criação de material de abuso sexual infantil (CSAI) profundo falso pelo governo é preocupante, pois essas imagens são ilegais em si e a sociedade não quer ver mais material de abuso sexual infantil circulando.
Além disso, o processo de geração de imagens virtuais de crianças por IA envolve o problema dos conjuntos de dados de treinamento. Para gerar imagens falsas de crianças, os modelos de IA precisam ser treinados com fotos de crianças reais. Isso levanta a questão se as crianças realmente podem dar seu consentimento total, especialmente na geração de imagens que podem ter conotações sexuais. Essa situação aumenta a complexidade jurídica e ética.
O uso de uma garota virtual gerada por IA pela polícia para isca, enquanto captura suspeitos, também gerou discussões sobre ética e lei. Se este é o melhor método para proteger as crianças é algo que merece reflexão de todos os setores da sociedade.
Destaques:
1️⃣ A polícia do Novo México usou uma foto de uma garota virtual gerada por IA para atrair suspeitos de crimes sexuais.
2️⃣ Este método, enquanto captura suspeitos, levanta novas questões éticas e legais.
3️⃣ A geração de imagens de crianças por IA depende de fotos reais de crianças, envolvendo questões de consentimento e privacidade.
