Recentemente, o Google finalmente tomou medidas para combater o conteúdo deepfake não consensual. Principalmente após o incidente com Taylor Swift, há oito meses, que gerou grande atenção e fez com que empresas de tecnologia e legisladores levassem o problema a sério. Henry Ajder, especialista em inteligência artificial generativa, afirma que chegamos a um ponto de inflexão importante, onde a crescente conscientização dos consumidores e a pressão legislativa impedem que as empresas de tecnologia ignorem o problema.
Na semana passada, o Google anunciou medidas para evitar que conteúdo deepfake pornográfico apareça nos resultados de busca. Eles simplificarão o processo para vítimas solicitarem a remoção de imagens pornográficas não consensuais, filtrarão todos os resultados de busca relacionados a esse tipo de conteúdo e removerão imagens duplicadas. Isso significa que, se alguém pesquisar conteúdo deepfake contendo o nome de alguém, o Google tentará exibir conteúdo não pornográfico de alta qualidade, como artigos de notícias relevantes. Ajder concorda com essa medida, acreditando que ela reduzirá significativamente a exposição de conteúdo deepfake pornográfico não consensual.
No entanto, embora as medidas do Google sejam um começo positivo, ainda há muito trabalho a ser feito. No início deste ano, mencionei várias maneiras de lidar com deepfakes pornográficos não consensuais, incluindo regulamentação mais rigorosa, introdução de marcas d'água e criação de mecanismos de proteção. No entanto, as marcas d'água e os mecanismos de proteção ainda estão em fase experimental e seus efeitos não são estáveis, enquanto as mudanças regulatórias estão progredindo gradualmente. Por exemplo, o Reino Unido proibiu a criação e disseminação de conteúdo deepfake pornográfico não consensual, levando sites como o "Mr DeepFakes" a bloquear o acesso de usuários britânicos.
Na União Europeia, a Lei de IA já entrou em vigor, exigindo que os criadores de deepfakes indiquem claramente que esses materiais foram gerados por inteligência artificial. O Senado dos EUA também aprovou a "Lei de Resistência", fornecendo aos vítimas meios para buscar recursos civis, mas essa legislação ainda precisa ser aprovada na Câmara dos Representantes para entrar em vigor.
Ajder aponta que, embora o Google consiga identificar sites com alto tráfego e se esforce para remover sites de deepfakes dos resultados de busca, ainda pode fazer mais. Ele apela por uma revisão da natureza dos deepfakes não consensuais, argumentando que esse conteúdo deve ser proibido e tratado com a mesma severidade que a pornografia infantil. Ele menciona que as plataformas de internet precisam adotar medidas mais eficazes para garantir que esse tipo de conteúdo não seja facilmente criado ou acessado.
Pontos importantes:
🌟 O Google está tomando medidas para simplificar o processo de remoção de conteúdo deepfake pornográfico não consensual solicitado pelas vítimas.
📜 O Reino Unido proibiu completamente a criação e disseminação de conteúdo deepfake não consensual, levando sites relevantes a adotarem medidas restritivas.
💡 Ajder apela por uma revisão da natureza do conteúdo deepfake não consensual, enfatizando que deve ser combatido com a mesma severidade que a pornografia infantil.