Com o rápido desenvolvimento da inteligência artificial (IA), a capacidade de gerar e detectar conteúdo deepfake tornou-se um grande desafio social. Pesquisas recentes indicam que as técnicas de marca d'água digital amplamente utilizadas são facilmente contornadas, e a prevenção de deepfakes de IA no futuro ainda será muito difícil.
Uma equipe de pesquisa demonstrou com sucesso a fragilidade das atuais medidas de proteção por marca d'água, alertando para os amplos danos que o mau uso da tecnologia de IA pode causar e exigindo alta atenção. Embora existam dificuldades atuais, o projeto de sistemas de marca d'água digital confiáveis não é totalmente sem esperança.
Especialistas de diversos setores pedem que os órgãos governamentais e a indústria fortaleçam a cooperação na prevenção de deepfakes de IA e utilizem novas tecnologias com cautela para reduzir os riscos potenciais.