Nos últimos anos, a IA (Inteligência Artificial) se integrou em diversos aspectos da nossa vida, desde assistentes de voz até veículos autônomos. No entanto, a ampla aplicação da tecnologia de IA também apresenta riscos potenciais, sendo a tecnologia de deepfake uma das que mais preocupam a sociedade.
A tecnologia de deepfake utiliza algoritmos para gerar conteúdo falso altamente realista, aprendendo com grandes quantidades de dados reais para criar vídeos ou imagens extremamente semelhantes a pessoas ou cenários. Embora essa tecnologia demonstre a potência da IA, também dá origem a atividades fraudulentas. Por exemplo, recentemente ocorreu um incidente em que a imagem e a voz do Dr. Zhang Wenhong foram usadas indevidamente em uma transmissão ao vivo para vendas, onde um avatar sintético promoveu um produto, resultando na venda de mais de 1200 itens. Isso causou grande insatisfação ao Dr. Zhang Wenhong e ao público.
Nota da imagem: Imagem gerada por IA, fornecida pelo serviço de licenciamento de imagens Midjourney
Tang Jiansheng, vice-secretário-geral do Comitê de Proteção dos Direitos do Consumidor de Xangai, afirmou que esse tipo de comportamento, que usa a imagem de celebridades por meio de tecnologia de IA, constitui uma grave violação dos direitos do consumidor. Casos semelhantes incluem a criação de vídeos de paródia usando a imagem de Lei Jun durante o feriado nacional e o uso da voz de Andy Lau para atrair tráfego. Empresas e celebridades relevantes já alertaram o público para aumentar sua vigilância.
Especialistas apontam que a tecnologia de IA atualmente pode clonar facilmente rostos e vozes, e o conteúdo gerado possui um alto grau de realismo. No entanto, essas tecnologias não são infalíveis. Observando cuidadosamente a integração entre o rosto e o fundo ou a correspondência entre a voz e a movimentação labial, ainda é possível detectar anomalias. Além disso, transmissões ao vivo em tempo real são atualmente difíceis de serem realizadas por meio dessas tecnologias.
Especialistas em direito afirmam claramente que o uso não autorizado da imagem ou voz de outra pessoa constitui um ato ilegal. Zhu Wei, professor associado da Universidade de Direito de China, enfatiza que, de acordo com o Código Civil, essa ação viola os direitos de personalidade; de acordo com a Lei de Segurança Cibernética, o conteúdo relacionado é considerado informação ilegal, e o publicador pode até enfrentar responsabilidade criminal.
Para os consumidores, se comprarem produtos devido à promoção de produtos falsos de celebridades gerados por IA, podem exigir que os comerciantes “devolvam o dinheiro e paguem o triplo”, de acordo com a Lei de Proteção dos Direitos do Consumidor, sendo o valor mínimo da compensação de 500 yuans. Simultaneamente, as plataformas de vídeos curtos também devem assumir a responsabilidade de supervisão, reforçando a verificação e a penalização de conteúdos relacionados, evitando a disseminação em larga escala de informações ilegais.
O surgimento da tecnologia de deepfake lembra o público de que, ao desfrutar da conveniência da IA, também é necessário manter-se vigilante em relação aos seus riscos potenciais.
