De acordo com o jornal Southern Metropolis Daily, um caso típico divulgado recentemente pela Administração de Segurança Cibernética do Ministério da Segurança Pública revelou um novo e preocupante modelo de difusão de boatos online. As autoridades policiais de Guangzhou, Guangdong, desmantelaram com sucesso uma quadrilha que utilizava ferramentas de inteligência artificial para criar informações falsas em larga escala, prendendo seis suspeitos.
Com o objetivo de lucrar com o tráfego de plataformas online, a quadrilha utilizou métodos criminosos cuidadosamente planejados: recrutou trabalhadores temporários para registrar contas de mídia social e utilizou ferramentas de IA para reescrever rapidamente artigos populares, publicando em massa informações falsas. Segundo estatísticas, a quadrilha publicou mais de 500.000 artigos e imagens para direcionar tráfego, causando grave poluição de informações online.
Observação da fonte: A imagem foi gerada por IA, fornecida pela Midjourney.
A investigação descobriu que os criminosos podiam obter facilmente vários tipos de ferramentas de escrita de IA. Essas ferramentas possuem diversas funções, podendo gerar rapidamente artigos para WeChat, roteiros de vídeo, textos para mídias sociais, além de continuar artigos, reescrever conteúdo e gerar imagens. O que é chocante é que alguns serviços de assinatura são extremamente baratos, custando apenas 99 yuans por mês, com desconto de 50% na assinatura anual.
Fang Yu, especialista da Sociedade Chinesa de Computação, apontou que o custo para criminosos gerarem boatos usando ferramentas de IA se tornou extremamente baixo. Com a crescente disponibilidade de algoritmos de modelos grandes e o amadurecimento da tecnologia de IA, o acesso e o uso dessas ferramentas pelos criminosos está se tornando cada vez mais fácil.
Este caso não apenas expõe os graves riscos de uso indevido da tecnologia de IA, mas também destaca a urgência no combate à disseminação de boatos online e na manutenção da ordem das informações online. A exitosa operação policial serviu como um forte exemplo para conter crimes relacionados à IA.
