De acordo com a reportagem da CCTV News, um grupo criminoso foi recentemente preso em Huangshi, Hubei, por usar tecnologia de troca de rosto com IA para desbloquear e revender contas de mídia social, obtendo lucros ilegais. O Sr. Wang, uma das vítimas, foi induzido a investir após ingressar em um grupo de investimento em ações online e, posteriormente, enfrentou dificuldades para sacar seu dinheiro. A conta do grupo foi bloqueada por suspeita de fraude, impossibilitando o resgate dos fundos.
Durante a investigação, a polícia descobriu que as contas de mídia social em questão foram desbloqueadas e acessadas novamente, sugerindo a participação de um grupo em seu desbloqueio. Após investigação, a polícia de Huangshi prendeu três suspeitos em Henan e apreendeu grande quantidade de equipamentos eletrônicos e cartões SIM. Os suspeitos Gao e Xu venderam e ajudaram a desbloquear contas de mídia social online desde o final de setembro de 2023, usando vídeos dinâmicos criados com tecnologia de troca de rosto com IA para desbloquear contas bloqueadas pela plataforma. Eles cobravam de 15 a 30 yuans por conta desbloqueada, tendo desbloqueado um total de 2107 contas e obtido lucros ilegais de 400.000 yuans.
Especialistas do grupo antifraude do Ministério da Indústria e Tecnologia da Informação apontaram que criminosos obtêm retratos ou vídeos de vítimas por meio de canais públicos e utilizam tecnologia de IA para aprendizado e imitação, alcançando resultados realistas. A tecnologia de troca de rosto com IA não apenas pode animar fotos estáticas, mas também realizar trocas de rosto em comunicação de vídeo em tempo real, e até mesmo imitar vozes.
Atualmente, os órgãos competentes estão desenvolvendo tecnologias de detecção e alerta de golpes com troca de rosto com IA, colaborando com empresas de dispositivos móveis para lançar recursos de alerta de risco, proteger os dados dos usuários contra vazamentos e fornecer alertas com a autorização do usuário.
De acordo com as "Regulamentações para a Gestão da Síntese Profunda de Serviços de Informação na Internet", os fornecedores de serviços de síntese profunda devem adicionar marcas d'água ao conteúdo sintético, alertando o público de que o conteúdo foi gerado ou sintetizado por IA, facilitando, ao mesmo tempo, o rastreamento da origem. Os especialistas alertam para a importância de fortalecer a proteção da privacidade pessoal, não fornecer facilmente informações biométricas e não compartilhar aleatoriamente GIFs e vídeos, especialmente quando houver solicitações de transferência de dinheiro, devendo-se verificar e confirmar por meio de múltiplas vias para evitar fraudes.
