No “Dia Aberto de Governança da Plataforma Hoje em Destaque”, realizado hoje, Yan Mengru, chefe de operações de segurança, apresentou os resultados da governança da plataforma em 2024 e os planos para 2025.
Ela apontou que as tecnologias de IA reduziram o limiar para conteúdo de baixa qualidade e plágio. Ferramentas como a “IA Formiga” aceleram a disseminação de conteúdo semelhante. Dados mostram que a plataforma processou um total de 7,81 milhões de conteúdos semelhantes em 2024, bloqueou 63.000 contas infratoras e, em colaboração com a polícia, denunciou dois casos de gangues locais que espalharam boatos semelhantes e publicou 6 avisos de governança.
Yan Mengru analisou que as ferramentas de plágio de IA podem gerar rapidamente “conteúdo pseudo-original” com uma taxa de similaridade inferior a 25%, simplesmente reescrevendo a estrutura original e substituindo palavras-chave, reduzindo significativamente o custo das infrações. Essa tecnologia é explorada por alguns criminosos para criar desinformação em massa. Por exemplo, o boato sobre “quartos de cinzas” em Xangai em 2024 foi gerado com ferramentas de plágio de IA, disseminado por gangues criminosas em milhares de contas e, finalmente, descoberto pela polícia.
Na área de limpeza do ecossistema online, a plataforma interceptou mais de 15 bilhões de acessos falsos em 2024, processou 13.900 conteúdos de recrutamento de trolls de internet, bloqueou 720.000 contas infratoras e silenciou 6.000 contas. Através da colaboração com a polícia na investigação de fraudes, a plataforma emitiu mais de 25 milhões de alertas de risco ao longo do ano.
Yan Mengru explicou que, em 2025, a capacidade de detecção dos modelos de IA será aprimorada e a eficiência na prevenção de conteúdo de baixa qualidade e acessos falsos será reforçada. Ao mesmo tempo, a força de execução local será aumentada, em conjunto com as autoridades policiais, para descobrir o desenvolvimento e a disseminação de ferramentas de plágio e intensificar a investigação dos criadores, a fim de promover a originalidade e as publicações conformes.