Com o rápido desenvolvimento da tecnologia de inteligência artificial, o uso de textos, imagens e vídeos gerados por IA amadureceu em vários campos. No entanto, isso também trouxe uma crise de confiança, e a disseminação de informações falsas representa uma ameaça potencial à sociedade. Para enfrentar esse desafio, a Tencent lançou recentemente uma nova ferramenta de detecção de conteúdo gerado por IA, com o objetivo de combater a IA com a própria IA.
Esta ferramenta foi desenvolvida pelo laboratório Zhuque da Tencent e é composta por dois sistemas: detecção de texto gerado por IA e detecção de imagem gerada por IA. A Tencent afirma que, embora as imagens geradas por IA estejam cada vez mais realistas, ainda apresentam certa identificabilidade. Através da verificação rápida de imagens carregadas em alguns segundos, os usuários podem determinar se a imagem foi gerada por IA.
Em termos de lógica de detecção, o sistema distingue principalmente entre imagens reais e imagens geradas por IA, captando as diferenças sutis entre elas. Por exemplo, imagens geradas por IA às vezes violam a lógica comum ou podem exigir a adição de marcas d'água em algumas situações. Além disso, imagens geradas por IA podem conter características ocultas específicas. Para garantir a precisão da detecção, a Tencent utilizou 1,4 milhão de amostras positivas e negativas no treinamento do modelo, abrangendo uma variedade de cenários, como pessoas, paisagens, personagens e marcos. O índice de detecção final foi superior a 95%, e o sistema está em constante otimização.
No que diz respeito à detecção de texto, o sistema de detecção da Tencent também se baseia em um grande número de amostras positivas e negativas para treinamento, podendo abranger vários estilos de escrita, como notícias, documentos oficiais, romances e ensaios. Comparando o texto detectado com o conteúdo previsto pelo grande modelo, o sistema pode estimar a probabilidade de o texto ter sido gerado por IA, melhorando assim a capacidade de detecção de dados não vistos. No futuro, a Tencent planeja expandir o sistema de detecção de texto para outros gêneros, como poesia, para melhorar ainda mais a precisão da identificação.
Com esta iniciativa inovadora, a Tencent espera fornecer aos usuários um ambiente online mais seguro e confiável, combatendo eficazmente a disseminação de informações falsas e contribuindo para um desenvolvimento social saudável.
