Avec le développement rapide de l'intelligence artificielle, les textes, images et vidéos générés par l'IA sont de plus en plus utilisés dans divers domaines. Cependant, cela s'accompagne d'une crise de confiance, la propagation de fausses informations représentant une menace potentielle pour la société. Pour relever ce défi, Tencent a récemment lancé un nouvel outil de détection de contenu généré par l'IA, visant à « combattre l'IA » avec l'IA.
Cet outil, développé par le laboratoire Zhuque de Tencent, se compose de deux systèmes : un système de détection de texte généré par l'IA et un système de détection d'image généré par l'IA. Tencent précise que, bien que les images générées par l'IA soient de plus en plus réalistes, elles présentent encore une certaine identifiabilité. Grâce à une vérification rapide de quelques secondes des images téléchargées, les utilisateurs peuvent déterminer si une image a été générée par l'IA.
En termes de logique de détection, le système distingue principalement les images réelles des images générées par l'IA en détectant les subtiles différences entre elles. Par exemple, les images générées par l'IA peuvent parfois enfreindre la logique commune ou nécessiter l'ajout d'un filigrane dans certains cas. De plus, les images générées par l'IA peuvent contenir des caractéristiques cachées spécifiques. Pour garantir la précision de la détection, Tencent a utilisé 1,4 million d'échantillons positifs et négatifs lors de l'entraînement du modèle, couvrant divers scénarios tels que les personnes, les paysages, les personnages et les monuments. Le taux de détection final a dépassé 95 %, et le système est en constante amélioration.
Pour la détection de texte, le système de Tencent s'appuie également sur un grand nombre d'échantillons positifs et négatifs pour l'entraînement, et peut couvrir divers styles textuels tels que les actualités, les documents officiels, les romans et les essais. En comparant le texte à détecter avec le contenu prédit par le grand modèle, le système peut estimer la probabilité que le texte ait été généré par l'IA, améliorant ainsi ses capacités de détection pour les données inconnues. À l'avenir, Tencent prévoit d'étendre le système de détection de texte à d'autres genres littéraires comme la poésie, afin d'améliorer encore la précision de la reconnaissance.
Grâce à cette initiative innovante, Tencent espère offrir aux utilisateurs un environnement en ligne plus sûr et fiable, lutter efficacement contre la propagation de fausses informations et contribuer à un développement social sain.