Récemment, Hitachi a développé une technologie d'IA capable de détecter si un texte a été généré par une IA générative.
Cette technologie est assez sophistiquée ; elle analyse les schémas d'utilisation des mots dans le texte. Pourquoi développer une telle technologie ? Son utilité future est immense ! Elle permettra non seulement de prévenir la propagation de fausses informations générées par l'IA, mais aussi d'aider les entreprises et les administrations à éviter les risques de violation des droits d'auteur lors de la rédaction de documents importants.
Actuellement, l'Union européenne, les États-Unis et le Japon travaillent activement à l'amélioration des réglementations et poursuivent les discussions sur l'IA générative. Ils estiment que les entreprises développant des modèles linguistiques de grande taille (LLM) devraient indiquer clairement si les vidéos, les images et les textes proviennent d'une IA générative.
La nouvelle technologie développée par Hitachi sera intégrée aux outils de création de texte basés sur les LLM. Elle repose sur une règle spécifique concernant l'utilisation de mots, même en présence de synonymes. Une utilisation fréquente de mots suivant cette règle dans un texte permettra de déterminer s'il a été créé par une IA. Hitachi aurait également développé une technologie combinant plusieurs règles de sélection de mots, ce qui améliore considérablement la précision de la détection.
L'un des problèmes posés par l'IA générative est la génération de contenu factuellement inexact, ce que l'on appelle les « hallucinations ». Cependant, la capacité à identifier préalablement les textes générés par une IA générative permettra de réduire le risque de propagation de fausses informations !
Points clés :
- 😃 Hitachi a développé une technologie capable de détecter si un texte a été généré par une IA générative.
- 😜 Cette technologie analyse les schémas d'utilisation des mots pour prévenir la propagation de fausses informations et éviter les risques.
- 😎 De nombreux pays améliorent leurs réglementations concernant l'IA générative, exigeant l'indication de la source. La nouvelle technologie de Hitachi améliore la précision de la détection.
