Récemment, des utilisateurs de ChatGPT ont constaté un phénomène étrange : lorsque le chatbot est interrogé sur des noms spécifiques comme « David Mayer », il se bloque ou refuse de répondre. Ce comportement inhabituel a rapidement suscité de nombreuses spéculations et discussions.
L’enquête a révélé que ces noms « interdits » incluent Brian Hood, Jonathan Turley et David Faber. À première vue, ils ne semblent pas liés, mais une analyse plus approfondie montre que ces personnes sont toutes associées à des événements publics ou des problèmes de confidentialité spécifiques.
Prenons l’exemple de Brian Hood, maire australien qui a accusé ChatGPT de l’avoir faussement lié à des crimes commis il y a plusieurs décennies. Jonathan Turley, expert juridique, a subi des « fausses alertes » de harcèlement. David Faber est un journaliste connu de CNBC.
Source : L'image a été générée par IA, fournie par Midjourney.
Le cas de David Mayer est particulièrement frappant. L’enquête a révélé qu’il s’agit d’un universitaire anglo-américain décédé, qui a été longtemps perturbé par un criminel utilisant son nom comme alias.
OpenAI a finalement répondu à l’incident, admettant l’existence d’un outil interne de protection de la vie privée qui marque certains noms spécifiques. Cependant, l’entreprise a refusé de donner plus de détails, invoquant des raisons de confidentialité.
L’explication la plus probable est que le modèle d’IA gère une liste spéciale de noms et applique un mécanisme de traitement particulier à ceux-ci. Ce mécanisme pourrait avoir causé le blocage du système de chat en raison d’une défaillance technique.
Les experts considèrent cela comme une nouvelle illustration de la complexité des systèmes d’intelligence artificielle. Cela nous rappelle que, bien que l’IA semble omnipotente, elle reste un système piloté par des codes et des règles complexes, susceptible de présenter des défaillances techniques imprévues.
Pour les utilisateurs, cet incident confirme une vérité simple : pour obtenir des informations fiables, la vérification directe reste la méthode la plus sûre. Aussi intelligente soit-elle, l’IA n’est qu’un outil qui nécessite des améliorations et des corrections constantes.
