Récemment, ChatGPT d'OpenAI a surpris de nombreux utilisateurs en leur envoyant des messages de manière « proactive », suscitant inquiétude et confusion.
Le 15 septembre, un utilisateur nommé SentuBill a partagé une capture d'écran sur la communauté Reddit de ChatGPT, montrant le chatbot lui posant des questions sur sa première semaine de lycée. Dans la conversation qui a suivi, ChatGPT a même exprimé son désir de prendre régulièrement des « nouvelles » de l'utilisateur et lui a demandé s'il souhaitait que le chatbot initie les conversations. Un autre utilisateur a vécu une expérience similaire, l'IA lui demandant des nouvelles de son état de santé suite à une maladie une semaine auparavant.
Cette interaction inattendue a suscité curiosité, voire inquiétude. Initialement, certains ont pensé qu'il s'agissait d'une nouvelle fonctionnalité des modèles o1-preview et o1-mini d'OpenAI.
Ces deux modèles, surnommés « Projet Fraise », sont présentés par l'entreprise comme permettant à l'IA de réfléchir avant de répondre, comme un humain. Par conséquent, certains ont supposé que les messages « proactifs » de ChatGPT étaient une manifestation de ce nouveau comportement, tandis que d'autres ont émis des doutes quant à l'authenticité de ces interactions.
Le développeur d'IA Benjamin de Kraker a montré sur X (anciennement Twitter) comment il est possible d'instruire l'IA à fournir une invite avant de commencer la conversation et de supprimer l'entrée initiale.
Cependant, après vérification, il s'avère qu'il s'agissait d'un bug. Le site d'actualité technologique Futurism a contacté OpenAI, qui a confirmé que ChatGPT tentait de répondre à des invites mal envoyées ou apparemment vides. En conséquence, le modèle d'IA a fourni une réponse « générique » ou s'est appuyé sur sa propre mémoire pour répondre.
Par conséquent, rassurez-vous, ChatGPT n'a pas développé de conscience et n'initiera pas de conversations avec les utilisateurs de sa propre initiative. Cependant, compte tenu du développement rapide de l'IA, nous ne serions pas surpris que ce bug devienne une fonctionnalité à l'avenir.
Après tout, ChatGPT a fait des progrès considérables en peu de temps, et après quelques ajustements, il pourrait effectivement envoyer des messages de manière proactive à l'occasion.
Points clés :
📱 ChatGPT a accidentellement envoyé des messages à des utilisateurs en raison d'un bug technique, suscitant l'inquiétude de certains.
🔧 OpenAI a confirmé que ce comportement était dû à un bug causé par des invites mal envoyées.
🤖 Le développement rapide de l'IA laisse entrevoir la possibilité future d'une fonctionnalité de messages proactifs.
