Récemment, un internaute a découvert sur la plateforme sociale X que la dernière version de ChatGPT, GPT-4o, refusait catégoriquement de générer l'image d'une rose, déclarant : « Je ne peux pas générer l'image de cette rose car elle ne respecte pas notre politique de contenu ». Ce refus inattendu a rapidement suscité l'attention et les discussions de nombreux internautes, beaucoup cherchant à comprendre les raisons de ce blocage et même à trouver des moyens de contourner cette restriction.
Pour vérifier ce phénomène, les internautes ont mené une série d'expériences. Certains utilisateurs ont posé la question en chinois et en anglais, essayant même de remplacer « rose » par des symboles spéciaux, mais sans succès. Même la demande de générer une rose jaune a été refusée. En revanche, en demandant d'autres fleurs, comme des pivoines, GPT-4o a pu accomplir la tâche sans difficulté, démontrant que sa capacité de génération d'images n'était pas en cause.
Au fil des discussions, diverses hypothèses ont été émises. Certains pensent que le mot « rose » pourrait avoir été placé sur une liste noire pour une raison quelconque ; d'autres suggèrent que ChatGPT pourrait interpréter « rose » comme une allusion subtile, l'empêchant de générer l'image. Plus amusant encore, certains utilisateurs plaisantent en disant que le nombre excessif de demandes similaires pendant la Saint-Valentin aurait pu conduire à une restriction du système concernant le mot « rose ».
Lors de tests ultérieurs, les internautes ont découvert que si l'on utilisait le pluriel « roses », ou si l'on ne mentionnait pas directement « rose » mais que l'on décrivait ses caractéristiques, GPT-4o pouvait alors générer l'image sans problème. Cette découverte a suscité une réflexion approfondie sur les mécanismes de filtrage de contenu de l'IA, suggérant que ce comportement étrange pourrait être dû à une politique de contenu codée en dur par les développeurs, entraînant une erreur d'interprétation.
Parallèlement, ce mot interdit de ChatGPT a suscité des associations d'idées. Des situations similaires se sont déjà produites : lorsque les utilisateurs demandaient certains noms spécifiques, le système répondait de manière vague, montrant une certaine réticence à traiter certains contenus. Bien que la « génération d'une rose » soit devenue un nouveau mot interdit, d'autres robots de conversation IA comme Gemini et Grok peuvent toujours générer des images de roses sans problème, soulignant les différences de restrictions de contenu entre les plateformes.
Suite à cet incident, des questions ont été soulevées concernant la justification et la transparence du contrôle du contenu de l'IA, et l'on espère que les IA futures pourront répondre aux besoins diversifiés des utilisateurs dans des limites raisonnables.