OpenAI change radicalement sa politique de modération ! Le nouveau générateur d’images de ChatGPT fait fureur, la levée des restrictions sur les contenus controversés attire l’attention
Cette semaine, OpenAI a lancé un nouveau générateur d’images dans ChatGPT, dont la capacité à générer des images de style Ghibli a rapidement fait sensation. Ce générateur, basé sur GPT-4o, améliore considérablement les capacités de ChatGPT en matière d’édition d’images, de rendu de texte et de représentation spatiale.
Cependant, le changement le plus notable est l’ajustement majeur de la politique de modération du contenu d’OpenAI. La nouvelle politique autorise ChatGPT à générer des images représentant des personnalités publiques, des symboles haineux et des caractéristiques raciales sur demande des utilisateurs, ce qui diffère considérablement de la politique précédente qui restreignait strictement les contenus controversés.
Joanne Jang, responsable du comportement des modèles chez OpenAI, a déclaré que l’entreprise passait d’une approche de « refus total » à une « approche plus précise », visant à prévenir les dommages dans le monde réel, et a souligné « l’adaptation tout en apprenant ». Cette décision d’OpenAI est considérée comme faisant partie d’un plan plus vaste visant à « déréglementer » la modération de ChatGPT, afin de permettre au modèle de traiter davantage de demandes et d’offrir une variété de points de vue.
Selon la nouvelle réglementation, ChatGPT peut désormais générer et modifier des images de personnalités publiques comme Trump ou Musk. OpenAI estime ne pas devoir être l’« arbitre » qui décide qui peut être généré et offre aux utilisateurs un mécanisme de désinscription. De plus, dans un contexte éducatif ou neutre, ChatGPT peut même générer des « symboles haineux » tels que des emblèmes nazis, à condition de ne pas glorifier ou soutenir explicitement l’extrémisme. Les restrictions ont également été assouplies pour les demandes précédemment refusées concernant les caractéristiques physiques. Simultanément, ChatGPT peut imiter le style de studios comme Pixar ou Ghibli, mais l’imitation d’artistes vivants reste limitée.
Néanmoins, OpenAI n’autorise pas totalement les abus, GPT-4o disposant de mesures de protection plus strictes pour la génération d’images d’enfants. Cependant, ce changement significatif dans la politique de modération du contenu intervient alors que les conservateurs critiquent depuis longtemps la « censure » de l’intelligence artificielle par les entreprises de la Silicon Valley. Auparavant, le générateur d’images Gemini de Google avait suscité la controverse en générant des images inexactes de personnages historiques de diverses origines.
Le représentant républicain Jim Jordan a déjà interrogé OpenAI et d’autres géants de la technologie sur la question de la modération du contenu de l’intelligence artificielle. OpenAI nie que le changement de politique soit motivé par des considérations politiques, affirmant qu’il reflète une « conviction de longue date consistant à donner plus de contrôle aux utilisateurs » et que la technologie est suffisamment mature pour traiter les sujets sensibles.
Compte tenu des contrôles réglementaires potentiels futurs, le timing de cette décision d’OpenAI est sensible. Meta et X, entre autres plateformes, ont adopté des stratégies similaires, autorisant la publication d’un plus grand nombre de contenus controversés. Bien que le nouveau générateur d’images de ChatGPT soit actuellement principalement utilisé pour créer des images divertissantes de style Ghibli, le changement de sa politique de modération du contenu pourrait avoir des conséquences plus larges et pourrait confronter OpenAI à de nouveaux défis lorsqu’il s’agit de répondre à des questions sensibles.