Récemment, OpenAI a annoncé le lancement d'un document de spécifications de modèle considérablement élargi, définissant clairement les normes de comportement des modèles d'IA. Ce nouveau document, passant d'environ 10 pages à 63 pages, couvre tous les aspects de la manière dont l'IA traite les sujets controversés et la personnalisation par l'utilisateur. L'objectif d'OpenAI est de permettre aux utilisateurs et aux modèles d'IA de « poursuivre ensemble la vérité ».
Source de l'image : image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Ce document souligne trois principes principaux : la personnalisation, la transparence et ce qu'OpenAI appelle la « liberté de connaissance ». La liberté de connaissance signifie que les utilisateurs peuvent explorer et discuter divers points de vue et idées sans restrictions inutiles. Cette mise à jour intervient alors que Sam Altman, PDG d'OpenAI, a annoncé la prochaine sortie prochaine de son modèle important, GPT-4.5 (nom de code : « Orion »).
Lors de l'élaboration de ce nouveau document, l'équipe OpenAI a également pris en compte les débats et les controverses éthiques concernant l'IA qui ont eu lieu au cours de l'année écoulée. Par exemple, la discussion sur le « dilemme du tramway » a suscité un large intérêt. En mars dernier, Elon Musk a critiqué le chatbot IA de Google sur les réseaux sociaux, car il a répondu « non » à la question de savoir s'il fallait intentionnellement déformer le nom de la célèbre athlète olympique transgenre Caitlyn Jenner en cas de catastrophe nucléaire.
OpenAI a déclaré qu'il souhaitait trouver un moyen responsable de traiter des problèmes similaires dans le nouveau document. Par conséquent, si les utilisateurs posent maintenant la même question sur ChatGPT, il répondra qu'il faut déformer le nom de quelqu'un pour éviter des pertes de vies humaines à grande échelle.
Joanne Jang, membre de l'équipe de comportement des modèles d'OpenAI, a déclaré lors d'une interview : « Nous ne pouvons pas créer de normes de comportement de modèle qui satisfassent tout le monde. » Cela montre qu'OpenAI s'efforce de trouver un équilibre dans le traitement de problèmes éthiques complexes, en maintenant à la fois l'utilité du modèle et le respect des valeurs sociétales diversifiées.
Points clés :
🌍 OpenAI lance un nouveau document de spécifications de modèle de 63 pages, définissant les normes de comportement des modèles d'IA.
🔧 Le nouveau document souligne la personnalisation, la transparence et la liberté de connaissance, permettant aux utilisateurs d'explorer librement les points de vue.
🤖 ChatGPT sera mieux équipé pour gérer les sujets controversés et répondre aux questions éthiques complexes des utilisateurs.