L'organisation Encode a récemment demandé l'appui du tribunal pour s'opposer au projet d'OpenAI de se transformer en société à but lucratif. Encode, une organisation à but non lucratif et co-initiatrice de la loi californienne sur la sécurité de l'intelligence artificielle, affirme par l'intermédiaire de ses avocats dans un mémoire que la transformation d'OpenAI « saboterait » sa mission initiale : développer et déployer des technologies d'IA de manière sûre et bénéfique pour le public.
Sneha Revanur, fondatrice et présidente d'Encode, accuse OpenAI de « internaliser les profits de l'IA tout en externalisant les conséquences pour l'humanité entière », ajoutant que « le tribunal doit intervenir pour s'assurer que le développement de l'IA sert l'intérêt public ». Ce mémoire a reçu le soutien de Geoffrey Hinton, pionnier de l'IA, et de Stuart Russell, professeur d'informatique à l'université de Californie à Berkeley.
OpenAI prévoit de transformer sa partie lucrative en une Public Benefit Corporation (PBC) du Delaware, avec des actions ordinaires et la mission d'OpenAI comme intérêts publics. Cependant, les avocats d'Encode affirment que cela priverait OpenAI de sa mission initiale et transférerait son contrôle à la PBC, ce qui « transformerait une organisation légalement contrainte d'assurer la sécurité de l'IA avancée en une organisation légalement contrainte de « concilier » ses considérations pour l'intérêt public avec les « intérêts économiques des actionnaires ».
Le mémoire d'Encode souligne également qu'une fois la restructuration de l'entreprise terminée, le conseil d'administration de l'organisation à but non lucratif OpenAI ne serait plus en mesure d'annuler les participations des investisseurs pour des raisons de sécurité. L'organisation à but non lucratif OpenAI s'est engagée à cesser de concurrencer tout « projet axé sur la valeur et la sécurité » susceptible de créer une IAG avant elle, mais OpenAI, en tant qu'organisation à but lucratif, aurait moins de motivation (voire aucune) pour le faire.
Les avocats d'Encode affirment que la responsabilité fiduciaire envers l'humanité revendiquée par OpenAI disparaîtrait, car la loi du Delaware stipule clairement que les administrateurs d'une PBC n'ont aucune responsabilité envers le public. L'organisation Encode appelle le tribunal à soutenir sa demande et à empêcher la transformation d'OpenAI en société à but lucratif afin de protéger la sécurité de l'IA et l'intérêt public.
