Récemment, la divulgation d'e-mails internes d'OpenAI suite au procès intenté par Elon Musk contre Sam Altman a suscité un vif intérêt pour les luttes de pouvoir entre les fondateurs de l'entreprise. Dans ces e-mails, Ilya Sutskever, co-fondateur d'OpenAI, a exprimé de profondes inquiétudes concernant l'intense désir de contrôle de Musk sur l'intelligence artificielle.
Source de l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Dans un e-mail adressé à Musk et Altman en septembre 2017, Sutskever a souligné que l'appétit de contrôle de Musk pourrait constituer une menace potentielle pour l'avenir de l'intelligence artificielle de niveau humain (AGI). Il a insisté sur le fait que « la structure actuelle vous offre un moyen d'obtenir finalement un contrôle absolu et unilatéral sur l'AGI. » Bien que Musk ait déclaré ne pas souhaiter contrôler l'AGI finale, Sutskever estime que son comportement démontre une importance accordée au contrôle absolu.
Il est à noter que cet e-mail a été envoyé moins de six mois après que Musk ait quitté OpenAI en raison de désaccords sur le mode de financement de l'entreprise. Sutskever y exprime clairement ses préoccupations : « À mesure que l'entreprise progressera réellement dans le domaine de l'AGI, vous pourriez choisir de maintenir un contrôle absolu sur l'entreprise, même si ce n'est pas votre intention actuelle. »
Dans la seconde partie de l'e-mail, Sutskever précise que l'objectif d'OpenAI est de créer un avenir meilleur et d'éviter une dictature de l'AGI. Il mentionne les inquiétudes légitimes de Musk concernant la possibilité que Demis Hassabis, fondateur de DeepMind chez Google, crée une dictature de l'AGI. Il appelle donc à la création d'une structure qui empêche Musk de devenir un dictateur, notamment dans un contexte où la technologie pourrait rendre cela possible.
Le contenu de cet e-mail est particulièrement frappant aujourd'hui, car il révèle que la question du contrôle est complexe et sensible lors de la création d'une intelligence artificielle dotée d'une intelligence humaine. Le fait que Sutskever lui-même ait ensuite quitté OpenAI pour créer une nouvelle entreprise axée sur la sécurité de l'intelligence artificielle ajoute encore du poids à cet e-mail.
Points clés :
🔍 Des e-mails internes d'OpenAI révèlent les inquiétudes des employés concernant le désir de contrôle de Musk dans le domaine de l'intelligence artificielle.
⚖️ Sutskever a mis en garde contre les conséquences graves d'un contrôle absolu de l'AGI par Musk.
💡 L'objectif d'OpenAI est de créer un avenir meilleur et d'éviter une dictature de l'AGI.
