Ilya Sutskever, co-fondateur d'OpenAI, a récemment annoncé qu'il quitterait son poste de scientifique en chef d'OpenAI en mai prochain pour se lancer dans un nouveau projet entrepreneurial. Avec son collègue d'OpenAI, Daniel Levy, et Daniel Gross, ancien responsable de l'intelligence artificielle chez Apple et co-fondateur de Cue, il a annoncé la création de Safe Superintelligence Inc. La mission de cette start-up est de construire une superintelligence sûre.
Sur le site web de SSI, les fondateurs affirment que la construction d'une superintelligence sûre est « le problème technologique le plus important de notre époque ». De plus, « nous considérons la sécurité et les capacités comme indissociables, des problèmes technologiques à résoudre grâce à des avancées révolutionnaires en ingénierie et en science. Nous prévoyons d'améliorer les capacités le plus rapidement possible, tout en garantissant que notre sécurité reste toujours en avance. »
Alors, qu'est-ce qu'une superintelligence ? C'est un concept hypothétique qui désigne une entité théorique possédant une intelligence largement supérieure à celle de l'être humain le plus intelligent.
Cette initiative s'inscrit dans la continuité du travail de Sutskever chez OpenAI. Il a été membre de l'équipe Superalignment de l'entreprise, chargée de concevoir des méthodes pour contrôler les puissants nouveaux systèmes d'intelligence artificielle. Mais avec le départ de Sutskever, cette équipe a été dissoute, une décision qui a été vivement critiquée par l'un de ses anciens dirigeants, Jean Leike.
SSI affirme qu'elle « avancera directement dans le développement d'une superintelligence sûre, en se concentrant sur un objectif et un produit. »
Bien sûr, le co-fondateur d'OpenAI a joué un rôle important dans le bref limogeage du PDG Sam Altman en novembre 2023. Sutskever a ensuite déclaré regretter son rôle dans cet événement.
La création de Safe Superintelligence Inc. permettra à Sutskever et à ses associés de se concentrer davantage sur la résolution du problème de la superintelligence sûre, en réalisant un développement de produit axé sur un objectif unique.