Ilya Sutskever, Mitbegründer von OpenAI, gab kürzlich bekannt, dass er seine Position als Chief Scientist bei OpenAI im Mai dieses Jahres verlassen und sich einem neuen Startup-Unternehmen widmen wird. Gemeinsam mit seinem OpenAI-Kollegen Daniel Levy und dem ehemaligen Leiter der künstlichen Intelligenz bei Apple und Mitbegründer von Cue, Daniel Gross, gab er die Gründung von Safe Superintelligence Inc. bekannt. Das Ziel dieses Unternehmens ist die Entwicklung sicherer Superintelligenz.
Auf der Website von SSI erklären die Gründer, dass die Entwicklung sicherer Superintelligenz „das wichtigste technische Problem unserer Zeit“ sei. Weiter heißt es: „Wir betrachten Sicherheit und Leistungsfähigkeit als untrennbar miteinander verbunden, als technische Probleme, die durch revolutionäre Ingenieurskunst und wissenschaftliche Durchbrüche gelöst werden können. Wir planen, die Leistungsfähigkeit schnell zu verbessern und gleichzeitig sicherzustellen, dass unsere Sicherheit immer einen Schritt voraus ist.“
Was ist also Superintelligenz? Dies ist ein hypothetisches Konzept, das ein theoretisches Wesen beschreibt, dessen Intelligenz die der klügsten Menschen bei Weitem übertrifft.
Dieser Schritt ist eine Fortsetzung von Sutskevers Arbeit bei OpenAI. Er war Mitglied des Superalignment-Teams des Unternehmens, das sich mit der Entwicklung von Methoden zur Kontrolle leistungsstarker neuer KI-Systeme befasste. Mit Sutskevers Ausscheiden wurde dieses Team jedoch aufgelöst, was von einem ehemaligen Leiter, Jean Leike, scharf kritisiert wurde.
SSI behauptet, die Entwicklung sicherer Superintelligenz „geradlinig voranzutreiben und sich auf ein Ziel und ein Produkt zu konzentrieren.“
Sutskever spielte natürlich eine wichtige Rolle bei der kurzzeitigen Absetzung des CEO Sam Altman im November 2023. Sutskever bedauerte später seine Rolle in diesem Ereignis.
Die Gründung von Safe Superintelligence Inc. ermöglicht es Sutskever und seinen Kollegen, sich stärker auf die Problematik der sicheren Superintelligenz zu konzentrieren und die Produktentwicklung auf ein einziges Ziel auszurichten.