Wie die Website „站长之家“ berichtet, äußern KI-Forscher weitverbreitete Besorgnis über das potenziell geringe, aber dennoch vorhandene Risiko eines vom Super-KI verursachten menschlichen Aussterbens. In der größten jemals durchgeführten Umfrage unter KI-Forschern gaben etwa 58% an, dass eine Wahrscheinlichkeit von 5% besteht, dass ein solches Ereignis oder andere extrem negative KI-bedingte Folgen eintreten.
Die Umfrage zeigt außerdem eine große Bandbreite an Meinungen bezüglich des Zeitrahmens für zukünftige Meilensteine in der KI-Technologie und eine allgemeine Unsicherheit über die möglichen gesellschaftlichen Auswirkungen KI-getriebener Entwicklungen. Darüber hinaus herrscht unter den Forschern dringende Besorgnis über KI-getriebene Szenarien wie Deepfakes, die Manipulation der öffentlichen Meinung und die Entwicklung von Waffen.