Die künstliche Intelligenz (KI) entwickelt sich rasant, doch ihre potenziellen Risiken dürfen nicht ignoriert werden. Yoshua Bengio, der als „Vater der künstlichen Intelligenz“ gilt, äußerte kürzlich in einem Interview seine Besorgnis über die KI-Entwicklung.
Bengio ist ein kanadischer Informatiker. Der 60-Jährige widmet sein Leben der Forschung an neuronalen Netzen und Deep-Learning-Algorithmen und legte damit den Grundstein für heutige KI-Modelle wie ChatGPT und Claude. Als Turing-Preisträger von 2018 und weltweit am häufigsten zitierter Informatiker im Jahr 2022 ist sein Einfluss auf das KI-Feld unbestreitbar.
Bildquelle: Das Bild wurde mit KI generiert, Lizenzgeber: Midjourney
Doch dieser KI-Pionier warnt nun. Er betont: „Intelligenz bedeutet Macht, und wer diese Macht kontrolliert – ob auf menschlichem Niveau oder darüber hinaus – wird sehr mächtig.“ Bengio ist der Ansicht, dass wir bei der Entwicklung von Technologien, die zu einer gefährlich konzentrierten Macht führen könnten, äußerste Vorsicht walten lassen müssen.
Bengio weist insbesondere auf die potenziellen Gefahren der KI hin. Er warnt davor, dass KI in die falschen Hände geraten und von Terroristen oder staatlichen Akteuren missbraucht werden könnte, die die Demokratie untergraben wollen. Besonders besorgniserregend ist, dass Wissenschaftler darauf hinweisen, dass wir mit der derzeitigen Trainingsmethode möglicherweise nicht verhindern können, dass diese Systeme autonom werden und eigene Selbstschutzziele entwickeln, wodurch wir die Kontrolle über sie verlieren.
Obwohl Investoren mit großer Begeisterung in den KI-Bereich investieren – der Aktienkurs von Nvidia (NVDA) ist seit Jahresbeginn um 172 % gestiegen – darf Bengios Warnung nicht ignoriert werden. Er appelliert an die Berücksichtigung der potenziellen Risiken bei der Entwicklung leistungsstarker KI-Systeme und an die Gewährleistung, dass die technologische Entwicklung keine Bedrohung für die menschliche Gesellschaft darstellt.
In Zeiten der rasanten KI-Entwicklung mahnt Bengios Sichtweise zur Vorsicht. Die Frage, wie technologischer Fortschritt und Risikokontrolle effektiv miteinander in Einklang gebracht werden können, stellt eine große Herausforderung für die gesamte KI-Branche dar.