Eine Gruppe US-Senatoren hat kürzlich einen wichtigen Brief an Sam Altman, CEO von OpenAI, gerichtet und ihn aufgefordert, bis zum 13. August 2024 detaillierte Informationen zu Sicherheitsmaßnahmen und Arbeitsbedingungen des Unternehmens offenzulegen. Hintergrund dieser Forderung sind Medienberichte über potenzielle Sicherheitsrisiken bei OpenAI, darunter der Abgang mehrerer KI-Sicherheitsforscher, Sicherheitslücken und Bedenken von Mitarbeitern.
Bildquelle: Das Bild wurde mit KI generiert und stammt von Midjourney.
Der Brief wurde durch die Enthüllungen ehemaliger Mitarbeiter ausgelöst, die die Sicherheitsmaßnahmen von OpenAI bei der KI-Entwicklung scharf kritisierten. Berichten zufolge wurde das neue KI-Modell GPT-4o innerhalb einer Woche auf Sicherheit getestet, ein Vorgehen, das bei Sicherheitsexperten Besorgnis auslöst. Dieses neue Modell soll durch einfache Anweisungen schädliche Inhalte generieren können, beispielsweise Anleitungen zur Herstellung von Bomben.
Die Senatoren betonen in ihrem Schreiben, dass die Öffentlichkeit darauf vertrauen müssen kann, dass OpenAI bei der Entwicklung seiner Systeme Sicherheit gewährleistet. Dies umfasst die Integrität der Unternehmensführung, die Regelmäßigkeit der Sicherheitstests, die Fairness der Beschäftigungspraktiken, die Einhaltung öffentlicher Zusagen und die Durchsetzung von Cybersicherheitspraktiken. Sie weisen darauf hin, dass die zuvor gegenüber der Biden-Regierung abgegebenen Sicherheitszusagen von OpenAI tatsächlich eingehalten werden müssen.
Als Reaktion auf die Anfrage der Senatoren hat OpenAI über soziale Medien einige Erklärungen veröffentlicht, in denen das kürzlich gegründete Sicherheits- und Schutzkomitee, die neuesten Fortschritte bei der Entwicklung von Fünf-Stufen-AGI, ein Vorbereitungsrahmen und die Überarbeitung des kritisierten Mitarbeitervertrags erwähnt werden. OpenAI hofft, mit diesen Maßnahmen seine Verbesserungen in Bezug auf Sicherheit und Governance zu belegen.
**Wichtigste Punkte:**
📧 **Senatoren fordern detaillierte Informationen von OpenAI**: US-Senatoren fordern den CEO von OpenAI auf, bis zum 13. August 2024 detaillierte Informationen zu Sicherheit und Arbeitsbedingungen des Unternehmens offenzulegen.
🔍 **Ehemalige Mitarbeiter decken Sicherheitsrisiken auf**: Ehemalige Mitarbeiter enthüllten potenzielle Sicherheitsrisiken bei der KI-Entwicklung von OpenAI, darunter Sicherheitslücken aufgrund der übereilten Einführung neuer Modelle.
🛡️ **OpenAI antwortet mit Verbesserungsmaßnahmen**: OpenAI antwortete mit der Mitteilung, dass Maßnahmen ergriffen wurden, darunter die Einrichtung eines neuen Komitees und die Überarbeitung des Mitarbeitervertrags, um die Bedenken hinsichtlich Sicherheit und Governance auszuräumen.
