Gaithersburg, Maryland – Das US-amerikanische Institut für KI-Sicherheit (AI Security Institute) des National Institute of Standards and Technology (NIST) des US-Handelsministeriums gab heute die Unterzeichnung von Absichtserklärungen mit den führenden KI-Unternehmen Anthropic und OpenAI bekannt. Diese Zusammenarbeit konzentriert sich auf Forschung, Tests und Evaluierung im Bereich der KI-Sicherheit.
Gemäß den Vereinbarungen erhält das US-amerikanische Institut für KI-Sicherheit Zugriff auf die wichtigsten neuen Modelle dieser Unternehmen vor und nach deren Veröffentlichung. Dies ermöglicht eine eingehende Bewertung der Fähigkeiten und Sicherheitsrisiken dieser Modelle sowie die Erforschung von Methoden zur Risikominderung. Die Vereinbarung bildet den Rahmen für die Zusammenarbeit und stellt einen wichtigen Schritt der USA in Richtung verantwortungsvoller Steuerung der Zukunft der KI dar.
Bildquelle: Das Bild wurde mit KI generiert, Lizenzgeber: Midjourney
„Sicherheit ist entscheidend für den Fortschritt bei bahnbrechenden Technologien. Mit diesen Vereinbarungen freuen wir uns auf die technische Zusammenarbeit mit Anthropic und OpenAI, um die Wissenschaft der KI-Sicherheit voranzutreiben“, sagte Elizabeth Kelly, Direktorin des US-amerikanischen Instituts für KI-Sicherheit. Diese Vereinbarungen sind nicht nur der Beginn einer Zusammenarbeit, sondern auch ein wichtiger Meilenstein für die verantwortungsvolle Entwicklung und Nutzung von KI.
Darüber hinaus plant das US-amerikanische Institut für KI-Sicherheit eine enge Zusammenarbeit mit britischen Partnern, um Anthropic und OpenAI Feedback zur Verbesserung der Modellsicherheit zu liefern. Aufbauend auf seiner hundertjährigen Erfahrung in Messtechnik, Technologie, Standards und zugehörigen Werkzeugen wird das NIST durch diese Zusammenarbeit die Sicherheit und Zuverlässigkeit von KI-Systemen weiter fördern.
Diese Kooperationen und Evaluierungen tragen zur Umsetzung des Exekutivbeschlusses der Biden-Harris-Regierung zur KI bei und stärken die Umsetzung der freiwilligen Zusagen der wichtigsten KI-Entwickler. Ziel ist die Förderung einer sicheren, zuverlässigen und vertrauenswürdigen Entwicklung und Nutzung von KI.