OpenAI hat ein "Red Team"-Cybersecurity-Programm gestartet und lädt Experten aus verschiedenen Bereichen ein, um die Sicherheit von KI-Modellen zu verbessern. Dieses Netzwerk ist Teil des iterativen Entwicklungsprozesses von OpenAI und beinhaltet interne und externe Angriffstests, um die Sicherheit der Modelle unter verschiedenen Bedingungen zu gewährleisten.
Die Mitglieder werden während des gesamten Entwicklungszyklus von Modellen und Produkten Risikobewertungen durchführen und erhalten dafür eine Vergütung sowie die Möglichkeit, Erfahrungen auszutauschen. Diese Initiative soll die allgemeine Sicherheit und Zuverlässigkeit von KI-Modellen erhöhen und eine solide Grundlage für die zukünftige Entwicklung der künstlichen Intelligenz schaffen.