OpenAIs neue Bild-KI DALL-E 3 wird derzeit in ChatGPT und den Bing Bildgenerator integriert. OpenAI dokumentiert seine Bemühungen, die Erstellung potenziell schädlicher oder anstößiger Bilder durch Benutzer zu verhindern. Dokumente zeigen, dass die Integration von DALL-E 3 in ChatGPT sowohl eine Sicherheits- als auch eine Komfortmaßnahme darstellt.
Dies liegt daran, dass ChatGPT sogenannte „Prompt-Transformationen“ verwenden kann, um zu prüfen, ob Benutzer-Eingaben gegen die Inhaltsrichtlinien verstoßen. Bei nicht absichtlichen Verstößen werden diese Eingaben dann umgeschrieben, um diese zu umgehen.
Um Grenzen zu setzen und das System zu testen, setzt OpenAI auch auf Red-Team-Übungen. Dabei versuchen speziell dafür vorgesehene Personen durch gezielte Eingaben, DALL-E 3 zu Fehlern zu verleiten.
Für geschlechtsspezifische Diskriminierung oder andere „störende“ Inhalte hat OpenAI einen Bildausgabe-Klassifikator trainiert, der verdächtige Muster in Bildern erkennt und die Generierung stoppt. Die veröffentlichte Version von DALL-E 3 hat das Risiko solcher unerwünschten Bilder auf 0,7% reduziert.
Bezüglich des Urheberrechts räumt OpenAI ein, dass trotz aller Risikominderungsmaßnahmen einige gängige Gegenstände aufgrund der Unvorhersehbarkeit aller möglichen Kombinationen stark mit Marken- oder Warenzeicheninhalten korrelieren können und daher als Teil der Renderings realistischer Szenen generiert werden könnten.
