OpenAI的新型图像AI DALL-E 3当前正在部署到ChatGPT和Bing图像创造器中。OpenAI正记录其努力防止用户生成潜在有害或令人反感的图像。文件显示DALL-E 3融入ChatGPT既是一个安全措施,也是一个方便措施。这是因为ChatGPT可以使用所谓的“提示转换”来检查用户提示可能违反内容的情况,然后在违规似乎不故意的情况下重写它们以绕过违规。为了设置边界和测试,OpenAI还依靠红队演练,其中指定的个人通过有针对性的提示尝试使DALL-E 3产生错误的想法。对于性别歧视或其他“令人不安”的内容,OpenAI训练了一个图像输出分类器来检测图像中的可疑模式,并停止生成。发布版本的DALL-E 3已经将此类不需要的图像的风险降低到0.7%。就版权问题而言,OpenAI承认,尽管采取了所有缓解风险的措施,但由于无法预测每种可能的组合,某些常见物品可能与品牌或商标内容强相关,因此可能作为逼真场景渲染的一部分而生成出来。