OpenAIは、AI大規模モデルの安全性と信頼性を確保することに尽力する安全システムチームの取り組みを発表しました。安全エンジニアリング、モデルセキュリティ研究、安全推論研究、ヒューマンコンピュータインタラクションなど、複数のチームが連携してAIの安全性の課題に取り組んでおり、モデルの行動と人間の価値観の一致を確保することに重点を置いています。モデル行動の一貫性を中心とした研究が、その取り組みの柱となっています。