OpenAIは、同社の安全対策を発表しました。OpenAIは、その安全システムチームが、今日の現実世界におけるAIモデルの安全性と信頼性を確保する最前線にいると述べています。
安全システムチームは、AIモデルとその現実世界における展開の安全性、堅牢性、信頼性を確保することに尽力しています。彼らは、実践と研究を通じて安全上の問題に対処し、AIの安全と信頼性を確保するための基本的な解決策を開発しています。
安全チームは、安全工学、モデル安全研究、安全推論研究、人と機械のインタラクションなど、複数のチームで構成されています。OpenAIは、AIの安全上の問題、例えば、モデルが安全でない、または不適切な回答を避ける方法、有害な回答や操作を検出する方法、安全性を維持しながらユーザーのプライバシーを保護する方法などに取り組むことに尽力していると述べています。
また、モデルの行動の一貫性を中心とした研究を強調し、人と機械の協働や人間の専門家との協力を通じて、モデルの行動が人間の価値観と一致することを保証しています。
