OpenAIは最近、AIセキュリティ分野において、競合他社を凌駕する、より積極的なレッドチームテスト戦略を展開しました。特にマルチステップ強化学習と外部レッドチームテストという2つの重要な分野において顕著です。同社が発表した2つの論文は、AIモデルの品質、信頼性、セキュリティの向上のための新たな業界標準を確立しています。最初の論文『OpenAIのAIモデルとシステムに対する外部レッドチームテスト手法』では、内部テストでは見過ごされがちなセキュリティ上の脆弱性の発見において、外部専門チームが非常に効果的であることが示されています。これらの外部チームは、ネットワーク…

OpenAIは最近、新モデルのリリース前の安全対策とリスク評価の詳細を説明したGPT-4oシステムカードを発表しました。5月に正式リリースされたGPT-4oは、評価の結果、全体的なリスクは「中程度」とされ、主なリスクはサイバーセキュリティ、生物学的脅威、説得力、モデルの自律性に集中しています。研究者によると、GPT-4oは読者の意見に影響を与える点でより説得力を持つ可能性がありますが、全体として人間を上回るものではありません。システムカードの発表と同時に、OpenAIは内部従業員や州上院議員から、その対応について批判を受けています。