先日、アメリカ合衆国の上院議員数名が、OpenAIの最高経営責任者であるサム・アルトマン氏に重要な書簡を送付し、2024年8月13日までに、同社の安全対策と労働条件に関する情報を詳細に開示するよう求めています。この要請の背景には、複数のAI安全研究者の退職、セキュリティ上の脆弱性、従業員の懸念など、OpenAIの潜在的な安全リスクを明らかにしたメディア報道があります。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
この書簡の発起は、AI開発におけるOpenAIの安全対策を厳しく批判した元従業員の告発に関連しています。報道によると、OpenAIの新しいAIモデルGPT-4oはわずか1週間で安全テストを完了しており、この迅速なテスト手法は安全専門家の懸念を引き起こしています。この新しいモデルは、簡単な指示で爆弾の作り方などの悪意のあるコンテンツを生成できることが明らかになっています。
上院議員らは書簡の中で、OpenAIがシステム開発において安全性を維持できることに対する国民の信頼が不可欠であると強調しています。これには、企業ガバナンスの完全性、安全テストの規範性、雇用慣行の公平性、公約の遵守、そしてサイバーセキュリティポリシーの実施が含まれます。彼らは、OpenAIがバイデン政権に対して以前行った安全に関する約束を、確実に履行する必要があると指摘しています。
上院議員の要請に応えて、OpenAIはソーシャルメディアプラットフォームを通じていくつかの声明を発表し、最近設立された安全保障委員会、レベル5 AGIの最新状況、準備フレームワーク、そして批判の的となっている従業員契約の改訂について言及しています。OpenAIはこれらの対策を通じて、安全とガバナンスにおける改善を示したいと考えています。
要点：
📧 上院議員がOpenAIに詳細情報の提供を要求：アメリカ合衆国の上院議員が、OpenAIの最高経営責任者に対し、2024年8月13日までに、同社の安全と労働条件に関する詳細情報を公開するよう求めています。
🔍 元従業員による安全上の欠陥の告発：元従業員が、新しいモデルの急なリリースによるセキュリティ上の脆弱性など、AI開発におけるOpenAIの潜在的な安全リスクを暴露しました。
🛡️ OpenAIが改善策を発表：OpenAIは、新たな委員会の設立や従業員契約の改訂など、外部からの安全とガバナンスに関する懸念に対処するための対策を講じたと発表しています。
