OpenAIのGPT-4早期警戒システム

アメリカのAI研究企業OpenAIは最近、大規模言語モデルが生物学的脅威に関する情報の取得効率をインターネットと比べて向上させることができるかどうかを検討するため、GPT-4の早期警戒システムの開発に着手しました。

このシステムは、潜在的な生物兵器の存在の可能性を示唆する「トリガー」として機能し、さらなる調査が必要であることを示し、OpenAIの予防策の枠組みにも組み込まれます。

関連研究では、100人の参加者が、生物学的危険に関するタスクにおいて、GPT-4とインターネットを組み合わせることで、正確性と完全性がわずかに向上することを示しましたが、その効果は顕著ではありませんでした。

この研究は、情報取得のみを評価し、実際の応用は評価していないという限界を強調しており、GPT-4が新型生物兵器開発に潜在的に貢献する可能性については触れていません。

同時に、OpenAIはより多くの用途を提供するために、複数の新しいモデルのリリースを発表しました。