グーグル前CEOのエリック・シュミット氏は、BBCのインタビューで人工知能（AI）技術の可能性のあるリスクについて懸念を表明しました。テロリストや「ならず者国家」がAI技術を利用して罪のない人々を害する可能性、特に生物兵器製造の可能性を指摘しました。画像注記：画像はAIによって生成され、画像ライセンスサービスプロバイダーMidjourneyから提供されています。シュミット氏は、北朝鮮、イラン、ロシアなどの国々が、この新興技術を悪用する可能性があると述べています。

OpenAIは最近、GPT-4の早期警戒システムの開発に着手し、大規模言語モデルがインターネットと比較して生物学的脅威に関する情報の取得効率を向上させることができるかどうかを検討しています。このシステムは、潜在的な生物兵器の存在を示唆する「トリガー」として機能することを目的としています。100人の参加者による研究では、GPT-4とインターネットの組み合わせを使用することで、生物学的危険に関するタスクの正確性と完全性がわずかに改善されましたが、効果は顕著ではありませんでした。情報の取得のみを評価し、実際の応用は検討されておらず、GPT-4による新型生物兵器の開発の可能性については触れられていません。

🔍 言語モデルをサポートするチャットボットは、生物兵器攻撃の計画を支援する可能性があります。📊 レポートによると、ボットは生物攻撃計画と実行手順を提供しましたが、明確な生物学的指示は提供しませんでした。🔒 レポートは生物兵器の脅威を警告し、AI企業に対し、デリケートな話題におけるボットの開放性を制限するよう求めています。