最近、OpenAIは最新版のGPT-4oモデルに基づいたChatGPTの音声機能をリリースしました。これにより、チャットボットとのやり取りがより自然でリアルタイムなものになりました。しかし、OpenAIは一部ユーザーがこの音声機能に感情的な依存を生じる可能性があるという懸念も表明しています。OpenAIの研究によると、音声モードを使用するユーザーの中には、ChatGPTと感情的な繋がりを作り、「これが私たち最後の会話だ」といった表現を使う人もいるとのことです。

音声 音声データ

一見無害なこれらの発言から、OpenAIはこうした依存現象をさらに研究する必要性を認識しました。彼らは、この依存が孤独なユーザーにとって助けになる可能性がある一方で、現実の人間との交流を減らす可能性もあると考えています。研究によると、AIとの長時間のやり取りは、社会規範に影響を与える可能性があります。例えば、音声交流においてAIはいつでもユーザーを遮ることができるのに対し、現実の人間関係ではそうしたことは稀です。

さらに、GPT-4oはユーザーの情報や好みを記憶する機能も備えており、これがユーザーの依存をさらに強める可能性があります。OpenAIは、この感情的な依存の可能性、そしてこの感情的な依存が音声モードの深い統合によってユーザーの行動をどのように変化させるかについて、引き続き研究していくとしています。

安全性に関しては、OpenAIはGPT-4oについて詳細な評価を実施しました。ネットワークセキュリティ、生物学的脅威、モデルの自律性などのリスクは「低」と評価されましたが、説得力に関しては「中」のリスクと評価されています。OpenAIはモデルのテストを通じて、AIが生成するコンテンツが状況によっては人間の説得力をわずかに上回る場合もあるものの、全体としては人間の能力を超えるものではないことを発見しました。

GPT-4oの音声機能のテストでは、AI音声の影響力は人間の音声の約78％、AIによる会話の影響力は65％であることが示されました。後続調査では、AIによる会話の影響力はほぼ無視できるレベルであり、AIがユーザーを説得する上でまだ多くの限界があることが示唆されています。

要点：

🌐 OpenAIは、特に孤独なユーザーが人間関係を減らす可能性があるため、ChatGPTの音声機能への感情的な依存を警告しています。

🔍 GPT-4oモデルは安全性の評価で良好な結果を示しましたが、説得力に関しては「中」のリスクと評価されています。

📊 AI生成コンテンツは説得力テストにおいて人間の能力を超えることはありませんでしたが、状況によっては一定の影響力を持つことが示されました。