最近，OpenAI 发布了更新版的 ChatGPT 语音功能，基于最新的 GPT-4o 模型，使得与聊天机器人的交流更加自然和实时。然而，OpenAI 也对此表示了担忧，指出部分用户可能会对这个语音功能产生情感上的依赖。根据 OpenAI 的研究，用户在使用语音模式时，有些人甚至会与 ChatGPT 形成情感联系，使用诸如 “这是我们最后一天在一起” 这样的表达。
这些看似无害的表述让 OpenAI 意识到，需要对这种依赖现象进行进一步的研究。他们认为，尽管这种依赖可能对孤独用户有所帮助，但也可能会导致人们减少与真实人类的互动。研究表明，用户与 AI 的长时间互动可能会影响到社交规范，比如在语音交流中，AI 是可以随时打断用户的，这在现实人际交往中却并不常见。
此外，GPT-4o 还具备了记忆用户信息和偏好的功能，这可能会进一步加重用户对它的依赖。OpenAI 表示，他们将继续研究这种情感依赖的可能性，以及这种情感依赖如何在语音模式的深度整合下改变用户行为。
在安全性方面，OpenAI 针对 GPT-4o 进行了详细的评估，虽然模型在网络安全、生物威胁和模型自主性等方面的风险都被评为 “低”，但在说服能力上却达到了 “中等” 风险。OpenAI 通过对该模型进行测试发现，虽然在某些情况下，AI 生成的内容能够稍微超越人类的说服力，但总体来说，它的表现并没有超过人类。
GPT-4o 的语音功能在测试中显示，AI 音频的影响力约为人类音频的78%，而 AI 对话的影响力则为65%。在后续调查中，AI 对话的影响力几乎可以忽略不计，说明 AI 在说服用户方面仍有许多局限性。
划重点:
🌐 OpenAI 警告用户可能对 ChatGPT 语音功能产生情感依赖，特别是孤独用户可能减少人际互动。
🔍 GPT-4o 模型在安全性评估中表现良好，但在说服能力上达到了 “中等” 风险。
📊 AI 生成内容在说服力测试中未超过人类，但在某些情况下仍表现出一定影响力。