最近，OpenAI 在水印技术的问题上陷入了内部讨论。根据《华尔街日报》的报道，该公司早已研发出一种水印技术，用于标识 ChatGPT 生成的文本，并且还准备了一种检测工具。但是否将这一技术推向市场，内部意见分歧。
从某个角度看，推出水印技术似乎是负责任的做法。这项技术能够通过调整模型预测的单词和短语，创建出一种可检测的模式。虽然这听起来有点复杂，但它的目的很明确 —— 帮助教师们防止学生抄袭使用 AI 生成的作业。报告指出，这种水印不会影响聊天机器人的文本质量。而且，OpenAI 在一项调查中发现，全球范围内，支持 AI 检测工具的人数超过反对者四倍。
不过，水印技术的实施并不那么简单。OpenAI 的博客更新确认了该公司已经开发了水印技术，并表示这种方法的准确性非常高，声称达到 “99.9% 有效”。而且，这种水印对 “篡改” 具有一定的抵抗能力，比如简单的改写。不过，OpenAI 也指出，使用其他模型进行改写就能轻易绕过这一水印，这让他们感到担忧。
此外，OpenAI 还考虑到，水印可能会使一些用户感到被污名化，尤其是对于非母语者来说。因此，尽管有员工认为水印是有效的，但调查显示，近30% 的 ChatGPT 用户表示如果实施水印，他们可能会减少使用。因此，有些员工建议探索一些 “相对不那么具争议” 的方法，尽管这些方法的有效性尚未得到验证。
在今天的博客更新中，OpenAI 提到他们正在 “早期阶段” 探索嵌入元数据的方法，并表示目前仍然太早判断其效果如何。不过，他们指出，由于这种元数据是经过加密签名的，因此可以避免误判。
划重点:
✅ OpenAI 内部对于水印技术的推出存在分歧，是否发布仍在讨论中。
📊 调查显示，全球范围内多数人支持 AI 检测工具，但用户担忧水印影响使用。
🔒 OpenAI 正考虑采用嵌入元数据的方法，力求在技术与用户体验间找到平衡。