随着人工智能技术的迅猛发展，AI 生成的文本、图像和视频在各个领域的应用日益成熟。然而，这也伴随着信任危机的出现，虚假信息的传播对社会造成了潜在的威胁。为了应对这一挑战，腾讯于近日推出了一款全新的 AI 生成内容检测工具，旨在通过 AI 技术 “打假 AI”。这款工具由腾讯的朱雀实验室研发，分为 AI 生成文本检测和 AI 生成图像检测两个系统。腾讯官方指出，尽管 AI 生成的图像在外观上愈加真实，但仍然存在一定的可识别性。通过对上传图像进行几秒钟的快速验证，用户可

OpenAI 内部就是否推出水印技术以标记 ChatGPT 生成文本，以及防止学生抄袭，引发了讨论。水印技术通过调整模型预测的单词和短语，生成可检测模式，旨在帮助教师检测作业抄袭，不影响文本质量。虽然技术准确度高，对简单改写有抵抗能力，但使用其他模型改写能绕过水印，引发担忧。实施水印可能使部分用户感到被污名化，导致用户减少使用。为了在技术有效性和用户体验间找到平衡，OpenAI 正探索嵌入元数据的方法，此方法通过加密签名避免误判，但仍处于早期阶段评估。

["OpenAI正研发一款高度准确的AI检测工具，可识别AI生成的图像。","OpenAI首席技术官Mira Murati表示，该工具可靠性高达99%。","这一工具对防止虚假新闻报道具有重要意义。","OpenAI还计划推出GPT-5之后的新人工智能模型。"]