在人工智能迅速发展的今天，AI “幻觉” 现象愈加频繁，给许多企业带来了不小的困扰。客户服务聊天机器人自信地描述不存在的产品，金融 AI 编造市场数据，医疗机器人则提供危险的医疗建议。这些问题不再是单纯的趣事，而是正在影响公司声誉与盈利的重大隐患。为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球首个自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。Patronus AI 的首席执行

在经历了 COVID-19时期的线上考场后，校园里的传统现场考试又重新回到了我们的视野。这一变动的背后，除了为了让学生们重温真实考试的 “紧张氛围”，还有一个不容忽视的:作弊和人工智能的泛滥。自从像 ChatGPT 这样的智能工具进入我们的生活，似乎作弊的概率也随之飙升。根据 Turnitin 的数据，2023年4月推出的 AI 检测功能在第一年内，竟然发现每十篇论文中就有一篇是部分使用 AI 撰写的。于是，在这学期，像 “统计推断 I” 和 “遗传学” 这两门课程的教授们纷纷决定转向现场考试。

OpenAI 内部就是否推出水印技术以标记 ChatGPT 生成文本，以及防止学生抄袭，引发了讨论。水印技术通过调整模型预测的单词和短语，生成可检测模式，旨在帮助教师检测作业抄袭，不影响文本质量。虽然技术准确度高，对简单改写有抵抗能力，但使用其他模型改写能绕过水印，引发担忧。实施水印可能使部分用户感到被污名化，导致用户减少使用。为了在技术有效性和用户体验间找到平衡，OpenAI 正探索嵌入元数据的方法，此方法通过加密签名避免误判，但仍处于早期阶段评估。

["加利福尼亚大学洛杉矶分校健康琼斯顿综合癌症中心的研究人员获得了一项为期五年的500万美元资助，以开展侵袭性前列腺癌的人工智能检测研究。","美国国家癌症研究所提供资金旨在发现新的癌症生物标志物，开发AI技术用于检测和预测侵袭性前列腺癌。","尽管在前列腺癌的诊断和治疗方面取得了一些进展，但该疾病仍然是男性健康领域的普遍问题。"]

["OpenAI正研发一款高度准确的AI检测工具，可识别AI生成的图像。","OpenAI首席技术官Mira Murati表示，该工具可靠性高达99%。","这一工具对防止虚假新闻报道具有重要意义。","OpenAI还计划推出GPT-5之后的新人工智能模型。"]