近日，微软提交了一项专利申请，旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”，于去年向美国专利商标局（USPTO）递交，并于10月31日公开。
这一提案的核心是为 AI 模型提供一种 “响应增强系统”（RAS），使其能够根据用户的查询自动提取更多信息，并检查其回答的 “有效性”。
具体来说，响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息，该系统会将其判定为不够有用。此外，RAS 还可以向用户提示其回答是否存在不足之处，用户也可以对此进行反馈。这一方案的优点在于，不需要开发者或公司对现有模型进行细致的调整。
目前，USPTO 网站尚未显示该申请的专利编号，这意味着该专利仍在审查之中。我们联系了微软以了解更多信息，包括该专利是否与微软此前宣布的降低 AI 幻觉的工具 ——Azure AI 内容安全工具有关。该工具为企业 AI 聊天机器人提供了 AI 驱动的验证，能够在后台进行事实核查，判断 AI 的回答是否 “无根基” 或 “有根基”，在向用户提供答案之前，只提供有实际数据支持的回答。
AI 幻觉问题是生成性 AI 面临的最大挑战之一，严重影响了 AI 聊天机器人的可信度。在这方面，谷歌和推特的 AI 系统都曾产生过令人瞩目的错误，例如建议用户将胶水涂在披萨上或食用石头，甚至传播选举虚假信息。苹果公司首席执行官蒂姆・库克也承认，苹果的智能技术同样无法避免幻觉问题。近期，OpenAI 的 “Whisper” 音频转录工具也被发现频繁出现幻觉，令其在美国医院的使用受到关注。
尽管 AI 幻觉问题突出，科技巨头们对 AI 数据中心的需求依然强烈，包括谷歌、微软和 Meta 在内的公司正考虑将核能作为满足 AI 高能耗需求的潜在解决方案。
划重点:
🔍 微软申请了一项新专利，旨在减少 AI 生成的虚假信息。
🤖 该专利的核心是为 AI 模型引入响应增强系统，自动提取更多信息。
⚡ 尽管 AI 幻觉问题严重，但科技公司对 AI 数据中心的需求依然强劲。