哥伦比亚大学 Tow 数字新闻中心的最新研究敲响了人工智能搜索服务的警钟。研究显示，ChatGPT 在引用新闻来源时存在严重准确性问题，即使是与 OpenAI 有直接合作的出版商也未能幸免。研究团队对来自20家不同出版商的200条新闻引文进行了全面测试，结果令人震惊:在这些案例中，ChatGPT 高达153起出现错误或部分不正确的来源信息。更令人担忧的是，该系统极少主动承认信息缺失，仅在七次尝试中坦诚无法找到来源。研究人员指出，为了维持用户体验，ChatGPT 宁愿编造答案，也不愿意承认信息

H2O.ai 近日宣布推出其新多智能体平台 h2oGPTe，该平台结合了生成式和预测性人工智能模型，旨在为企业提供更一致的响应。H2O.ai 的创始人兼首席执行官 Sri Ambati 表示，企业对 AI 智能体的一大需求就是保持响应的一致性。h2oGPTe 平台利用 H2O.ai 的自有模型 Mississippi 和 Danube，同时也可以访问其他大大小小的语言模型。该平台支持在不同环境中运行，包括空气隔离、内部部署和云系统。Ambati 强调，结合生成性与预测性人工智能，企业能够更有信心地使用这些智能体，而不会妥协安全性。h2oGPTe

根据 IBM 商业价值研究所的一项新调查，近一半的首席执行官对人工智能（AI）的准确性和偏见表示担忧。此次调研由 IBM 与牛津经济研究院合作进行，涉及来自24个国家的5000名高管，涵盖北美、拉丁美洲、欧洲、中东、非洲及亚洲的企业领导者。在 AI 治理方面，调查显示，21% 的高管认为其组织的 AI 治理成熟度处于系统化或创新阶段，这表明企业在这一领域还有很大的提升空间。AI 治理是指与伦理和人类价值观相一致的原则、政策及负责任的发展实践。为应对 AI 准确性和偏见带来的担忧，

生成式AI发展迅猛，但如何全面评估其性能一直是个难题。各种模型层出不穷，效果也是越来越惊艳。但是，问题来了，怎么评价这些文生图模型的效果呢?传统的评价方法，要么是靠人眼看，主观性太强;要么是用一些简单的指标，比如CLIPScore，但这些指标往往无法捕捉到复杂文本提示中的细节，比如对象之间的关系、逻辑推理等等。这就导致很多文生图模型的评测结果不准确，甚至会出现一些搞笑的情况，明明生成的图片驴唇不对马嘴，得分却还挺高。为了解决这个问题，卡耐基梅隆大学

谷歌 AI 工作室与 Gemini API 近日联合推出了 “与谷歌搜索的实时连接” 功能，旨在帮助开发者通过整合谷歌搜索的实时数据，提升 AI 模型的响应准确性。随着这项更新，Gemini1.5模型可以从谷歌搜索中获取最新信息，从而增强回答的准确性和透明性。开发者可以通过谷歌 AI 工作室的 “工具” 部分直接访问这一功能，或在 Gemini API 中启用 “google_search_retrieval” 工具。“与谷歌搜索的实时连接” 功能目前在谷歌 AI 工作室的免费试用版中可用，而 Gemini API 的定价则定为每1000个带有实时连接的

最近，OpenAI 发布了一个名为 SimpleQA 的新基准测试，旨在评估语言模型生成回答的事实准确性。随着大型语言模型的快速发展，确保生成内容的准确性面临着诸多挑战，尤其是那些所谓的 “幻觉” 现象，即模型生成了听起来很自信但实际上是错误或不可验证的信息。这种情况在越来越多的人依赖 AI 获取信息的背景下，变得尤为重要。SimpleQA 的设计特色在于它专注于短小、明确的问题，这些问题通常有一个确凿的答案，这样就能更容易地评估模型的回答是否正确。与其他基准不同，SimpleQA

近年来，大型语言模型（LLMs）在数据管理领域受到了广泛关注，应用范围不断扩大，包括数据整合、数据库调优、查询优化以及数据清洗等。然而，处理非结构化数据，尤其是复杂文档时，依然面临许多挑战。目前一些基于 LLM 的非结构化数据处理框架往往更注重降低成本，而忽视了提升处理准确性的问题。这一问题在分析复杂任务时尤为突出，因为 LLM 输出的结果往往无法精确满足用户的特定需求。以加州大学伯克利的调查报道项目为例，研究人员希望分析大量通过记录请求获得的警察

近年来，人工智能（AI）在医疗行业的影响越来越显著，特别是在疾病诊断和治疗规划方面。医学大型视觉语言模型(Med-LVLMs)的发展，为实现更智能的医疗诊断工具提供了新的可能性。然而，这些模型在实际应用中，常常面临一个不容忽视的问题，那就是事实幻觉。这种现象不仅可能导致错误的诊断结果，还可能对患者的健康产生严重的后果。为了解决这个困扰医学 AI 的问题，研究人员们开发了一种全新的多模态检索增强生成系统，命名为 MMed-RAG。这个系统的设计目标是提高 Med-LVLMs 的事实

在人工智能领域，如何准确地从知识数据库中获取信息一直是个大难题。近日，人工智能公司 Anthropic 宣布推出了一种名为 “上下文检索” 的新方法，旨在提高知识检索的精确度。该方法通过在检索时添加更多的上下文信息，帮助 AI 系统提供更准确的答案。现有的检索增强生成（RAG）系统通常将文档分割成小块进行索引，这样一来，重要的上下文信息可能会被忽略。Anthropic 的解决方案是在每个小块之前加上简短的文档摘要，这些摘要通常不超过100个字。例如，原本的文本片段 “该公司的

美国俄克拉荷马城警察局正在试验使用基于AI的聊天机器人“Draft One”生成报告，以节省时间。该系统由Axon公司开发，基于ChatGPT技术，能从音频记录中快速生成报告。支持者认为这能显著提高效率，但批评者担忧可能出现的错误、偏见及自动化可能带来的滥用权力问题。活动家Aurelius Francisco对使用同一公司提供的AI和电击枪感到不安，担心自动化可能导致骚扰、监视和暴力行为。目前，俄克拉荷马城仅将AI技术用于小型事件报告。在其他城市，如印第安纳州的拉法叶，应用范围更为广泛。警务专家Andrew Ferguson强调应谨慎对待自动化技术，确保警报的准确性对法律判决至关重要。Axon CEO Rick Smith则认为AI技术有巨大潜力，能减轻警员的繁琐工作，但警员仍需对其报告负责。当前，美国缺乏全国性的AI使用指导原则。

OpenAI新引入了一项名为Prover-Verifier Games（PVG）的技术，针对当前人工智能模型产生的"黑盒"问题提供了创新解决方案。该技术主要原理是让一个较小的模型（如GPT-3）监督较大、更复杂模型（如GPT-4）的生成输出，并通过模拟证明者和验证者的博弈过程，提高内容的正确性与透明度。证明者旨在创新并生成内容，验证者则判断内容的合理性。在迭代中，模型间相互学习，提升彼此效能。为了确保验证者模型的准确性和可靠性，大量真实、精确的标签数据至关重要。最终，PVG技术通过结合博弈论框架和训练机制，不仅优化了大型语言模型的输出性能，更使AI决策过程更具可验证性和可控性。

​Glyph-ByT5是一款专注于提高AI图像中文字渲染准确性的模型，近日该模型已经升级到了V2版本。新版本的Glyph-ByT5不仅在功能上有所提升，还显著增加了对多语言的支持，现在能够准确渲染10种不同语言的文本，大大增强了其在多语言环境下的应用广泛性和准确性。

["谷歌Gemini 1.5发布，拥有高达100万个令牌的上下文窗口，可处理完整书籍甚至电影。","在“海底捞针”测试中，Gemini 1.5的平均准确度仅为60%至70%。","在对《悲惨世界》的测试中，Gemini 1.5在人工评估中80%的答案可归因于源文档，机器评估则为91%。","Gemini 1.5的巨大上下文窗口可能在实际应用中存在问题，特别是在信息检索的可信度方面。","谷歌称OpenAI Sora生成的视频是伪造的，并指出其中存在重大不一致之处。"]

["大型语言模型在AI社区引起极大关注，展示强大能力。","苹果研究团队揭示WRAP技术用合成数据进行预训练大模型。","WRAP提高模型性能，改写网络文档，提升预训练效果。","使用高质量合成数据加速训练，提高整体性能，开创新途径。"]

["最新研究揭示，ChatGPT回答39个医学问题仅有10个准确，其余29个问题回答不完整或不准确。","研究人员发现在某些情况下，ChatGPT捏造了参考文献，引发对其可靠性的质疑。","OpenAI回应建议用户不要将ChatGPT的回答视为专业医学建议。"]

["研究结果显示ChatGPT在回答患者关于药物问题的准确性仅25%。","研究警告提供者，75%的答案存在错误或不完整，患者应谨慎依赖。","ChatGPT免费版拥有超过1亿用户，医疗提供者需注意其可靠性不足。","医生强调在使用ChatGPT获取药物信息时应通过可信赖的来源验证信息。"]

["人工智能正在改变天气预测领域，提供先进工具，提高准确性。","通过利用先进的天气模型，人工智能处理大量数据来实现这一目标。","AI 通过模拟和分析过去的天气事件，识别重复的天气模式，增强对未来天气条件的预测能力。","人工智能的应用带来了许多优势，但也引发了关于人类专业知识和人为触感在天气预测中的作用的问题。"]

["当前AI医疗诊断的准确性仍然存有很大疑虑,远远不能取代医生的经验。","解决获取足够医疗数据的问题,是提高AI医疗诊断准确性的关键。","影像识别和新药研发是当前AI医疗较大的增长机遇。","随着技术进步和数据积累,AI医疗诊断准确性将逐步提高。","AI医疗诊断正处于增长窗口期,前景广阔。"]

["AI 初创公司 Vectara 发布了名为 Boomerang 的新技术，通过向量嵌入提升 AI 的准确性。","Boomerang 是一种神经信息检索模型，生成向量嵌入的新方法，可进行跨语言检索。","Vectara 的目标是降低 AI 幻觉风险，提供更准确、解释性更好的结果。","Boomerang 的向量嵌入方法复杂度高，将在未来的研究论文中详细阐述。","通过 Boomerang 技术，Vectara 推动了企业 AI 的发展进步。"]

{"1":"Meta 推出了一种名为 Shepherd 的新的生成式 AI 工具，通过使用 AI 本身改进生成式 AI 工具的准确性。","2":"Shepherd 利用高质量的反馈数据集对模型的回答进行评估和改进，以提供更准确的输出。","3":"这项技术的目标是通过迫使生成式 AI 系统重新评估错误的答案，提高回复的准确性。"}