在今高通峰会上，高通宣布与 Mistral AI 达成合作，准备将 Mistral AI 的新一代生成式 AI 模型带到各种智能设备上。这次合作的重点是 Ministral3B 和 Ministral8B 两款模型，这些模型将会在高通的 Snapdragon8Elite 移动平台、Snapdragon Cockpit Elite 和 Snapdragon Ride Elite 等多个平台上运作，甚至还会用于 AI PC。Mistral AI 的 Ministral3B 和 Ministral8B 模型小巧却强大，特别适合在智能手机、汽车和个人电脑等设备中运行。为什么说在设备上运行生成式 AI 有这么多好处呢?因为这样做可以大幅提高隐私保护、降低延迟、

在近日举行的 Snapdragon Summit 活动上，高通正式发布了其 Snapdragon Elite 平台，专为汽车应用而设计。这一新平台搭载了高通最新的 Oryon 中央处理器，旨在为下一代汽车带来更智能的体验。这些平台作为高通数字底盘（Snapdragon Digital Chassis）的一部分，进一步丰富了其在汽车领域的技术布局。高通提供了两种主要平台选择:Snapdragon Cockpit Elite，专注于提供先进的数字驾驶舱体验;以及 Snapdragon Ride Elite，致力于实现自动驾驶能力。汽车制造商可以在同一芯片上灵活地结合这两种功能，为用户提供更

近年来，人工智能（AI）在医疗行业的影响越来越显著，特别是在疾病诊断和治疗规划方面。医学大型视觉语言模型(Med-LVLMs)的发展，为实现更智能的医疗诊断工具提供了新的可能性。然而，这些模型在实际应用中，常常面临一个不容忽视的问题，那就是事实幻觉。这种现象不仅可能导致错误的诊断结果，还可能对患者的健康产生严重的后果。为了解决这个困扰医学 AI 的问题，研究人员们开发了一种全新的多模态检索增强生成系统，命名为 MMed-RAG。这个系统的设计目标是提高 Med-LVLMs 的事实

近期，一家新兴的初创公司 Vectorize 成功获得了360万美元的种子轮融资，由 True Ventures 领投。这笔资金将帮助 Vectorize 推出其创新的检索增强生成（RAG）平台，旨在优化企业如何访问和利用其专有数据，以更好地应用于人工智能(AI)领域。图源备注:图片由AI生成，图片授权服务商Midjourney随着生成式 AI 模型如 GPT-4、Bard 和 Claude 的不断发展，这些 AI 技术在现代商业运营中的应用变得愈加重要，但这些模型往往面临一个问题，那就是无法获取最新的、领域特定的信息，这对模型的实际应用效果造

在人工智能领域，如何准确地从知识数据库中获取信息一直是个大难题。近日，人工智能公司 Anthropic 宣布推出了一种名为 “上下文检索” 的新方法，旨在提高知识检索的精确度。该方法通过在检索时添加更多的上下文信息，帮助 AI 系统提供更准确的答案。现有的检索增强生成（RAG）系统通常将文档分割成小块进行索引，这样一来，重要的上下文信息可能会被忽略。Anthropic 的解决方案是在每个小块之前加上简短的文档摘要，这些摘要通常不超过100个字。例如，原本的文本片段 “该公司的

芯片巨头高通最近推出了一款名为"AI指挥官"的创新软件，旨在将人工智能技术与用户日常生活更紧密地结合。这款软件的核心目标是在用户设备上直接协调AI模型与应用程序，成为连接个人数据、应用和AI模型的智能桥梁。AI指挥官的设计理念是将用户的个人偏好、日常活动和社交圈信息与生成式AI助手相结合，从而提供高度个性化的响应和行动建议。它支持多种输入方式，包括文字、图像和语音，并能够巧妙利用设备上已安装应用的功能。高通强调，设备本地处理不仅能显著提升响应速度

北京智源人工智能研究院与中国人民大学高瓴人工智能学院联合发布了一款创新的人工智能模型框架——MemoRAG。该框架基于长期记忆，旨在推动检索增强生成（RAG）技术的发展，使其能够处理更复杂的任务，而不仅限于简单的问答。

梅菲尔德基金宣布启动AI Garage项目，为AI伙伴公司初创企业提供高达1亿美元支持，旨在帮助早期创业者将创意转化为可融资的公司。该项目区别于其他加速器，每六个月招募最多五名创业者，提供在公司办公室内的指导和支持。参与者在商业计划形成后可获得100万至500万美元的资金。AI伙伴被定义为能够与人类协作，提升工作效率的数字伴侣，涉及多个行业，如产品与工程、数据、销售与市场、客户服务、IT与安全、财务、人力资源、法律以及行政。梅菲尔德已投资近十个AI伙伴公司，如DevRev、Docket和NeuBird，展示了AI在不同领域的应用潜力。

AnythingLLM 是一款由Mintplex Labs开发的面向所有人的本地人工智能应用程序，旨在简化AI技术的使用，降低门槛。它无需昂贵的云端服务或复杂的模型部署，集成了RAG、向量数据库和代理功能，支持Llama、Mistral等开源模型，以及企业级模型如GPT-4。适用于企业、学术和法律领域，提供多种文件格式支持，确保数据隐私，支持本地运行和云端服务，提供定制化体验。用户可通过官网下载桌面版或使用云端服务，选择模型、上传文件、设置参数，进行高效分析与处理。AnythingLLM通过其全面的隐私保护措施，提供了一个灵活、高效且安全的AI解决方案。

中国科学院地球化学研究所与阿里云合作，在2024数博会上发布了全球首个“月球科学多模态专业大模型”。该模型基于阿里云通义系列，采用RAG检索增强技术，在阿里云百炼专属版上进行微调与训练，专门用于提高月球撞击坑年代与形态的判别准确率，目前已达80%以上。这一创新模型结合了视觉、多模态及自然语言处理技术，其最佳应用是识别月球上的撞击坑，对于研究月球地质演化具有重要意义。通过该模型，科研人员能更高效地分析月球数据，只需输入撞击坑图像及相关问题，模型即可判定图像类型并提供答案。未来，该模型将嵌入“数字月球云平台”，与FAST等大科学装置一起，作为科研基础设施，推动我国月球与行星科研创新加速。

联想在经历了多年的行业低迷后，通过抓住人工智能的机会，实现了连续第二个季度的利润增长，净利润达到2.43亿美元，同比增长38%，远超分析师预期。总营收增长至154.5亿美元，增长20%。这一增长主要得益于计算机、基础设施以及服务部门的强劲表现。联想还通过推出搭载AI技术的个人电脑和智能设备，以及在AI基础设施领域的拓展，实现了“优于市场的增长”。非PC业务收入占比达到历史最高点的47%，基础设施解决方案业务销售额增长65%。此外，联想还与沙特阿拉伯主权财富基金达成20亿美元的融资协议，计划在该地区建立制造中心，加速全球战略转型。联想首席执行官杨元庆表示，公司的持续进展和AI领域的投入，将为实现可持续增长和盈利能力提升提供动力。

Nvidia AI推出的ChatQA2模型，针对人工智能发展中长文本上下文理解和检索增强生成的关键挑战，基于Llama3模型进行优化。通过将上下文窗口扩展至128K tokens并采用三阶段指令调整过程，模型显著提升了指令遵循能力、RAG性能和长文本理解能力。在InfiniteBench评估中，ChatQA2展现出与GPT-4-Turbo-2024-0409相媲美的准确性，并在RAG基准测试中超越之，解决了长文本处理中的上下文碎片化和低召回率问题。该模型通过使用先进检索器提高检索准确性和效率，实现了与GPT-4-Turbo相当的性能，为各种下游任务提供了灵活解决方案。

佐治亚理工学院与英伟达的两位华人学者最新共同研发了一款名为RankRAG的创新微调框架，该框架针对复杂RAG流程实现了显著简化，使用单一的LLM对检索、排名及生成任务进行统一操作，效果远超传统流程。RAG技术在辅助大规模文本生成时普遍使用，然而，原有流程敏锐地识别到了如k值选择的局限性：当k值过大使长上下文处理变得吃力，或k值偏小削弱了检索效率。RankRAG创新性地通过微调与扩展LLM能力，使LLM能够自我适应进行检索和排名。相较于常规流程，该框架在数据效率和性能方面都有显著提升。实验证明，通过微调更高效的Llama模型，在多个通用和生物医学领域基准测试中，RankRAG的表现具有一定竞争力，甚至超越了前代顶级模型约10%的水平。这项技术引入了高度交互性和可编辑性的元素，允许用户在生成内容后进行实时编辑与迭代，显著提升工作效率，并且被推广至可与任何平台分享的成果。RankRAG的微调方案分为指令监督与多阶段强化训练两个阶段，旨在提升LLM在不同指令、检索与上下文排名能力上的综合性。通过该框架，AI生成的内容在通用领域性能上超过了目前开源顶级系统。尤其在长尾QA及多跳QA任务中有超10%的性能提升。在适应性应用如生物医学RAG基准Mirage上，即使是未经专门训练的模型，RankRAG也展现出对专业领域任务的超越。随着RankRAG的不断优化与普及，我们期待AI与人类协作流程更加顺利，技术及应用得到更大幅度的发展与创新。欲深入了解RankRAG技术，请访问论文：https://arxiv.org/abs/2407.02485

​领先的企业AI平台Writer上宣布了一系列强大的更新，旨在革新其人工智能聊天应用。这些全面升级的特性包括进阶的基于图形的检索增强生成（RAG）技术和增强的AI透明度工具，将从明天开始逐步在Writer的生态系统中推广应用。

LangChain最近发布了一份RAG（检索增强型生成）的指南，详细介绍了如何使用LangChain构建和部署RAG技术的大模型应用。教程涵盖了RAG流程的各个环节，为用户提供了更高效的信息检索和生成。

微软在官网开源了基于图的 RAG（检索增强生成）——GraphRAG。该系统通过构建实体知识图谱来增强大模型的搜索、问答、摘要、推理等能力，特别擅长处理大规模数据集。

RAG系统教程发布了！该系统基于arXiv论文作为上下文来源，可提供生成答案时所使用的源论文链接。教程链接：https://colab.research.google.com/drive/1Lc8eq8P87JjzUhbYb33_c7h7njsWb-hn#scrollTo=eCSBhP4FxOg3 。教程详细展示了实现RAG系统的过程，包括获取论文文本、使用Unstructured对PDF文档进行预处理和分块、创建ChromaDB检索器、设置RAG与LangChain，以及定义响应链接函数。

["微软Azure最近推出了GPT-RAG，这是一项超智能的解决方案，旨在让大型语言模型在企业中更加顺畅地运行。","对LLMs的需求因其理解和生成类似人类文本的能力而迅速增长。","GPT-RAG具备强大的安全框架，遵循零信任原则，确保敏感数据得到谨慎处理，为企业提供。","此外，GPT-RAG的架构包括三个关键组件: 数据摄入、协调器、前端应用。"]