近日，随着 Meta 公司在一场关于版权的集体诉讼中披露的文件浮出水面，该公司利用一个名为 Library Genesis（LibGen）的盗版电子书图书馆来训练其最新的 AI 聊天机器人 Llama3的消息引发了广泛关注。这些文件显示，Meta 的工程师曾讨论过利用 LibGen 这一 “影子图书馆” 的潜在风险，尤其是在版权和数据拥有权问题日益突出的背景下。尽管存在潜在的负面影响和舆论风险，Meta 的首席执行官马克・扎克伯格依然批准了这一决定。图源备注：图片由AI生成，图片授权服务商Midjourney在法庭的要求下

近日，随着一起关于人工智能版权的案件 ——Kadrey 诉 Meta 案的进展，Meta 公司内部的消息被法庭解封，透露出公司高管在开发 Llama3过程中，执着于超越 OpenAI 的 GPT-4模型。Meta 的生成 AI 副总裁阿赫马德・阿尔 - 达赫（Ahmad Al-Dahle）在2023年10月的一条信息中提到:“老实说，我们的目标必须是 GPT-4。我们有64000个 GPU!我们需要学习如何建设前沿技术，赢得这场竞争。”尽管 Meta 发布开放的 AI 模型，但公司的 AI 领导层显然更关注那些不公开模型权重的竞争对手，比如 Anthropic 和 OpenAI，并将它们的

中国人工智能公司DeepSeek日前发布了一款具有里程碑意义的开源大语言模型DeepSeek V3。这款拥有6710亿参数的模型不仅规模超越Meta的Llama3.1，在多项基准测试中的表现也优于包括GPT-4在内的主流封闭源模型。DeepSeek V3的突出特点在于其强大的性能与高效的开发过程。该模型在编程平台Codeforces的竞赛中表现出色，并在测试代码集成能力的Aider Polyglot测试中领先竞争对手。模型训练采用了14.8万亿token的庞大数据集，参数规模达到了Llama3.1的1.6倍。更引人注目的是，DeepSeek仅用两个月时间、550万美元成

IBM 正式发布了其新一代开源大语言模型 Granite3.1，力图在企业级 AI 领域占据领先地位。这一系列模型具备128K 的扩展上下文长度、嵌入模型、内置的幻觉检测功能以及性能的显著提升。IBM 声称，Granite8B Instruct 模型在相同规模的开源竞争对手中表现最佳，包括 Meta 的 Llama3.1、Qwen2.5和谷歌的 Gemma2。Granite3.1模型的发布是在 IBM 快速迭代 Granite 系列的背景下进行的，早在10月份就推出了 Granite3.0。IBM 透露，其与生成 AI 相关的业务收入已达到20亿美元。新版本的核心理念是将更多功能集成到更小的

Meta近日宣布，推出其Llama系列的最新成员——Llama3.370B。Meta的生成式AI副总裁Ahmad Al-Dahle在X平台上发布了这一消息，并指出，Llama3.370B在性能上相较于Meta之前最大的Llama模型Llama3.1405B取得了显著进步，同时成本大幅降低。Al-Dahle表示，通过利用训练后的最新技术，Llama3.370B不仅提升了性能，而且降低了运营成本。根据Meta发布的基准测试结果，Llama3.370B在多个领域超过了谷歌的Gemini1.5Pro、OpenAI的GPT-4和亚马逊新发布的Nova Pro，尤其在评估模型理解语言能力的MMLU测试中表现优异。该模型现已可以从

最近，AI 大型语言模型（LLM）在各种任务中表现出色，写诗、写代码、聊天都不在话下，简直是无所不能!但是，你敢相信吗?这些“天才”AI 居然是“数学菜鸟”!它们在处理简单的算术题时经常翻车，让人大跌眼镜。一项最新的研究揭开了 LLM 算术推理能力背后的“奇葩”秘诀:它们既不依赖强大的算法，也不完全依靠记忆，而是采用了一种被称为“启发式大杂烩”的策略! 这就好比一个学生，没有认真学习数学公式和定理，而是靠着一些“小聪明”和“经验法则”来蒙答案。研究人员以算

昆仑万维科技股份有限公司宣布，其最新研发的天工大模型4.0O1版（英文名:Skywork O1）将于2024年11月27日启动邀请测试。天工大模型4.0O1版是国内首款具有中文逻辑推理能力的o1模型，它不仅在模型输出上内生了思考、计划、反思等能力，而且在标准评测集上，其推理能力相较于基座模型有了大幅上升，实现了模型推理能力的本质提升。

最近，Meta AI 推出了全新的量化 Llama3.2模型，包含1B 和3B 两个版本，这款模型可以在多种设备上进行微调、蒸馏和部署。过去，虽然像 Llama3这样的模型在自然语言理解和生成方面取得了显著成就，但其庞大的体量和高计算需求使得很多组织难以使用。训练时间长、能源消耗高以及对昂贵硬件的依赖，无疑加大了科技巨头与小型企业之间的鸿沟。Llama3.2的特点之一就是支持多语言文本和图像处理。1B 和3B 模型经过量化处理，平均可以缩小56% 的体积，并且在内存使用上减少了41%，并实现2-3倍的

最近，Zyphra 正式推出了 Zamba2-7B，这是一款具有前所未有性能的小型语言模型，参数数量达到7B。这款模型号称在质量和速度上超越了目前的竞争对手，包括 Mistral-7B、谷歌的 Gemma-7B 以及 Meta 的 Llama3-8B。Zamba2-7B 的设计目标是满足那些需要强大语言处理能力但又受限于硬件条件的环境，比如在设备上处理或使用消费级 GPU。通过提高效率而不牺牲质量，Zyphra 希望能让更广泛的用户，无论是企业还是个人开发者，都能享受到先进 AI 的便利。Zamba2-7B 在架构上做了很多创新，提升了模型的效率和表

在自然语言处理领域，大型语言模型（LLMs）的发展迅速，已经在多个领域取得了显著的进展。不过，随着模型的复杂性增加，如何准确评估它们的输出就变得至关重要。传统上，我们依赖人类来进行评估，但这种方式既耗时又难以规模化，无法跟上模型快速发展的步伐。为了改变这种现状，Salesforce AI 研究团队推出了 SFR-Judge，这是一个由三个大型语言模型组成的评估家族。这些模型分别拥有80亿、120亿和700亿个参数，基于 Meta Llama3和 Mistral NeMO 构建。SFR-Judge 能够执行多种评估任务，包括成

最近一周，AI 行业真是热闹非凡，谷歌和 Meta 都在推出新版本的 AI 模型，吸引了不少关注。首先，谷歌在周二宣布了其 Gemini 系列的新更新，推出了两个新的生产就绪模型 ——Gemini-1.5-Pro-002和 Gemini-1.5-Flash-002。这次更新大幅提升了模型的整体质量，尤其在数学、长上下文处理和视觉任务上都有显著进步。谷歌声称，在 MMLU-Pro 基准测试上，性能提升了7%，而数学相关任务的表现更是提高了20%。如果你关注 AI，应该知道基准测试的意义有限，但这次的数据还是很令人兴奋的。除了模型的性能提

Meta 在其年度 Meta Connect2024大会上发布了 Llama3.2，旨在提升边缘 AI 和视觉任务的能力。新推出的 Llama3.2模型包括11亿和90亿参数的中型视觉模型，以及1亿和3亿参数的小型模型，特别优化了在移动设备上的使用，支持高通和联发科的硬件。Meta 首席执行官马克・扎克伯格表示，这些模型将帮助开发者在不需要庞大资源的情况下实现创新，推动移动设备上的应用。“Llama3.2模型为开发人员带来了最先进的功能，而无需大量资源，可以直接在边缘和移动设备上实现创新和突破”值得一提的是，官方

智源研究院推出了一个名为Infinity-Instruct的千万级指令微调数据集，旨在提升语言模型在对话等方面的性能。近日，Infinity Instruct完成了新一轮迭代，包括Infinity-Instruct-7M基础指令数据集和Infinity-Instruct-Gen对话指令数据集。

Reflection70B，一款由HyperWrite发布的开源AI模型，声称是Meta公司的Llama3.1变种，并在第三方测试中表现出色，从而引发关注。然而，随后出现的广泛质疑源于HyperWrite创始人Matt Shumer在社交媒体上宣布模型为“全球最强的开源模型”，并分享了其“反射调优”技术。但Artificial Analysis组织的独立分析显示，Reflection70B的性能与Meta的Llama3.170B存在显著差异。Shumer解释称，上传到Hugging Face的模型权重问题导致性能下降。质疑焦点在于模型版本的差异、未发布的模型权重，以及最初性能声明的可信度。AI社区对此反应热烈，包括指控存在“欺诈行为”和模型可能基于竞争对手的代码。目前，社区正等待Shumer的回应和模型权重的更新。

HyperWrite公司宣布推出基于Meta开源Llama3.1-70B Instruct的Reflection70B模型，这款模型在第三方基准测试中表现卓越，被评价为“世界上最强大的开源AI模型”。新模型具有自我纠错技术，能够提供高精度答案，并在多个测试中超越Meta Llama系列。其在Hugging Face平台提供下载，通过Hyperbolic Labs的GPU服务接入。HyperWrite正计划将Reflection70B集成到其AI写作助手产品中，即将发布更新版本Reflection405B。Glaive公司为模型提供了高质量的合成数据集，加速了训练过程。HyperWrite作为AI初创公司，致力于提供准确性和安全性的解决方案，获得了280万美元的最新融资，其产品能够将网页浏览器转化为虚拟助手，支持各种任务。

Mamba 团队的研究成果集中于将大型 Transformer 模型 Llama “蒸馏”为 Mamba，通过设计新型推理解码算法，显著提高了推理速度。研究目标旨在利用 Llama 的丰富知识，同时降低从零开始训练大型模型的高成本。研究团队结合了渐进式蒸馏、监督微调和定向偏好优化等方法，将 Zephyr-7B 和 Llama-38B 成功转换为线性 RNN 模型，性能与原始模型相当。关键创新在于为 Mamba 设计的全新算法，结合硬件特性实现基于 Mamba 的推测解码，实现速度与性能的双重提升。研究中，通过逐步替换注意力层、应用监督微调和用户偏好优化，以及引入推测解码算法，研究人员在保持模型性能的同时，实现了高达1.5倍的推理加速。整个过程在8卡80G A100上运行3到4天，展现了高效的训练效率。这项研究为未来模型的推理速度和性能提升提供了新思路。

Cerebras Systems推出Cerebras Inference，宣称这是全球最快的AI推理服务，性能超越基于GPU的传统系统20倍，成本效益显著提高，特别适用于处理大语言模型（LLMs）。其8B版本每秒处理1800个token，70B版本则为450个token，速度和性价比远超NVIDIA GPU解决方案。Cerebras Inference在保持行业领先准确度的同时，价格仅为每百万个token10美分至60美分，相比GPU产品提升100倍。这项服务特别适合构建需要复杂实时性能的下一代AI应用，如智能代理和智能系统，并提供免费、开发者和企业三个层次的服务，满足不同需求。Cerebras Inference的核心技术基于Cerebras CS-3系统，搭载业界领先的Wafer Scale Engine3（WSE-3），提供远超NVIDIA H100的内存带宽。此服务不仅推动了AI计算领域的革新，还在医疗、能源、政府、科学计算和金融服务等多个行业中发挥关键作用，引领AI技术发展。

Meta 开源大模型 Llama3 在市场上的遇冷，引发了与闭源模型竞争的加剧。亚马逊 AWS 对其反应平淡，企业客户更倾向于 Anthropic 的闭源模型 Claude。微软也倾向于推荐工程师和数据科学家团队使用其他模型。这一现象促使 Meta 考虑组建专门的 AI 销售团队以更好地服务企业。开源模型在商业化过程中面临挑战，实际表现和商业回报未达预期，开源与闭源模型的商业策略形成对比。百度智能云 AI 与大模型平台总经理忻舟指出，开源模型与软件开源不同，难以通过社区提升性能，且在技术迭代上存在障碍。开源模型的“免费”概念可能掩盖了实际应用中的高成本，以及与闭源模型相比在大型商业项目中的劣势。忻舟分析了开源与闭源模型的适用场景，指出开源模型更适合学术研究，而闭源模型更适合需要对外服务的大型商业项目。当前大模型市场中，云服务商、模型提供商以及初创模型厂商各自扮演着不同的角色和商业模式。整体来看，开源模型在技术和商业模式上存在劣势，难以在需要高精度和高效能的商业场景中持续发展。

Nvidia研究团队利用模型剪枝和蒸馏技术，成功推出Llama-3.1-Minitron4B，这是Llama3模型的压缩版本，旨在实现设备上的人工智能。该模型通过深度剪枝和宽度剪枝技术，减少了原始8B模型的参数量，同时保持了与更大模型相近的性能。在训练数据量大幅减少（40倍）的情况下，该模型在MMLU基准测试中的性能提升了16%。该成果通过NVIDIA的NeMo-Aligner进行微调，适用于指令跟随、角色扮演、检索增强生成（RAG）和函数调用等任务。宽度剪枝版本已发布于Hugging Face平台，支持商业使用，为用户和开发者提供高效、性能卓越的模型选择。

一个仅有10人的初创公司Nous Research，以其名为Hermes3的AI模型挑战了科技巨头Meta的地位。Hermes3基于Llama3.1的模型进行微调，性能强大，优化了VRAM和磁盘需求，能够在单个节点上运行。该模型在对话能力、理解文本质量以及集成智能体能力方面表现出色，展现了一种超越传统语言建模的高级能力。Nous Research专注于开源，发布了一系列数据集和模型，表明了实力和创新能力并不取决于团队规模。