前言去年，Google 推出了 NotebookLM，这是一款结合了大语言模型 (LLM) 与用户笔记的实验性 AI 笔记本，通过提供摘要、回答问题等方式帮助用户更好地理解某个主题。现在，它甚至可以与你讨论笔记内容。日前 Google 在 NotebookLM 中推出了「Audio Overview（音频概览）」功能，允许用户通过引人入胜的 AI 驱动对话讨论他们的笔记内容。对话由两位 AI 生成的主持人进行，他们利用你的内容背景来解释复杂的主题，做类比，并与你展开持续的对话。在现今的人工智能时代，NotebookLM 以其独特的功能和先

最近，微软发布了一个名为 Windows Agent Arena（WAA）的新平台，专门用于测试人工智能助手在真实 Windows 操作系统环境中的表现。这个创新的基准测试工具旨在加速 AI 助手的发展，使其能够在各种应用中执行复杂的计算任务，提升人机互动的效率。研究团队在 arXiv.org 上发布了一篇论文，指出大语言模型在作为计算机助手方面展现出巨大潜力，能在需要规划和推理的多模态任务中提升人类的工作效率和软件可访问性。然而，如何在真实环境中衡量 AI 助手的表现，依然是一个难题。Windows Agent

Arcee AI 推出 SuperNova，一款针对企业部署的 700 亿参数大型语言模型，旨在提供强大、可拥有、注重数据隐私、模型稳定性和定制化的 AI 解决方案。SuperNova 采用 Meta 的 Llama-3.1-70B-Instruct 架构，并通过创新的后训练过程，具备先进指令遵循能力。它支持企业完全定制，并允许在企业自有云环境中部署，确保数据隐私和稳定性。与基于 API 的服务相比，SuperNova 提供了更灵活的控制和稳定性。此外，SuperNova 支持模型的微调和持续改进，允许根据企业需求进行个性化调整。Arcee 还发布了开源组件，包括免费 API、8B 参数的开源版本模型和数据集生成管道，以促进开发者社区的评估和定制。SuperNova 的性能在数学推理领域表现出色，并提供了对第三方评估的开放性，以验证其性能声明。此模型的发布反映了企业对 AI 解决方案控制和定制需求的增长，以及对数据隐私和模型稳定性的重视。

​顺丰科技在9月8日的深圳国际人工智能展上发布了针对物流行业的垂直领域大语言模型——丰语。这一模型展示了在顺丰的市场营销、客服、收派、国际关务等业务板块的二十余个场景中的落地实践应用，标志着物流行业在人工智能领域的重大进步。

随着全球人工智能市场的迅速发展，图形单元（GPU）作为核心动力，对大语言模型驱动的应用程序至关重要。未来几年，GPU价格波动将显著增加，影响企业成本管理。传统上，能源密集型行业如矿业和物流业已习惯于成本波动，而金融和制药等行业则需迅速适应。Nvidia作为主要供应商，其GPU需求激增，估值飙升。GPU之所以受欢迎，是因其能够并行处理大量计算，适合训练和部署大型语言模型。由于需求激增，企业可能需采取策略以应对成本波动，如自行管理GPU服务器、提前采购或选择合适的GPU类型。地理位置选择也会影响成本，电力成本较低的地区可能成为降低成本的关键。面对AI计算领域快速发展的趋势，企业需制定策略以适应未来价格波动。

Cerebras Systems推出Cerebras Inference，宣称这是全球最快的AI推理服务，性能超越基于GPU的传统系统20倍，成本效益显著提高，特别适用于处理大语言模型（LLMs）。其8B版本每秒处理1800个token，70B版本则为450个token，速度和性价比远超NVIDIA GPU解决方案。Cerebras Inference在保持行业领先准确度的同时，价格仅为每百万个token10美分至60美分，相比GPU产品提升100倍。这项服务特别适合构建需要复杂实时性能的下一代AI应用，如智能代理和智能系统，并提供免费、开发者和企业三个层次的服务，满足不同需求。Cerebras Inference的核心技术基于Cerebras CS-3系统，搭载业界领先的Wafer Scale Engine3（WSE-3），提供远超NVIDIA H100的内存带宽。此服务不仅推动了AI计算领域的革新，还在医疗、能源、政府、科学计算和金融服务等多个行业中发挥关键作用，引领AI技术发展。

智谱AI开放平台宣布免费开放GLM-4-Flash模型，旨在推动AI应用创新。该模型以高速和经济性著称，适用于快速响应的简单任务，支持多轮对话、网页浏览、Function Call和长文本推理，覆盖26种语言。通过优化技术，如自适应权重量化、并行化、批处理和投机采样，GLM-4-Flash显著降低了推理成本，预训练阶段获得超过10T高质量多语言数据。模型在逻辑推理能力测试中表现出色，生成速度达到72.14token/s。其功能包括实时网页检索、函数调用等。在多个领域展现潜力，如生物研究、教育、翻译和广告。为鼓励用户反馈，提供限时免费微调福利，完成调查问卷即可获得训练资源包。

腾讯优图实验室等机构发布首个开源多模态大语言模型VITA，旨在填补大型语言模型在处理中文方言的空白。VITA基于Mixtral8×7B模型，扩展了中文词汇量，进行双语指令微调，精通英语与中文。其关键特点包括： 1. **多模态理解**：VITA能处理视频、图像、文本和音频，为开源模型中前所未见。 2. **自然交互**：无需特定唤醒词，可即时响应，保持礼貌不干扰。 3. **开源先锋**：推动多模态理解和交互领域的研究进展。 VITA通过双重模型部署实现精准、及时的交互，不仅能聊天，还能作为健身伙伴、旅游顾问，根据输入内容回答问题。在情感语音合成和多模态支持上，VITA正持续优化，目标是生成高质量音频和视频内容。VITA的开源发布，标志着智能交互方式的革新，未来将提供更智能、更人性化的体验。

埃隆·马斯克于8月11日通过X平台宣布，由其人工智能公司xAI开发的新型大语言模型Grok2的测试版即将面世。马斯克曾在三月份预测，Grok2将在各个性能指标上超越当前市场上的AI模型。

近期，全球范围内对“9.11比9.9大吗?”这一看似简单问题的讨论，揭示了当前大型语言模型（LLM）在处理简单逻辑问题时的失误，这一现象被称为“锯齿智能”或“参差不齐的智能”。专家Andrej Karpathy指出，虽然LLM能够解决复杂任务，但在某些简单问题上表现不佳，这反映了模型智能的不均衡性。例如，OpenAI研究员Noam Brown发现LLM在井字棋游戏中的决策错误，以及LLM在数字母数量计算上的失误。Karpathy认为，这源于模型的“毫无道理”决策和缺乏“自知之明”。为解决这一问题，Meta发布的Llama3.1论文提出了在后训练阶段实现模型对齐，通过“知识探测”训练方式鼓励模型只回答自己了解的问题，以此提高模型的智能水平。Karpathy强调，当前AI训练方法需在开发栈中进行更多工作，以提升AI能力。在AI用于生产环境前，应确保其专注于擅长的任务，保持人类的参与度，以充分利用AI潜力，同时规避风险。

Booz Allen Hamilton 在国际空间站上成功部署并运行了首个生成式AI大语言模型（LLM），标志着人工智能在太空领域的重大突破。这一模型利用HPE的Spaceborne Computer-2在ISS国家实验室运行，实现了在太空中使用强大AI助手处理复杂问题，检索信息，而不依赖地球互联网。开发过程仅历时八周，展示了AI在极端环境下的潜力。这一技术不仅对太空探索至关重要，还可能在偏远地区或灾难现场提供关键支持，展现了AI为人类创造、驱动及受益的能力。

Hugging Face 与 NVIDIA 合作推出推理即服务，利用NVIDIA NIM技术驱动，加速开发者原型设计并高效部署开源AI模型。此服务特别支持强大模型如Llama2和Mistral AI，处理速度比传统部署方式快五倍。通过NVIDIA DGX Cloud，开发者能训练模型，且Hugging Face宣布团队盈利、扩大至220人，并推出SmolLM小型语言模型系列。该合作旨在优化AI应用的响应速度和稳定性，简化从原型到生产的流程，为开发者社区提供强大支持。

AutoAlign是一种创新的知识图谱对齐方法，旨在解决不同知识图谱实体识别问题。它通过大型语言模型构建谓词邻近图，自动识别相似谓词，实现知识图谱间的实体对齐。无需手动种子对齐，其通过谓词对齐、实体对齐和联合学习机制，显著提高了对齐效率和准确性。在实体对齐任务中，AutoAlign表现优于现有方法，且其在知识图谱补全等应用中展现出潜力。AutoAlign不仅为知识图谱领域带来技术突破，还预示着在更广泛图或超图研究领域的应用前景。

B站推出“AIGC推荐广告标题”功能，利用大语言模型基于关键词生成创意广告标题，旨在快速提供吸引眼球、风格多样的标题以提升广告效果。该功能已成功产出数百条单日消耗过万的标题，其中最高消耗达10万，累计曝光量突破1000万。B站承诺持续优化，未来将提供更精准、针对性更强的标题，以满足用户需求，提高广告效果。此功能不仅简化了广告标题创作过程，还拓展了创意空间，体现了技术在提升广告效率和创意性上的重要作用。

英伟达推出了AI Foundry服务，旨在帮助企业开发和部署定制大语言模型，以提高准确度和控制力，应对市场快速变化。AI Foundry结合英伟达的硬件、软件工具和专业知识，帮助公司开发针对具体业务需求的定制化开源模型，如Meta的Llama3.1。该服务通过DGX Cloud和NeMo工具包提供高性能计算资源和模型定制评估，英伟达专家团队提供专业指导。NIM服务简化了模型部署过程，将定制模型打包成API可访问的容器化格式。这一举措正值AI安全性和治理问题受关注的背景下，为企业提供了创建和控制自己AI模型的途径，同时可能面临模型碎片化和保持一致AI安全伦理标准的挑战。

Meta推出了Llama3.1开源模型系列，包含405B参数版本，性能媲美GPT-4。其中，8B参数版本Llama3.1-8B-Instruct支持多国语言，上下文长度达131072tokens，通过2500万条合成数据训练，展现出与GPT3.5Turbo相似的认知和推理能力。OpenBuddy基于此模型，发布支持中文问答和跨语言翻译的OpenBuddy-Llama3.1-8B-v22.1-131K，尽管在中文知识特别是传统文化方面有限，但长文理解能力相对稳定。未来计划对更大模型进行更大规模训练，以增强中文知识和认知能力。

近日，Meta公司宣布开源其最新大语言模型Llama3.1405B。这一重磅消息标志着经过一年的精心筹备，从项目规划到最终审核，Llama3系列模型终于与公众见面。Llama3.1405B是一个具有1280亿参数的多语言工具使用模型。该模型在8K上下文长度预训练后，进一步通过128K上下文长度持续训练而成。根据Meta的说法，这个模型在多项任务中的表现可与业界领先的GPT-4相媲美。

2024年7月19日, RWKV开源基金会全球开源了其最新最强的稠密纯RNN大语言模型RWKV-6-World14B。此模型在性能测试中体现出与拥有213亿个参数的Llama相当的英文性能，并在100多种语言与代码上表现出显著的多语言优越性，支持全球100种以上的语言和代码。RWKV-6-World14B通过基准测试显示了出众的性能，特别是在Uncheatable Eval评测中超越了Llama213B和Qwen1.514B。优点在于，该模型在训练过程中未受特殊优化困扰，基于从RWKV-4到RWKV-6的架构改进。在当前的评价排名中，该模型不仅展示了强大的实际能力，还能够在包括arXiv论文、新闻、ao3小说和GitHub代码等实时数据上进行评估，表明了其在模型能力和泛化能力上的真实性。提供下载的平台有Hugging Face、ModelScope和WiseModel等，不支持safetensor（.st）格式的Ai00用户则可以下载都在Ai00HF仓库中转换的版本。部署所需显存约为10G至28G。此款模型在多个领域展现出潜力，涉及自然语言处理、文学创作、代码处理、学术建议以及教育指令的自动化等复杂的实际应用，并且所有开源的RWKV模型在指令与对话方面有所提供，但尚无专门针对特定任务的优化训练。

在人工智能领域的竞争日益激烈之际，OpenAI再次引领潮流，推出了名为GPT-4o mini的轻量级大语言模型。这一举措不仅标志着AI大模型向小型化发展的新趋势，更是OpenAI让先进AI技术"尽可能广泛普及"战略的具体体现。

微软研究人员推出全新AI框架Auto Evol-Instruct，该框架能自动适应和优化AI数据集生成过程，无需人工干预。不同于以往需要专家制定规则的演进方法，此框架直接利用大型语言模型（LLMs）分析指令、设计并优化演进规则。Auto Evol-Instruct能够自动提高指令遵循能力、数学推理和代码生成等任务的性能，显著提升LLMs表现。通过对比测试，该框架在多个基准测试中表现出色，超过同类模型，展现出高效的数据集演进和AI性能优化能力。