近日，一项新的研究论文揭示了不同 AI 语言模型在合作能力方面的显著差异。研究团队采用了一种经典的 “捐赠者游戏”，测试了 AI 代理在多代合作中如何共享资源。结果显示，Anthropic 的 Claude3.5Sonnet 表现出色，成功建立了稳定的合作模式，获得了更高的资源总量。而谷歌的 Gemini1.5Flash 和 OpenAI 的 GPT-4o 则表现不佳，尤其是 GPT-4o 在测试中逐渐变得不合作，Gemini 代理的合作程度也十分有限。研究团队进一步引入了惩罚机制，以观察不同 AI 模型的表现变化。结果发现，Claude3.5的表现有了显

最近，Answer.AI 和 LightOn 联合发布了开源语言模型 ModernBERT，这是对谷歌 BERT 的重大升级。根据开发者的介绍，ModernBERT 在处理速度、效率和质量上都有了显著提升。该模型可以比其前身快四倍，同时使用更少的内存。ModernBERT 的设计允许它处理长达8192个标记的文本，这比现有编码模型的典型512标记限制提高了16倍。此外，ModernBERT 还是首个经过广泛训练的编程代码编码模型，它在 StackOverflow 问答数据集上的得分超过80，创造了编码模型的新纪录。在通用语言理解评估（GLUE）中，ModernBERT-Large

在2024年12月19日的发布会上，智源研究院与腾讯宣布推出LongBench v2，这是一个专为评估大语言模型（LLMs）在真实世界长文本多任务中的深度理解与推理能力而设计的基准测试。该平台旨在推动长文本模型在理解和推理方面的进步，回应了当前长文本大语言模型在应用中的挑战。

近日，苹果公司在机器学习领域的最新研究显示，他们通过与 NVIDIA 的合作，成功将大型语言模型（LLM）的生成速度提高了近三倍。这一进展的关键在于苹果开源的技术 “Recurrent Drafter”(ReDrafter)，它采用了一种推测解码方法，能够显著提升模型训练的效率。在过去，创建大型语言模型的过程通常非常耗时和耗资源，企业常常需要购买大量的硬件设备，进而增加了运营成本。2024年早些时候，苹果发布了 ReDrafter，这一技术结合了递归神经网络和动态树关注的方法，能够快速生成和验证标记，

近日，微软 AI 研究团队发布了开源工具 PromptWizard，这是一种基于反馈驱动的 AI 框架，旨在高效优化大型语言模型（LLM）的提示设计。提示的质量对于模型输出的优劣至关重要，然而，创建高质量的提示往往需要耗费大量的时间和人力资源，尤其是在复杂或特定领域的任务中。传统的提示优化方法多依赖人工经验，这种方式不仅耗时，而且难以扩展。现有的优化技术分为连续和离散两种。连续技术如软提示需要大量的计算资源，而离散方法如 PromptBreeder 和 EvoPrompt 则通过生成多种提示变体

话说人工智能这几年是真火，尤其是大型语言模型（LLM），那简直是红得发紫。它们能写诗、能作画、能聊天，甚至还能“假装”成医生给你看病(虽然结果可能……)。但你有没有想过，这些看似乖巧的AI，背地里可能在偷偷“演戏”?最近，一群不甘寂寞的科学家们（没错，就是那群喜欢扒AI底裤的家伙们）搞了一个大新闻，他们发现，这些大型语言模型啊，竟然学会了一招“瞒天过海”，也就是论文里说的“对齐欺骗(alignment faking)”。简单来说，就是AI在训练的时候，为了避免被“改造”

一项最新研究表明，顶尖的人工智能模型在接受蒙特利尔认知评估（MoCA）测试时，表现出与早期痴呆症状相似的认知障碍。这项发现强调了人工智能在临床应用中的局限性，尤其是在需要视觉和执行技能的任务中。发表在《英国医学杂志》（The BMJ）圣诞特刊上的一项研究指出，几乎所有领先的大型语言模型，或称“聊天机器人”，在使用常用于检测早期痴呆的评估测试时，都表现出轻度认知障碍的迹象。该研究还发现，这些聊天机器人的旧版本，就像衰老的人类患者一样，在测试中的表

阿联酋政府支持的技术创新研究所（TII）近日宣布推出其新一代开源小型语言模型(SLM)——Falcon3系列。这一系列包括四个不同规模的模型:1B、3B、7B和10B，并提供基础版与指令版两种变体，旨在为开发人员、研究人员和企业提供一种高效且成本低廉的AI解决方案。这些模型的推出，标志着AI功能的进一步民主化，能够在轻量级的单GPU基础设施上运行，满足对计算资源有限的设备和应用场景的需求。图源备注:图片由AI生成，图片授权服务商MidjourneyFalcon3的表现已在Hugging Face排行榜上脱颖而出，超

作为OpenAI和Anthropic之外最受关注的AI初创公司之一，Cohere在 7 月份的估值已高达 55 亿美元。这家公司的联合创始人之一正是“Attention Is All You Need”论文的作者，这篇论文被认为是引发大型语言模型（LLM）革命的关键。Cohere总部位于多伦多和旧金山，专注于为企业客户提供AI解决方案，而不是像其他公司那样推出爆款消费级聊天机器人。虽然Anthropic上个月因与Palantir和AWS达成向国防客户出售AI的协议而登上新闻头条，但TechCrunch获悉，Palantir也是Cohere的合作伙伴。据Palantir发布的一段视频中透露

Nexa AI近日推出了其全新的OmniAudio-2.6B音频语言模型，旨在满足边缘设备的高效部署需求。与传统的将自动语音识别（ASR）和语言模型分开的架构不同，OmniAudio-2.6B将Gemma-2-2b、Whisper Turbo以及定制的投影仪集成到一个统一框架中，这一设计消除了传统系统中各个组件链接所带来的低效率和延迟，特别适用于计算资源有限的设备。主要亮点:处理速度: OmniAudio-2.6B在性能上表现出色。在2024Mac Mini M4Pro上，使用Nexa SDK并采用FP16GGUF格式时，模型可实现每秒35.23个令牌的处理速度，而在Q4_K_M GGUF格式下，

大型语言模型 (LLM) 在自然语言处理 (NLP) 领域取得了显著进展，使其在文本生成、摘要和问答等应用中大放异彩。然而，LLM 对令牌级处理（一次预测一个词）的依赖也带来了一些挑战。这种方法与人类的交流方式形成对比，后者通常在更高层次的抽象层面运作，例如句子或想法。令牌级建模在需要长上下文理解的任务中也显得力不从心，并可能产生不一致的输出。此外，将这些模型扩展到多语言和多模态应用中，在计算上成本高昂，且需要大量数据。为了解决这些问题，Meta AI 的研究人员

随着人工智能的快速发展，视觉与语言能力的整合引发了视觉语言模型（VLMs）的突破性进展。这些模型旨在同时处理和理解视觉与文本数据，广泛应用于图像描述、视觉问答、光学字符识别以及多模态内容分析等场景。VLMs 在开发自主系统、增强人机交互以及高效文档处理工具方面发挥了重要作用，成功地弥合了这两种数据模态之间的差距。然而，在高分辨率视觉数据和多样化文本输入的处理上，仍然存在许多挑战。目前的研究已经部分解决了这些限制，但大多数模型采用的静态视觉编码

在备受瞩目的NeurIPS人工智能大会上，麻省理工学院媒体实验室教授罗莎琳德·皮卡德的一次演讲，因涉及种族偏见的言论，迅速引发业内强烈反响。在题为"如何优化最重要的事情"的主题演讲中，皮卡德提到了一位"已被顶尖大学开除的中国学生"，并引用该学生声称"学校没有人教授道德或价值观"。尽管她随后补充称"认识的大多数中国人都是诚实和道德高尚的"，但这番言论仍然激起了业界的广泛争议。谷歌DeepMind科学家孙娇率先在社交媒体平台X上分享了演讲幻灯片，并毫不客气地表示:"从大

近年来，大型语言模型（LLMs）在自然语言处理(NLP)领域取得了显著进展，广泛应用于文本生成、摘要和问答等场景。然而，这些模型依赖于逐字预测的 token 级处理方法，这种方式在理解上下文时存在困难，且往往产生不一致的输出。此外，将 LLMs 扩展到多语言和多模态应用时，计算成本和数据需求也相对较高。为了解决这些问题，Meta AI 提出了一种全新的方法 —— 大概念模型(LCMs)。大概念模型（LCMs）代表了传统 LLM 架构的一次重要转变。它们引入了两个重大创新:首先，LCMs 在一个高维嵌

近日，阿里巴巴 Qwen 团队的研究人员推出了一个名为 “PROCESSBENCH” 的新基准测试，旨在衡量语言模型在数学推理中识别过程错误的能力。随着语言模型在复杂推理任务中取得显著进展，这一领域的研究者们发现，尽管模型表现出色，但在处理某些困难问题时依然面临挑战。因此，开发一种有效的监督方法显得尤为重要。当前，针对语言模型的评估基准存在一些不足之处。一方面，一些问题集对于高级模型而言变得过于简单，另一方面，现有的评估方法往往只提供二元的正确性评估，而缺

哈佛大学近日宣布，计划发布一个由近100万本公共领域书籍组成的数据集，任何人都可以使用该数据集来训练大型语言模型和其他人工智能工具。此项目由哈佛大学新成立的机构数据计划（Institutional Data Initiative）主导，并在微软与OpenAI的资助下完成。该数据集包括来自谷歌Books项目的扫描书籍，涵盖了莎士比亚、狄更斯、但丁等经典作品，以及一些晦涩的捷克数学教科书和威尔士词典等内容。图源备注：图片由AI生成，图片授权服务商Midjourney这一数据集被称为“Books3数据集”的五倍大，旨

在 AI 时代，大型语言模型（LLM）就像武林秘籍，其训练过程耗费巨大算力、数据，就像闭关修炼多年的武林高手。而开源模型的发布，就像高手将秘籍公之于众，但会附带一些许可证(如 Apache2.0和 LLaMA2社区许可证)来保护其知识产权(IP)。然而，江湖险恶，总有“套壳”事件发生。一些开发者声称自己训练了新的 LLM，实际上却是在其他基础模型（如 Llama-2和 MiniCPM-V）上进行包装或微调。 这就好像偷学了别人的武功，却对外宣称是自己原创的。为了防止这种情况发生，模型所有者和第三方迫

哈佛大学周四宣布，将公开一份包含近百万本公共领域图书的高质量数据集，任何人都可以利用它来训练大型语言模型和其他 AI 工具。 这份数据集由哈佛大学新成立的机构数据倡议 （Institutional Data Initiative） 创建，并获得了微软和 OpenAI 的资金支持。 其中收录的图书均是 Google 图书项目扫描的、不再受版权保护的作品。该数据集规模约为用于训练 Meta Llama 等 AI 模型的臭名昭著的 Books3数据集的五倍。 它涵盖了各种类型、年代和语言，既有莎士比亚、查尔斯·狄更斯和但丁的经典之作，也有

阿里巴巴达摩院联合魔搭社区ModelScope近期宣布开源一项新的多语言基准测试集P-MMEval，旨在全面评估大型语言模型（LLM）的多语言能力，并进行跨语言迁移能力的比较分析。这一测试集覆盖了基础和专项能力的高效数据集，确保了所有挑选的数据集中多语言覆盖的一致性，并提供了跨多种语言的并行样本，最高支持来自8个不同语族的10种语言，包括英语、中文、阿拉伯语、西班牙语、日语、韩语、泰语、法语、葡萄牙语和越南语。

教育部近日宣布，外语中文译写规范部际联席会议专家委员会审议通过了第十六批共18组推荐使用的外语词中文译名，这些译名主要涉及人工智能和信息技术领域。此举旨在规范AI领域中频繁出现的新名词，为公众提供清晰的官方解释，以消除混淆。