在当今数字化的世界里，短文本的使用已成为在线交流的核心。然而，由于这些文本往往缺乏共同的词汇或背景，使得人工智能（AI）在分析时面临诸多挑战。对此，悉尼大学的一名英语文学研究生兼数据科学家贾斯汀・米勒(Justin Miller)提出了一种新方法，利用大型语言模型(LLMs)对短文本进行深入理解和分析。米勒的研究重点在于如何将大量短文本，如社交媒体个人资料、顾客反馈或与灾难事件相关的在线评论，进行有效的分类。他开发的 AI 工具可以将数以万计的 Twitter 用户个人简介聚类

DeepSeek近日正式发布并开源了其最新研发的大型语言模型R1，该模型在性能上表现出色，被认为可与OpenAI的o1正式版相媲美。这一举措不仅标志着国产AI技术的又一次重大突破，也为全球AI开发者带来了新的选择。DeepSeek R1在后训练阶段大规模应用了强化学习技术，即便是在极少标注数据的情况下，也显著提升了模型的推理能力。在数学、代码、自然语言推理等关键任务上，DeepSeek R1的性能均能与OpenAI o1正式版平分秋色，展示了其强大的实力。为了回馈开源社区，DeepSeek同时开源了DeepSeek-R1和De

近日，浙江大学与阿里巴巴达摩院联合发布了一项引人瞩目的研究，旨在通过教学视频创建高质量的多模态教科书。这一创新的研究成果不仅为大规模语言模型（VLMs）的训练提供了新的思路，也可能改变教育资源的利用方式。随着人工智能技术的迅猛发展，VLMs 的预训练语料主要依赖图文对数据与图文交织语料。然而，当前的这些数据多来自网页，文本与图像的关联性较弱，知识密度也相对较低，无法有效支持复杂的视觉推理。为了应对这一挑战，研究团队决定从互联网上海量的教学视频

近日，一项由奥地利复杂科学研究所（CSH）主导的研究显示，尽管大型语言模型(LLMs)在多项任务中表现优异，但在应对高级历史问题时却暴露了短板。研究团队针对三大顶尖模型进行测试，包括 OpenAI 的 GPT-4、Meta 的 Llama 和谷歌的 Gemini，结果让人失望。图源备注：图片由AI生成，图片授权服务商Midjourney为了评估这些模型在历史知识上的表现，研究者们开发了一个名为 “Hist-LLM” 的基准测试工具。该工具依据 Seshat 全球历史数据库，旨在验证 AI 回答历史问题的准确性。研究结果在知名人工智

在多模态任务中，视觉语言模型（VLMs）起着至关重要的作用，如图像检索、图像说明和医学诊断等。这些模型的目标是将视觉数据与语言数据进行对齐，以实现更高效的信息处理。然而，目前的 VLMs 在理解否定方面仍面临重大挑战。否定在许多应用中至关重要，例如区分 “没有窗户的房间” 和 “有窗户的房间”。尽管 VLMs 取得了显著进展，但在处理否定陈述时，现有模型的表现却大幅下降。这种限制尤其在安全监控和医疗保健等高风险领域中显得尤为重要。现有的 VLMs，如 CLIP，采用共

2025年1月20日，上海阶跃星辰智能科技有限公司宣布推出其Step系列语言模型的两款新成员——Step-2mini和Step-2文学大师版。这一举措旨在满足不同创作场景下开发者对语言模型的差异化需求，进一步拓展其在人工智能领域的应用能力。

最新研究显示，尽管人工智能在编程和内容创作等领域表现出色，但在处理复杂的历史问题时仍显不足。近期在NeurIPS会议上公布的一项研究表明，即使是最先进的大型语言模型（LLM）在历史知识测试中也难以取得令人满意的成绩。研究团队开发了名为Hist-LLM的测试基准，对OpenAI的GPT-4、Meta的Llama和谷歌的Gemini三款顶级语言模型进行评估。测试基于Seshat全球历史数据库进行，结果令人失望:表现最佳的GPT-4Turbo准确率仅为46%。图源备注：图片由AI生成，图片授权服务商Midjourney伦敦大学学院副教授

近日，美国搜索引擎初创公司 Perplexity AI 向 TikTok 的母公司字节跳动提出了一项合并提案，计划将 Perplexity 与 TikTok 美国版合并成一个新实体。根据知情人士的透露，这一提案在面对即将到来的美国禁令时显得尤为重要。据了解，TikTok 正在面临美国政府的禁令，预计将在本周日生效，除非其能够切断与字节跳动的关系。然而，刚刚当选的总统唐纳德・特朗普表示，他可能会在周一给予 TikTok 一个为期 90 天的缓冲期，以便其能继续运营。这使得 TikTok 的未来充满变数。Perplexity AI 的合并计划旨

谷歌最近正式推出了 Vertex AI RAG 引擎，这是一款旨在简化从知识库中检索相关信息并将其输入大型语言模型（LLM）的复杂流程的开发工具。作为 Vertex AI 平台的一部分，Vertex AI RAG 引擎被定义为一种托管的编排服务和数据框架，专为开发上下文增强的 LLM 应用而设计。在1月15日的博客中，谷歌提到，尽管生成式人工智能和大型语言模型正在变革各行各业，但仍然存在一些挑战，例如虚假信息（生成不准确或无意义的信息）和超出训练数据的知识局限性，这些都可能阻碍企业的采纳。而 Vertex

传统的大型语言模型（LLM）微调方法通常计算密集，且在处理多样化任务时显得静态。为了解决这些挑战，Sakana AI 推出了一种名为 Transformer² 的新型自适应框架。Transformer² 能够在推理过程中实时调整LLM的权重，使其能够适应各种未知的任务，就像章鱼一样灵活。Transformer² 的核心在于一个两阶段机制:第一阶段，一个调度系统会分析用户的查询，识别任务的属性。第二阶段，系统会动态混合多个“专家”向量。这些向量是使用强化学习训练出来的，每个向量都专注于特定类型的任务，从而

近日，OpenAI 与纽约时报之间的版权侵权诉讼在美国联邦法院开庭。此案引发广泛关注，因为它不仅涉及两大知名机构，还可能对整个数字媒体生态系统产生深远影响。法庭上，OpenAI 及其主要投资者微软提出了驳回诉讼的动议，而纽约时报及其他原告则指控 OpenAI 和微软在未获得许可的情况下使用其内容来训练大型语言模型（LLM），并利用这些模型来与原告竞争，影响其网站流量和收入。纽约时报的律师在法庭上指出，OpenAI 在训练其模型时，可能直接复制了多篇新闻报道，有时甚至在回答

阿里巴巴达摩院近日推出了一款名为Valley2的多模态大型语言模型，该模型基于电商场景设计，旨在通过可扩展的视觉-语言架构，提升各领域性能并拓展电商与短视频场景的应用边界。Valley2采用了Qwen2.5作为LLM主干，搭配SigLIP-384视觉编码器，结合MLP层和卷积进行高效特征转换。

在人工智能技术快速发展的今天，如何在各种硬件上实现高效的模型推理成为了开发者们的一项重要挑战。最近，开发者 Andrei David 从一台近二十年的 Xbox360游戏机中找到了灵感，他成功地将 Meta AI 的 Llama LLM 系列中的一款轻量级模型 ——llama2.c 移植到这台老旧的游戏机上。David 在社交媒体平台 X 上分享了他的这一成就，称他面对的挑战非常巨大。Xbox360的 PowerPC CPU 采用了 big-endian 架构，这意味着在模型的配置和权重加载时，必须进行大量的 endian 性转换。此外，David 还需要对原始代码进行

近期，纽约大学的研究团队发表了一项研究，揭示了大规模语言模型（LLM）在数据训练中的脆弱性。他们发现，即使是极少量的虚假信息，只需占训练数据的0.001%，就能导致整个模型出现重大错误。这一发现对于医疗领域尤其引人关注，因为错误的信息可能直接影响患者的安全。图源备注：图片由AI生成，图片授权服务商Midjourney研究人员在《自然医学》杂志上发表的论文中指出，虽然 LLM 表现出色，但如果其训练数据中被注入了虚假信息，这些模型依然可能在一些开放源代码的评估基准上

近年来，人工智能（AI）的编程能力不断发展，但尚未达到完美。最近，BuzzFeed 的资深数据科学家 Max Woolf 通过实验发现，如果对大型语言模型(LLM)不断提供 “写更好代码” 的提示，AI 确实能够生成更优质的代码。这一发现引发了广泛关注，业界著名 AI 科学家们也对此表示了极大的兴趣，强调了迭代和提示词设计的重要性。在 Woolf 的实验中，他利用 Claude3.5Sonnet 这一版本的 AI 模型进行了一系列编程任务。起初，他给模型提出了一个简单的编程问题:如何找出一百万个随机整数中，各位数之

在多模态大语言模型（MLLMs）的推动下，图像和视频相关的任务取得了革命性的进展，包括视觉问答、叙述生成和交互式编辑等。然而，实现细粒度的视频内容理解仍然面临重大挑战。这一挑战涉及像素级的分割、带有语言描述的跟踪，以及在特定视频提示上进行视觉问答等任务。尽管当前最先进的视频感知模型在分割和跟踪任务上表现出色，但它们在开放式语言理解和对话能力方面仍显不足。此外，视频 MLLMs 在视频理解和问答任务上表现良好，但在处理感知任务和视觉提示方面依然力不

在人工智能领域，大语言模型的"幻觉问题"一直是困扰业界的关键挑战。近日，一项基于HHEM-2.1-Open评估体系的测试结果显示，智谱AI旗下的GLM-4-9B模型交出了一份令人瞩目的成绩单。测试数据显示，在参与评估的85个大语言模型中，GLM-4-9B以98.7%的事实一致性率和100%的回答率摘得桂冠。特别值得关注的是，该模型的幻觉率仅为1.3%，这一成绩不仅位居榜首，更是超越了行业巨头OpenAI的GPT系列和Google的Gemini系列模型。图源备注：图片由AI生成，图片授权服务商Midjourney这一突破性成果标志着中国大

随着企业越来越多地应用大型语言模型（LLMs），如何提升模型的知识准确性并减少幻觉现象，成为了一项重要挑战。Meta AI 的研究人员在一篇新论文中提出了 “可扩展记忆层”，或许能够为这一问题提供解决方案。可扩展记忆层的核心思想是在不增加推理时计算资源的情况下，向 LLMs 中添加更多参数，从而提升其学习能力。这种架构适用于需要储存大量事实知识但又希望保持推理速度的应用场景。传统的语言模型使用 “密集层” 来编码大量信息。在密集层中，所有参数在推理时几乎都是

香港中文大学（深圳）与深圳大数据研究院的研究团队近日联合发布了一款名为HuatuoGPT-o1的医疗大型语言模型(LLM)。这款模型专为医疗领域的复杂推理而设计，旨在提高医疗诊断和决策的可靠性。与以往侧重于数学推理的LLM不同，HuatuoGPT-o1专注于医疗这一特殊领域，通过模拟医生在实际工作中严谨的思考过程，为医疗AI的发展开辟了新的道路。该研究团队认识到，医疗领域的推理过程往往缺乏明确的步骤，难以验证。为了解决这一难题，他们从医疗考试题库中精选出4万道具有唯一、客观正

近年来，训练大型语言模型（LLM）变得越来越昂贵且复杂，只有少数大型科技公司具备相应的计算资源。不过，谷歌最近推出了一种名为 SALT(小模型辅助大模型训练)的新方法，这一创新可能会彻底改变 AI 训练的格局。图源备注:图片由AI生成，图片授权服务商Midjourney根据谷歌研究和 DeepMind 的最新研究论文，“一点帮助就能走得更远:通过利用小型语言模型实现高效的 LLM 训练”，SALT 引入了一种新的两阶段训练过程。这种方法不仅高效，而且更具实用性，改变了我们以往的训练方式。SALT 的