人工智能公司 Anthropic 近日宣布开发了一种名为“体质分类器”的新安全方法，旨在保护语言模型免受恶意操纵。该技术专门针对“通用越狱”——一种试图系统性绕过所有安全措施的输入方式，以防止 AI 模型生成有害内容。为了验证这一技术的有效性，Anthropic 进行了一项大规模测试。公司招募了183名参与者，在两个月内尝试突破其防御系统。参与者被要求通过输入特定问题，试图让人工智能模型 Claude3.5回答十个禁止的问题。尽管提供了高达15，000美元的奖金和约3，000小时的测试时间，

阿里云通义千问开源了全新的视觉模型Qwen2.5-VL，并推出了3B、7B和72B三个尺寸版本。其中，旗舰版Qwen2.5-VL-72B在13项权威评测中夺得视觉理解冠军，超越了GPT-4o与Claude3.5。阿里云官方介绍称，新的Qwen2.5-VL能够更准确地解析图像内容，并突破性地支持超过1小时的视频理解。该模型可以在视频中搜索具体事件，并对视频的不同时间段进行要点总结，从而快速、高效地帮助用户提取视频中的关键信息。此外，Qwen2.5-VL无需微调即可变身为一个能操控手机和电脑的AI视觉智能体（Visual Agents），实现多

为了加强其AI模型的透明性和可追溯性，Anthropic于周四宣布推出一项新功能——Citations。该功能旨在帮助开发者在通过Claude AI系列生成的答案中，提供来自源文档的精确引用，包括句子和段落。这一创新功能首次推出后，立即在Anthropic的API和Google的Vertex AI平台上提供支持。Citations功能:提高文档透明度与准确性根据Anthropic的介绍，Citations功能可以自动为开发者提供AI模型生成的答案来源，引用源文档中的确切句子和段落。这一功能尤其适用于文档摘要、问答系统以及客户支持应用程序，能够

在最近的访谈中，Anthropic 的 CEO Dario Amodei 表达了对人工智能未来发展的乐观预测。他指出，预计在未来2-3年内，各个领域将出现比人类更强大的 AI 系统。尽管这一观点可能引发一些担忧，Amodei 强调，AI 的发展不应简单地被视为对人类工作的替代，而是应与人类形成互补，进而提高生产力。图源备注：图片由AI生成，图片授权服务商MidjourneyAmodei 认为，当前对 AI 领域的诸多讨论，尤其是关于推理模型和大规模强化学习的趋势，并不代表新的发展范式，而是一种持续演变的过程。他指出，AI

字节跳动正式推出其最新的豆包大模型1.5Pro（Doubao-1.5-pro），这一新模型在多个领域的综合能力上表现出色，成功超越了行业内知名的 GPT-4o 和 Claude3.5Sonnet。该模型的发布标志着字节跳动在人工智能领域又向前迈出了重要一步。豆包1.5Pro 采用了新型的稀疏 MoE（混合专家）架构，使用较小的激活参数进行预训练。这种设计的创新之处在于其可以提供等效于7倍激活参数的 Dense 模型性能，使其在效率上远超行业常规的 MoE 架构，带来了约3倍的效率提升。这样的设计使得豆包大模型在知识、代码

据华尔街日报报道，在所有AI订阅服务中，ChatGPT Plus展现出了惊人的用户粘性，其6个月后的付费用户留存率高达71%，位居行业第一。这份由Earnest Analytics提供的数据显示，紧随其后的是Anthropic的Claude Pro服务，留存率达到62%。Google的Gemini Advanced以60%的留存率位列第三，而Perplexity Pro和Character.AI（c.ai+）的留存率分别为49%和47%。与此同时，OpenAI正在为ChatGPT Plus、Pro和Teams用户推出新功能，允许用户设置定时或周期性任务。该公司表示，企业版用户也将很快获得这项功能，免费用户未来同样会享受

阿联酋穆罕默德・本・扎耶德人工智能大学（MBZUAI）近日发布了一款名为 LlamaV-o1的先进人工智能模型，能够高效解决复杂的文本和图像推理任务。这一模型通过结合前沿的课程学习和先进的优化技术，如波束搜索（Beam Search），在多模态人工智能系统中树立了新的基准，特别是在逐步推理的透明性和效率方面。LlamaV-o1的研究团队表示，推理是解决复杂多步骤问题的基本能力，尤其是在需要逐步理解的视觉情境中。经过特别调校，该模型在许多领域中表现出色，例如分析财务图表和医学影像

近年来，人工智能（AI）的编程能力不断发展，但尚未达到完美。最近，BuzzFeed 的资深数据科学家 Max Woolf 通过实验发现，如果对大型语言模型(LLM)不断提供 “写更好代码” 的提示，AI 确实能够生成更优质的代码。这一发现引发了广泛关注，业界著名 AI 科学家们也对此表示了极大的兴趣，强调了迭代和提示词设计的重要性。在 Woolf 的实验中，他利用 Claude3.5Sonnet 这一版本的 AI 模型进行了一系列编程任务。起初，他给模型提出了一个简单的编程问题:如何找出一百万个随机整数中，各位数之

近期，BuzzFeed 的高级数据科学家麦克斯・伍尔夫进行了一项实验，探索通过反复请求 AI 改进代码的效果。实验中，他使用了 Claude3.5语言模型，给出了一个经典的编程挑战:编写 Python 代码，以找出一百万个随机数中，数字之和为30的最大值和最小值之间的差值。图源备注：图片由AI生成，图片授权服务商Midjourney在初始版本中，Claude 生成的代码运行时间为657毫秒。然而，随着伍尔夫不断输入 “写出更好的代码（write better code）” 这一简单指令，最终生成的代码运行时间缩短至仅6毫秒，提升了

据外媒报道，人工智能初创公司 Anthropic 正在接近600亿美元的估值。这一消息的背后，透露出投资者对人工智能领域的浓厚兴趣。Anthropic 是一家以开发 Claude AI 聊天机器人而闻名的公司，最近正在寻求一轮高达20亿美元的投资。这笔资金的筹集进一步彰显了人工智能行业巨大的资金流入和市场潜力。Anthropic 的成立背景始于对安全和可控的人工智能系统的需求，公司的愿景是开发出更具人性化和安全性的 AI 产品。Claude AI 作为公司的旗舰产品，在多项自然语言处理任务中表现出色。随着全球范

Typing Mind 是一个第三方工具，旨在为用户提供更优质的 ChatGPT 使用体验。由独立开发者 Tony Dinh 创建，它支持多种大模型，包括 OpenAI 的 GPT 和 Anthropic 的 Claude，具备聊天会话、多会话列表及 Prompt 模版等基础功能，且无需下载安装，使用方便。这款工具 还支持私有化部署，提供数据隐私保护，其商业模式包括付费购买 License Key、云端数据存储服务及收费的私有部署服务。而这样的一个“套壳”产品，已经实现获得了100万美元收入的里程碑。近日，创业者 Tony Dinh 正式对外分享了他的公司 Ty

在人工智能领域风起云涌的2024年，大模型技术出现了革命性的突破。随着OpenAI的Sora横空出世，以及多家科技巨头推出重磅产品，不仅打破了GPT-4的市场垄断格局，更带来了性能与价格的双重突破。这一年，AI赛道竞争异常激烈，18家公司密集发布超70款模型，其中不乏超越GPT-4性能的佳作。谷歌Gemini1.5Pro凭借突破性的长文本处理能力和视频理解能力，开创了多模态交互的新时代。同时，Claude3系列和Meta的Llama3.3等产品也因其卓越表现获得用户青睐，特别是Claude3.5Sonnet在多项评测中展现出惊人实

近期，国产大模型DeepSeek V3在AI竞技场的优异表现引发业界关注。作为唯一闯入前十的开源模型，它不仅超越了o1-mini，在编程、数学等多个领域甚至超过了Claude3.5Sonnet。为验证其实际能力，多方展开了一系列实测对比。在基础理解能力测试中，两个模型展现出不同特点。面对中文脑筋急转弯"小明的妈妈有三个孩子"的问题，DeepSeek V3表现出色，不仅答对还进行了自我验证。但在英文双关语"April Fools Day"的测试中则略显不足，未能理解其中的语言巧思，而Claude3.5Sonnet则轻松应对。逻辑推理测试

近期，科技新闻网站TechCrunch披露了一则消息，谷歌正在使用Anthropic公司的Claude AI模型来评估其自家的Gemini AI模型性能，这一行为引发了业界对于合规性的广泛讨论。据报道，TechCrunch查看了内部通信文件，显示谷歌Gemini项目的承包商正在将Gemini的回应与Claude的回应进行对比分析，以评定Gemini输出的准确性和质量。在这一评估过程中，承包商需要在30分钟内判断哪个AI模型的回答更为优秀。报道还提到，在谷歌内部用于AI模型比较的平台上，Claude的回应中出现了对自身明确的引用。在安全性方

备受期待的Deepseek V3终于开源!这款全新的AI模型在多语言编程能力上取得了重大突破，其在aider多语言编程测评中的表现，甚至超越了Claude3.5Sonnet V2等竞争对手，引发了业界广泛关注。据了解，Deepseek V3相比之前的版本，在性能上实现了质的飞跃。Deepseek V2.5在aider测评中的成功率仅为17%，而V3则暴增至48%，这充分展现了其强大的进步。Deepseek V3采用了高达6850亿参数的混合专家（MoE）架构。该架构包含256个专家，并使用sigmoid路由方式，每次选取前8个专家(topk=8)参与计算，这种设计使得模型能够

近期的研究表明，市场上最先进的 AI 聊天机器人竟然对一些简单的技巧十分敏感，甚至可以被轻易 “越狱”。根据《404媒体》的报道，Claude 聊天机器人的开发公司 Anthropic 发现，只需在提示中故意加入一些拼写错误，便能使这些大型语言模型忽视自身的安全防护措施，生成一些本应拒绝回答的内容。图源备注:图片由AI生成，图片授权服务商Midjourney研究团队开发了一种简单的算法，名为 “最佳选择（Best-of-N， BoN）越狱”，通过对同一提示的不同变体进行尝试，诸如随机大写字母、字母替

科技巨头们在AI领域的竞争日趋白热化，而最近曝光的一则消息再次将行业竞争的暗流涌动推向了台前。据TechCrunch获得的内部通信内容显示，负责改进谷歌Gemini人工智能模型的承包商，竟然在将其答案与Anthropic的竞品模型Claude的输出进行比较。此举引发了外界对于谷歌是否获得Anthropic授权使用Claude进行测试的合规性质疑。在科技公司竞相开发更优秀AI模型的当下，通常是通过行业基准测试来评估模型性能，而非由承包商耗费大量精力去评估竞争对手的AI回复。然而，据爆料，Gemini的承包商需

近日，谷歌的 Gemini 人工智能项目正在通过比较其输出结果与 Anthropic 公司的 Claude 模型来提升自身性能。据 TechCrunch 获得的内部通信记录显示，负责 Gemini 改进的承包商正在系统地评估这两种 AI 模型的回答。图源备注：图片由AI生成，图片授权服务商Midjourney在 AI 行业，模型的性能评估通常通过行业基准测试来进行，而不是让承包商逐一对比不同模型的答案。负责 Gemini 的承包商需要根据多个标准对模型的输出进行评分，包括真实性和详细程度。他们每次有多达30分钟的时间来判断 Gemini 和

据TechCrunch获得的内部通讯显示，谷歌正让承包商将其Gemini AI与Anthropic的Claude进行对比评测，此举引发了合规性质疑。文件显示，负责改进Gemini的承包商需要在30分钟内根据真实性和详尽度等多个标准，对比评估Gemini和Claude的回答质量。承包商近期在谷歌内部评测平台上发现了明确提及Claude的内容，其中包含"我是Claude，由Anthropic创建"的字样。内部讨论显示，承包商注意到Claude在安全方面的表现更为严格。有承包商称"Claude的安全设置是所有AI模型中最严格的"。在某些案例中，当Gemini的回答因

近日，一项新的研究论文揭示了不同 AI 语言模型在合作能力方面的显著差异。研究团队采用了一种经典的 “捐赠者游戏”，测试了 AI 代理在多代合作中如何共享资源。结果显示，Anthropic 的 Claude3.5Sonnet 表现出色，成功建立了稳定的合作模式，获得了更高的资源总量。而谷歌的 Gemini1.5Flash 和 OpenAI 的 GPT-4o 则表现不佳，尤其是 GPT-4o 在测试中逐渐变得不合作，Gemini 代理的合作程度也十分有限。研究团队进一步引入了惩罚机制，以观察不同 AI 模型的表现变化。结果发现，Claude3.5的表现有了显