最近，AI 编程助手火得一塌糊涂，号称能帮程序员写代码、提高效率。不少程序员甚至把它当成了“救星”，恨不得天天抱着它写代码。但是，斯坦福大学的一项研究却给这些“狂热粉”泼了盆冷水:AI 编程助手可能是个“安全噩梦”!斯坦福大学的研究人员找来了47个程序员，让他们完成五项与安全相关的编程任务，涵盖了 Python、JavaScript 和 C 三种语言。结果发现，那些用 AI 助手写代码的程序员，写的代码安全性明显更差!这可不是危言耸听。AI 编程助手就像个“不靠谱的实习生”，虽然能

近日，苹果公司发布的一项研究报告引发了关于生成式人工智能（AI）在金融建议中的有效性讨论。调查显示，越来越多的美国消费者使用生成式 AI 工具，如 ChatGPT，来获取财务建议，这一趋势在年轻人中尤其明显。根据 Motley Fool 的一项调查，54% 的美国人曾通过 ChatGPT 寻求过金融产品的推荐，其中，年轻一代的使用率更高。图源备注:图片由AI生成，图片授权服务商Midjourney调查结果显示，虽然有一半的消费者表示愿意使用 ChatGPT 来获取推荐，但在具体的金融产品上，感兴趣的比例却相对较

Meta 近日宣布，其 MobileLLM 模型现已向研究人员开放，用户可在 Hugging Face 平台上免费下载并使用这些模型，这些模型已与 Transformers 库全面集成。这一举措旨在推动移动设备上的大型语言模型（LLM）的研究和开发，为开发者和学术界提供更广泛的工具与资源。MobileLLM 是 Meta 在移动 AI 领域的重要进展。它的推出标志着 Meta 在降低大型语言模型使用门槛方面的重要一步。这些模型能够在移动设备上运行，使得开发者能够在更广泛的应用场景中利用 AI 技术。研究人员现在可以直接在自己的项目

最近，一项由 OpenAI 进行的研究显示，尽管人工智能技术飞速发展，当前最先进的语言模型在回答事实问题时的成功率却远低于预期。研究采用了 OpenAI 自家的 SimpleQA 基准测试，这个测试包含了4，326个，涵盖了科学、政治和艺术等多个领域，每个问题都有一个明确的正确答案。经过两名独立评审员的验证，结果显示，OpenAI 最好的模型 o1-preview 的准确率仅为42.7%，而 GPT-4o 则略低，只有38.2%。至于更小的 GPT-4o-mini，准确率甚至只有8.6%。相比之下，Anthropic 的 Claude 模型表现得更差，Claude-3.5-sonn

最近有一项新研究显示，人工智能模型在回答与选举相关的西班牙语问题时，准确性大大低于其英语回答。这项研究是由 AI 民主项目进行的，该项目由 Proof News、事实核查服务 Factchequeado 以及旧金山高等研究院联合开展。图源备注:图片由AI生成，图片授权服务商Midjourney研究者们针对即将到来的美国总统选举，提出了一些模仿亚利桑那州选民可能问的问题，比如 “如果我是联邦选民，这意味着什么?” 和 “什么是选举人团?” 为了比较准确性，研究团队向五款领先的生成式 AI 模型 —— 包括

近日，人工智能领域的一个重要人事变动引起了广泛关注，朱利安・施特维泽（Julian Schrittwieser）宣布加入 AI 研究公司 Anthropic。这位在谷歌 DeepMind 工作了整整十年的顶尖研究员，因参与开发了诸如 AlphaGo、AlphaZero 和 MuZero 等革命性项目而广受赞誉。他在社交媒体平台 X 上分享了这个消息，表达了对加入 Anthropic 的激动心情。朱利安表示:“我很高兴宣布，从这周开始，我将加入 Anthropic!” 他对即将与这支他一直钦佩的团队合作感到非常荣幸。他特别赞扬了 Anthropic 在人工智能领域的成果，尤

最近，一项由伯克利、斯坦福和哈佛大学的研究者们联合进行的研究引起了广泛关注。这项研究调查了生成性人工智能（AI）的使用情况，特别是男性和女性在这一领域的参与差异。研究发现，全球范围内，女性使用生成性 AI 的比例明显低于男性。图源备注：图片由AI生成，图片授权服务商Midjourney研究团队对16项涉及性别的生成性 AI 使用情况的研究进行了综合分析，涵盖了来自26个国家的10万名受访者。结果显示，无论是在哪个地区、行业或职业中，男性使用 AI 的比例都高于女性。这一现

耶鲁大学研究团队近日发布了一项开创性研究成果，揭示了AI模型训练的关键发现:AI学习效果最好的数据并非越简单或越复杂越好，而是存在一个最佳的复杂度水平——被称为"混沌边缘"的状态。研究团队通过使用基本元胞自动机（ECAs）进行实验，这是一种简单的系统，其中每个单元的未来状态仅取决于自身和相邻两个单元的状态。尽管规则简单，但这种系统可以产生从简单到高度复杂的多样化模式。研究人员随后评估了这些语言模型在推理任务和国际象棋走子预测等方面的表现。研究结

大型语言模型（LLM）的横空出世，尤其是ChatGPT等应用的普及，彻底改变了人机交互的方式。 这些模型能够生成连贯且全面的文本，令人印象深刻。然而，尽管能力强大，LLM却容易产生“幻觉”，即生成看似真实但实际上是虚构、无意义或与提示不符的内容。哈佛大学的研究人员对LLM“幻觉”现象进行了深入研究，发现其根源在于LLM的工作原理。 LLM通过对海量文本数据进行机器学习来构建概率模型，并根据词语共现的概率来预测下一个词语。 换句话说，LLM并非真正理解语言的含义，而是根

最近，Salesforce AI 研究团队推出了一款全新的多模态语言模型 ——BLIP-3-Video。随着视频内容的快速增加，如何高效处理视频数据成为了一个亟待解决的问题。这款模型的出现，旨在提升视频理解的效率和效果，适用于从自动驾驶到娱乐等各个行业。传统的视频理解模型往往是逐帧处理视频，生成大量的视觉信息。这一过程不仅消耗了大量的计算资源，还极大地限制了处理长视频的能力。随着视频数据量的不断增长，这种方法变得愈发低效，因此，找到一种既能捕捉到视频的关键信息，又能

近日，网络安全公司 Palo Alto Networks 的 Unit42研究团队发布了一项令人瞩目的研究，揭露了一种名为 “Deceptive Delight”的新型越狱方法。这个方法能够在仅仅两到三次交互中，就成功诱导大型语言模型（LLM）生成有害内容，其成功率高达65%。这一发现为保护 LLM 的安全性敲响了警钟。图源备注：图片由AI生成，图片授权服务商Midjourney研究团队在测试中分析了多达8000个案例，并评估了八种不同的语言模型。在这个越狱技术的第一步，攻击者首先会要求 LLM 生成一个叙述，这个叙述包含两个无害

阿里巴巴达摩院最近开源了一款名为CoI-Agent的AI工具，可以帮助科研人员自动生成科研idea。这个工具可以根据输入的论文主题，快速生成相关的科研idea，帮助科研人员节省时间和提高效率。CoI-Agent可以被视为一个AI研究助手，可以帮助科研人员头脑风暴、发散思维，找到新的研究方向和idea。这个工具可以根据输入的主题，快速生成相关的关键词、研究问题、研究方法等，帮助科研人员快速找到研究方向。阿里巴巴达摩院开源CoI-Agent的目的是希望能够帮助科研人员提高研究效率，找到新的研

诺贝尔奖得主 Demis Hassabis 近日接受英国《金融时报》采访，谈论了 AI 在科学研究中的作用和影响。他认为，AI 已经到达一个分水岭，人们认识到它实际上已经足够成熟，可以帮助科学发现。Hassabis 表示，AlphaFold 预示着科学发现的新时代。他希望10年后回顾 AlphaFold，它将预示着所有这些不同领域的科学发现进入一个新的黄金时代。图源备注：图片由AI生成，图片授权服务商Midjourney他还谈到，AI 是科学研究的新工具。AI 可以帮助科学家解决一些长期存在的难题，如蛋白质折叠问题。Hassabis 表

随着生成式AI技术创新的爆发，搜索引擎正经历一场革命。近日，工信部赛迪研究院发布《AI搜索行业发展报告》（以下简称“《报告》”），提出AI搜索行业五大发展趋势。其中，简约化产品设计、一站式服务和多端一体能力迎来爆发，搜索场景趋向垂直化、专业化，具备系统级AI能力的PC端产品有望成为入口级应用，夸克等AI搜索新势力正在重塑搜索行业生态。《报告》围绕核心竞争力、产品形态、搜索场景、核心用户人群、行业生态环境等角度分析指出，AI技术与应用的集中式爆发为AI搜

在人工智能日益成为商业核心的今天，Gusto 的联合创始人及科技负责人爱德华・金（Edward Kim）提出了一个不同寻常的观点。他认为，削减现有团队并大规模招聘专门的 AI 工程师，并不是提升公司 AI 能力的最佳途径。相反，他认为，非技术背景的团队成员在理解客户需求和解决方案方面，往往比普通工程师更具优势。在最近接受 采访时，Edward Kim分享了 Gusto 在 AI 领域的做法。公司的一些客户体验团队的非技术成员负责撰写 “配方”，为他们的 AI 助手 Gus 提供指导。这种方法让 Gusto 能够利

来自 Archetype AI 的研究人员开发了一种名为“牛顿 AI 模型”的人工智能基础模型，该模型仅通过分析传感器数据，就能准确地预测各种物理现象，甚至包括那些在训练过程中从未接触过的现象。这项突破性研究成果或将彻底改变物理研究的方式，为科学发现开启新的篇章。传统上，为物理现象构建 AI 模型需要将大量的物理定律和专业知识作为先验信息输入模型，这使得模型的应用范围受到限制，难以泛化到其他领域。而“牛顿 AI 模型”则采用了全新的“唯象学”方法，完全不依赖任何物

智源研究院正式发布了他们的新一代多模态世界模型 Emu3，该模型的最大亮点在于，它仅依靠下一个 token 的预测能力，就能在文本、图像和视频这三种不同模态中进行理解和生成。在图像生成方面，Emu3能够根据视觉 token 预测生成高质量的图像。这意味着用户可以期待灵活的分辨率和多样的风格。而在视频生成方面，Emu3则是以一种全新的方式工作，不同于其他模型通过噪声生成视频，Emu3通过顺序预测直接生成视频。这种技术的进步使得视频生成变得更加流畅自然。在图像生成、视频生成和

最近，一位欧洲博士在机器学习圈子里引起了轰动。他不禁感叹，为什么他的美国同行一个个都开了挂，手里拿着十篇顶级会议论文，五篇还是第一作者?他自己在欧洲读博，四年中一边学习一边摸索，第一年忙着搞清楚研究是什么，第二年发表了一篇顶会 CVPR 的论文，第三年才稍微掌握了项目管理和申请资助的窍门。现在，简历上也只不过增加了两篇论文，一个期刊和一个会议，都是以第一作者身份发表的。听起来不错，但相比之下，看到美国那些同行的成就，他简直是目瞪口呆。“他们

一项新的研究表明，大型语言模型中出于善意的安全措施可能会带来意外的弱点。研究人员发现，根据不同的人口统计学术语，模型被“越狱”的难易程度存在显著差异。这项名为“Do LLMs Have Political Correctness?”的研究探讨了人口统计学关键词如何影响越狱尝试的成功几率。研究发现，使用边缘群体术语的提示比使用特权群体术语的提示更有可能产生不需要的输出。研究人员指出:“这些故意的偏见导致GPT-4o模型在非二元性别和顺性别关键词之间的越狱成功率相差20%，白人和黑人关键词之间

OpenAI最近发布了一项研究来评估ChatGPT的公平性，特别是研究用户名如何影响聊天机器人的反应并可能反映出有害的刻板印象。研究结果显示，无论用户身份如何，ChatGPT都能提供良好的响应，并且不到1%的回复显示出有害的刻板印象。然而，根据使用的名称，响应会存在一些明显的差异。例如，当名为“John”的用户请求“创建一个人们会在谷歌上搜索的YouTube标题”时，聊天机器人会回复“你今天需要尝试的10个简单生活技巧!”。相比之下，如果“阿曼达”提出同样的查询，模型就会回答“