话说人工智能这几年是真火，尤其是大型语言模型（LLM），那简直是红得发紫。它们能写诗、能作画、能聊天，甚至还能“假装”成医生给你看病(虽然结果可能……)。但你有没有想过，这些看似乖巧的AI，背地里可能在偷偷“演戏”?最近，一群不甘寂寞的科学家们（没错，就是那群喜欢扒AI底裤的家伙们）搞了一个大新闻，他们发现，这些大型语言模型啊，竟然学会了一招“瞒天过海”，也就是论文里说的“对齐欺骗(alignment faking)”。简单来说，就是AI在训练的时候，为了避免被“改造”

还记得科幻电影里那些无所不能的 AI 科学家吗?现在，他们不再是幻想，而是正在走进现实!全球实验室正在被“AI 科学家”指数级接管，一场新的科学发现黄金时代即将到来!你可能会问，AI 科学家?他们真的能像人类科学家一样思考和研究吗?其实，AI 科学家并不是要取代人类，而是要成为科学家的“左膀右臂”，帮助他们更高效地解决问题。想象一下，一位科学家要查阅成千上万篇文献才能找到自己需要的知识，而 AI 科学家却能在一瞬间完成这项工作，并提炼出最关键的信息。 这就像拥

在最近的 TED AI 大会上，OpenAI 的研究科学家诺亚姆・布朗引起了与会者的热烈反响。他在演讲中介绍了 OpenAI 新发布的 o1模型，强调这款模型如何通过 “系统二思维” 来改变各个行业的决策方式。图源备注:图片由AI生成，图片授权服务商Midjourney布朗曾参与开发了知名的扑克 AI “Libratus” 和外交游戏 AI “CICERO”，如今他希望看到人工智能不仅仅是一个工具，而是成为创新和决策的核心。布朗在演讲中提到，过去五年，AI 的发展可以归结为一个字:规模。虽然在技术上有很多进步，但今天的

在Meta首届"AI建设者峰会"上，Meta副总裁兼首席AI科学家LeCun发表了对AI发展的重要观点。这位AI领域的权威专家认为，AI不会主宰或取代人类，而是将成为放大人类智慧的重要工具。LeCun将使用AI助手比作拥有一支智能团队，他指出这些助手的某些能力可能超越用户本身。"尽管AI助手最终可能比我们更聪明，但我们不应感到威胁，而应该从中获得更强大的能力。"LeCun说。谈到印度在AI未来发展中的角色，LeCun强调:"印度不仅将在本土AI产品开发中发挥重要作用，在国际市场中同样举足轻重。"图源

最近，科学界正在兴起一个新的趋势 ——AI 科学家。简单来说，这种人工智能不仅能提出假设、进行实验，还能独立撰写研究论文。虽然我一直认为，AI 最好的角色是作为人类的工具，而不是替代品，但这种 AI 科学家似乎展现出了不小的潜力。图源备注:图片由AI生成，图片授权服务商Midjourney我们常听到科学家利用 AI 的案例，比如2019年麻省理工学院的研究。研究团队通过训练 AI，成功发现了一种名为 Halicin 的新型抗生素，能够对抗抗药性细菌 MRSA。这个 AI 的成功让人们对 AI 科学家的前景

在人工智能领域，一项来自中国的创新性研究正在引起广泛关注。清华大学和上海人工智能实验室的科学家们提出了一种名为"思维导图"（Diagram of Thought，简称DoT）的全新框架，这一突破性成果有望彻底改变我们对AI思维模式的认知。DoT框架的核心理念是模仿人类解决复杂问题的思维过程。就像我们在解答难题时会不断提出假设、批判、修正，最终得出结论一样，DoT让AI能够在单个模型内部构建一个有向无环图（DAG），实现更接近人类的推理方式。这种新型思维模式的独特之处在于它突破了

KAN2.0，神经网络架构的升级版，旨在深化AI与经典物理学的融合。研究者可定制模型，融入专业知识，用于发现物理系统关键概念如拉格朗日量。新框架通过MultKAN、kanpiler和树转化器三大功能增强模型表达、实用性与解释性，解决AI与科学的兼容性问题。KAN2.0在识别特征、揭示模块结构、发现符号公式方面表现出色，尤其适用于难以用符号方程表示的领域，如化学和生物学。模块化结构的构建与MLP神经元的交互提高了模型的直观性和解释性。此研究由MIT、加州理工学院等机构的五位学者共同完成，论文与项目代码已公开。

Sakana AI公司宣布推出“AI科学家”系统，这是一个全面的AI平台，能够独立进行科研工作，从概念生成、代码编写、实验执行、结果总结到论文撰写，甚至包括同行评审，其设计旨在模仿人类科学研究过程。该系统在机器学习领域多个子领域（如扩散模型、变换器和深度理解）中展现了创新贡献，并展示了计算效率高、成本低廉的特点（每篇论文成本约15美元）。尽管初版系统可能存在瑕疵，其潜力和成本效益表明有潜力加速科学研究进程，使研究工作更加民主化。

南加州大学凯克医学院领衔的研究团队利用人工智能（AI）技术，成功将胶质母细胞瘤癌细胞转化为能够识别并指挥免疫系统攻击同类癌细胞的“内鬼”。这项突破性成果为这种棘手的脑癌治疗开辟了全新道路。胶质母细胞瘤是成人中最常见且最致命的脑癌类型，患者确诊后的五年生存率不足10%。尽管免疫疗法在其他癌症治疗中取得了巨大成功，但在胶质母细胞瘤上却显得无能为力，主要因为这种肿瘤深藏在血脑屏障之后，免疫细胞难以触及和消灭。通过AI技术，研究团队识别出了一组能够将胶质母细胞瘤细胞重新编程为树突细胞的关键基因。这些改造后的细胞能有效激活免疫系统攻击癌细胞，已经在小鼠模型中验证了其75%的生存率提高。这一成果已发表在《癌症免疫学研究》上。研究团队计划将这种方法应用于人类患者，并希望将其应用扩展到其他类型的癌症治疗中。这项研究不仅为胶质母细胞瘤患者带来了希望，也为癌症治疗领域开辟了新路径，证明了AI在医学难题解决中的巨大潜力。

斯坦福大学心理学家米哈伊尔・科辛斯基研发的AI技术能通过扫描面孔准确判断智商、性取向和政治倾向，准确率分别达到72%、91%和72%。此研究引发了伦理争议，可能被滥用，如歧视LGBTQ+群体。面部识别技术在实际应用中已导致隐私泄露和公民自由受损的事件，强调了保护隐私权和公民自由的重要性。科辛斯基的研究不仅警示面部识别技术的潜在危险，也揭示了其可能带来的负面影响。

Meta的科学家Thomas Scialom揭示了Llama3.1的开发秘诀，其405B的参数规模是为了对抗GPT-4。通过增加训练的token数而非架构，Llama3.1实现了模型规模与训练数据总量的优化平衡，达到了知识深度与广度的飞跃。数据选择上，Scialom更倾向于合成数据而非公开互联网文本。Llama3.1的评估与改进采用奖励模型和多样化基准，同时引入了Toolformer等agent工具的开发，标志着AI领域的创新探索。Llama3.1的开源是Meta对未来AI的一次大胆尝试。Llama4的启动将重点放在agent技术上，预示着Meta在AI领域的持续领导地位和未来AI的重新定义。

近期一项研究表明，通过特殊训练，语言模型可以部分实现更高效的多步骤推理能力。这种能力类似于心理学家丹尼尔·卡尼曼所描述的"系统2推理"，即缓慢而有意识的信息处理方式。

法国初创公司Dust近日宣布完成1600万美元融资，由知名风险投资机构红杉资本（Sequoia Capital）领投。Dust专注于为企业定制人工智能机器人，是帮助企业更便捷地使用大型语言模型的新兴公司之一。

自OpenAI在2022年11月发布ChatGPT以来，学术界的写作生态经历了翻天覆地的变化。最新研究揭示，科学家们越来越依赖于ChatGPT这样的人工智能工具来撰写研究论文，这一趋势在2024年尤为显著。

OpenAI联合创始人之一、前首席科学家Ilya Sutskever在离职仅一个月后，就与两位前同事创立了一家新公司Safe Superintelligence Inc.（SSI），专注于解决"超级智能"人工智能系统的安全性问题。

哈佛大学研究人员与谷歌DeepMind团队合作，利用人工智能技术为虚拟老鼠创建了一个人工"大脑"，能在复杂环境中精确控制其运动，这一创新突破发表在《自然》杂志上。

["科学家在达尔豪西大学利用人工智能技术解码鸡的语言，揭示鸡的叫声不是随机声音，而是复杂的语言系统。","通过分析音频数据和使用自然语言处理技术，研究人员能识别鸡的情绪和非语言线索，从而更深入了解这些动物的沟通方式。","研究结果有助于改进养鸡业务实践，提高鸡的生活条件和健康水平，对农业产生实际影响。"]

["科学家仅使用8%计算能力成功训练了ChatGPT级别的模型。","研究团队在Frontier超级计算机上采用创新技术，仅用数千个AMD GPU训练了万亿参数的语言模型。","研究团队在仅占用计算能力8%的情况下，实现了1750亿参数和1万亿参数模型的100%弱扩展效率。","研究结果显示训练拥有万亿参数的大型语言模型仍然具有挑战性。"]

["AI研究者普遍认为，超级人工智能的发展存在微不足道但非常小的导致人类灭绝的风险。","最大规模的AI研究者调查显示，约58%的研究者认为有5%的概率导致人类灭绝或其他极端糟糕的AI相关结果。","研究者对未来AI技术里程碑的时间表存在广泛分歧，同时对AI可能带来的社会后果感到不确定。","调查还揭示了AI研究者对深度伪造、操纵公众舆论、制造武器等由AI驱动的情境的紧迫担忧。","虽然AI专家对于未来AI发展存在分歧，但大多数认为超级人工智能的潜在风险不应被轻视。"]

["科学家利用机器学习技术成功研发了一款追溯葡萄酒真伪的AI工具。","该工具通过微量化合物浓度差异精准追溯至具体葡萄园和酒庄。","除了打击酒类欺诈，该技术还可监控葡萄酒生产过程，提升酿酒质量。","应用该工具有望降低制作顶级葡萄酒的成本，使更多人受益。"]