无需训练实现价值观实时动态对齐:上交开源价值观对齐方法OPO,闭源与开源大模型均适用

机器之心
本文来自AIbase日报
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。
清明假期前夕,广西交通领域迎来一项重大创新举措 —— 广西交通投资集团计算中心的 “路网先知” 智慧交通大模型全面启航,以 “预测 — 调度 — 处置” 全链路数字化管理为核心,引领公众出行体验迈入智慧新时代。为了应对假期出行高峰,在南宁东、长塘等关键收费站区域,精心布局了无人机机场;而在崇左、钦州等往年易拥堵路段,车载无人机也部署到位。由此,“空天地” 全方位协同治堵体系正式形成,实现了全域巡查无死角,让交通管理更加全面、高效。这些无人机 “本领
近日,微软联合创始人比尔・盖茨就 AI 对工作的影响发表了引人深思的观点。盖茨提出,工作并非人类与生俱来的使命,它是短缺时代的产物,其核心是依靠人类智慧来提供多样服务。盖茨展望未来,认为 AI 革命将在十年内对传统行业进行深度变革。在医疗和教育领域,人工智能系统预计将承担超过80% 的常规诊断、药品研发和知识传授工作。AI 凭借精准算法和不间断运行,不仅能极大提升服务效率,还可能重塑人类获取医疗和教育资源的基本逻辑。同时,盖茨指出有三种职业难以被 AI 取
据国外媒体消息,微软首席技术官凯文斯科特 (Kevin Scott) 作出大胆预测,到2030年,高达95% 的编程代码将由人工智能生成。不过,他紧接着进行了澄清,这并不代表人类参与软件工程的终结。斯科特解释道,“这并不意味着人工智能正在做软件工程工作,作者仍将是人类。它创造了另一个抽象层,因为我们从输入大师(编程语言)变成了提示大师(人工智能协调者)。” 他认为人工智能不会取代开发人员,而是会从根本上改变他们的工作流程。未来,工程师们将越来越依赖人工智能工具。
2025 年 4 月 4 日,加利福尼亚州旧金山 — 备受期待的Midjourney V7 图像模型于昨日( 4 月 3 日)正式进入Alpha测试阶段,这一消息通过Midjourney官方渠道发布,标志着这家人工智能研究公司在图像生成技术领域又迈出了重要一步。Midjourney创始人兼首席执行官大卫·霍尔茨(David Holtz)称,V7 是"我们迄今为止最智能、最美观、最连贯的模型",并承诺在未来两个月中,每隔一到两周推出更新,为用户带来持续的惊喜。
OpenAI向英国国会科学、创新与技术委员会提交了一份关于人工智能与版权的咨询回应,强调了制定有利于创新的政策的重要性,旨在使英国成为欧洲人工智能的领导者。OpenAI表示,期待与英国政府、国会及版权持有者共同探讨解决方案,以兼顾各方利益。OpenAI认为,法律虽然是由各国制定的,但技术的发展是无国界的。为了使英国在人工智能领域具备竞争力,亟需明确且有利于吸引投资和人才的规则与法规。为此,OpenAI主张设立广泛的数据和文本挖掘例外(TDM),以促进人工智能的发展。
4月3日,百度正式推出了飞桨框架3.0版。这一全新版本在设计理念上实现了全面进化,特别针对大模型的开发和推理需求,提供了五大核心特性,力求成为深度学习框架领域的领先者。随着大模型在各行各业的广泛应用,深度学习框架的作用愈发重要,而飞桨框架3.0正是为此而生。首先,飞桨框架引入了 “动静统一自动并行” 技术,显著降低了大模型的开发和训练成本,让算法创新更专注于核心价值的创造。此外,它的 “训推一体” 设计理念有效打破了训练与推理之间的壁垒,通过深度
据Semafor报道,负责谷歌AI聊天机器人的高管Sissie Hsiao将辞去Gemini应用程序负责人一职。根据该媒体获得的内部备忘录,谷歌实验室副总裁Josh Woodward将接替她的职位。谷歌发言人Alex Joseph已确认这一人事变动,但拒绝发表进一步评论。谷歌DeepMind首席执行官Demis Hassabis在备忘录中表示,此次变动将"让我们更加关注Gemini应用的下一次发展"。Hsiao在自己的备忘录中提到,她将"短暂休息"一段时间,随后将回到谷歌担任新职位。Hsiao在谷歌的职业生涯已近20年,自2006年加入公司担任搜索和文档产品经
美国芯片制造商高通(Qualcomm)近日宣布,已成功收购越南公司 VinAI 的生成 AI 部门 MovianAI。这次收购不仅是高通在人工智能(AI)领域的重要布局,也标志着其与越南技术生态系统之间更加紧密的合作关系。VinAI 在生成 AI、机器学习、计算机视觉和自然语言处理等领域拥有卓越的研究和开发(R&D)能力,成为高通进一步推动 AI 创新的强大助力。高通公司表示,此次收购将结合 VinAI 的先进技术与其自身在研发领域的二十多年经验,旨在驱动一系列卓越的科技创新。高通高级副总裁侯吉磊(Jilei Ho
欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/1、阿里通义千问Qwen2.5-Omni登顶全球开源模型榜单2024年4月2日,HuggingFace发布了最新的大模型榜单,阿里巴巴的Qwen2.5-Omni凭借其卓越的性能和多模态能力,成功登顶,成为全球开源模型的领军者。尽管没有进行大规模宣传,这一举措被认为是OpenAI在推动AI教育普及方面的重要一步,受到业内人士的广泛欢迎。
2024年4月2日,全球最大的 AI 开源社区 Hugging Face 发布了最新的大模型榜单,阿里巴巴的通义千问所推出的端到端全模态大模型 Qwen2.5-Omni 成功登顶,成为全球开源模型中的领军者。此次排名中,Qwen2.5-Omni 凭借其强大的性能和多模态能力,战胜了其他众多优秀的模型,位列榜首。紧随其后的是 DeepSeek-V3-0324和群核的 SpatialLM-Llama-1B,这两个模型在功能和应用上也颇具实力,为 AI 开发者提供了更多选择。据悉,阿里通义千问自成立以来,已经向全球开源了超过200款模型。这些模型覆盖了自然语言