文章讨论当前主流的人工智能对齐研究是否能有效防止未来的灾难性危害。作者认为这些研究主要服务于提高产品表现,很难真正解决深层次的安全问题。防止灾难还需要更广泛地参与人工智能伦理和治理方面的讨论。公众舆论非常重要,但不能只依赖那些从人工智能部署中获得利益的人。
相关AI新闻推荐
Meta 发布 Llama API，开发者可体验最新 AI 模型
在刚刚结束的首届 LlamaCon AI 开发者大会上，Meta 公司正式发布了其 Llama 系列 AI 模型的 API，名为 Llama API。该 API 目前处于有限预览阶段，旨在让开发者能够探索和试验基于不同 Llama 模型的产品。Meta 表示，这一新工具将与公司的 SDK 配合使用，允许开发者创建由 Llama 模型驱动的服务、工具和应用程序。虽然 Meta 尚未透露 Llama API 的定价，但这项发布正值 Meta 在激烈的开放模型竞争中力求保持领先地位的背景下。Meta 目前声称，Llama 模型的下载量已超过10亿次。然而，行业内如 DeepSeek 和阿里巴
2025年4月30号 10:02
850
小米首个推理大模型Xiaomi MiMo开源
小米公司宣布开源其首个为推理（Reasoning）而生的大模型「Xiaomi MiMo」。这一模型的发布标志着小米在人工智能领域迈出了重要的一步，特别是在推理能力的提升上取得了显著进展。
2025年4月30号 9:53
1.3k
阿里Qwen3-235B-A22B模型正式登陆HuggingChat
由阿里巴巴云开发的 Qwen3-235B-A22B 模型正式在 HuggingChat 平台上线。这一开源大型语言模型以其强大的推理能力、灵活的模式切换和高效的性能表现，迅速成为业界关注的焦点。AIbase 通过整理 Twitter 上的最新信息，为您深入解析 Qwen3-235B-A22B 的技术亮点及其对开源 AI 生态的影响。Qwen3-235B-A22B:技术实力再突破Qwen3-235B-A22B 是 Qwen 团队最新推出的混合专家（MoE）模型，拥有2350亿总参数，其中220亿为激活参数，得益于 MoE 架构的优化，其推理速度和资源效率显著提升。Twitter 上的讨论指出，该模型
2025年4月30号 9:27
740
万兴科技与华为云携手推进 AI 大模型技术创新
近日，万兴科技集团股份有限公司（以下简称 “万兴科技”）与华为云计算技术有限公司(以下简称 “华为云”)在深圳签署了战略合作协议。此次合作旨在结合双方的优势，共同推动 AI 大模型的技术和应用创新，进一步开拓数字创意领域的潜力。根据协议，万兴科技将充分发挥其在音视频大模型和 AI 应用方面的专业能力，而华为云则将利用其强大的云基础设施和市场拓展优势，建立深度合作关系。双方将围绕华为云的盘古多模态大模型进行合作，持续优化万兴科技的 “天幕” 音视频多
2025年4月30号 9:07
610
Meta Llama AI模型下载量突破12亿，开发者热情高涨
在人工智能领域，Meta 公司近期传来了一个令人振奋的消息:其 “开放式” AI 模型系列 Llama 的下载量已突破12亿次。这个数字在不久前的3月中旬刚刚达到10亿次，显示出 Llama 模型在开发者和用户中获得的广泛认可和热情。在首届 LlamaCon 开发者大会上，Meta 的首席产品官 Chris Cox 在主题演讲中透露了这一令人瞩目的数据。他表示，Llama 模型的成功离不开众多开发者的贡献，当前已经有数千名开发者在为这一生态系统贡献出数万个衍生模型。这一系列模型的每月下载量更是达到了数十万次，这
2025年4月30号 9:04
680
程序员挑战极限：在古老的 DOS 系统上成功运行 Llama 2 模型
在科技飞速发展的今天，一位勇敢的程序员选择回归经典，尝试在老旧的 DOS 环境中运行 Meta 公司最新发布的大语言模型 Llama2。Yeo Kheng Meng，这位因开发 ChatGPT DOS 客户端而声名鹊起的程序员，花费了一个周末的时间，成功地将这个大型语言模型移植到传统计算环境中，展现了无与伦比的技术创造力。项目的起步得益于开源代码的便利。Meng 使用了名为 “llama2.c” 的项目，这是一个专门设计用来加速 Llama2模型在不同系统和硬件上的移植工作。然而，适配到古老的 DOS 环境并非易事。尽管 llam
2025年4月30号 8:59
640
扎克伯格推出 Meta AI 独立应用，人工智能竞争加剧
马克・扎克伯格宣布推出 Meta AI 应用，旨在与 ChatGPT 竞争，标志着人工智能领域的激烈竞争即将展开。新的 AI 助手将包含一个 “发现” 功能，用户可以查看朋友如何使用该工具，增强社交互动。Meta AI 应用是 Meta 公司的一项新举措，它不仅可以在 WhatsApp、Instagram、Facebook 和 Messenger 等平台上使用，还将以独立应用的形式推出，以增加用户的使用频率。该应用的推出显示出扎克伯格希望在人工智能领域进一步巩固公司的地位，面对来自 OpenAI 和谷歌等主要竞争对手的挑战。Meta AI 助手由最新
2025年4月30号 8:52
1.1k
RWKV7-G1 1.5B全球语言推理模型发布 支持100多种自然语言
RWKV基金会宣布开源发布了RWKV7-G11.5B推理模型，这是一款具备强大推理能力和多语言支持的模型，特别适合在端侧设备（如手机）上运行。该模型基于World v3.5数据集训练，包含小说、网页、数学、代码和推理数据，总数据量达到5.16T tokens。
2025年4月30号 8:32
830
2024 年中国 MaaS 与 AI 大模型解决方案市场迎来爆发式增长
根据国际数据公司（IDC）发布的最新报告，2024年中国模型即服务(MaaS)及 AI 大模型解决方案市场将迎来显著增长，全年市场规模预计达到7.1亿元人民币，相较于2023年实现215.7% 的同比激增。其中，2024年下半年市场规模将达到4.6亿元人民币。展望未来五年，这一市场将以66.1% 的年均复合增长率继续扩张，预计到2029年市场规模将达到90亿元人民币。同时，AI 大模型解决方案市场也保持了强劲的增长态势，2024年全年市场规模预计达到34.9亿元人民币，同比增长126.4%。该市场在2024年下半年将达到21亿
2025年4月29号 17:18
2.4k
阿里Qwen3深度解析:新一代开源大语言模型的革新与突破
Qwen3是什么?阿里Qwen3是通义千问系列的最新一代开源大语言模型（LLM），于2025年4月29日正式发布。作为全球首个支持“混合推理”的模型，Qwen3包含8款不同规模的模型，涵盖稠密模型(如0.6B、4B、32B)和混合专家模型(MoE，如30B-A3B、235B-A22B)，采用Apache2.0协议开源，支持免费商用。其核心目标是提供高性能、低成本的AI解决方案，同时覆盖从边缘设备到企业级服务器的全场景需求。 Qwen3的主要功能混合推理模式:支持“思考模式”与“非思考模式”无缝切换。前者适用于复杂推理（如数学、代码
2025年4月29号 15:49
2.3k