最近,AI界多位大佬在线上展开激烈讨论,围绕人工智能可能存在的风险、是否需要监管等问题针锋相对。以吴恩达和Hinton为代表的两派人分别表达了不同观点。吴恩达等人主张开放创新,认为过度监管会扼杀创新;Hinton等人则提出AI潜在风险,需要谨慎对待。此事引发广泛关注,凸显AI监管问题的复杂性,需要在技术进步和社会风险之间找到平衡。
最近,AI界多位大佬在线上展开激烈讨论,围绕人工智能可能存在的风险、是否需要监管等问题针锋相对。以吴恩达和Hinton为代表的两派人分别表达了不同观点。吴恩达等人主张开放创新,认为过度监管会扼杀创新;Hinton等人则提出AI潜在风险,需要谨慎对待。此事引发广泛关注,凸显AI监管问题的复杂性,需要在技术进步和社会风险之间找到平衡。
法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API,旨在与 OpenAI 及其他行业领军者展开竞争,同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型,经过精细调优,能够在九个不同类别中检测潜在的有害内容,包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调,“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为,系统级的安全防
由英特尔前AI软件总经理Scott Clark创立的Distributional公司最近完成了1900万美元的A轮融资,由Two Sigma Ventures领投。Clark在接受TechCrunch采访时表示,Distributional的灵感源于他在英特尔应用AI时遇到的测试问题,以及他在Yelp担任广告定向部门软件主管时的工作经验。他强调:"随着AI应用价值的不断提升,其带来的运营风险也在增加。我们的平台能够帮助AI产品团队主动、持续地检测、理解和解决AI风险,防患于未然。"Clark通过收购加入英特尔。2020年,英特尔收购了由Clark共同创立的模型实验和管理平
最近,加州州长加文・纽森否决了一项备受争议的AI安全法案,引发了科技界和政界的热议,也为AI监管的未来走向投下了一记重磅炸弹。这项由民主党州参议员斯科特・维纳提出的法案,原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试,并要求开发者提供"关闭开关"。此外,该法案还计划建立一个州级机构,专门监督"前沿模型"的开发。图源备注:图片由AI生成,图片授权服务商Midjourney然而,纽森认为这项法案过
近日,加州州长加文·纽瑟姆周一否决了备受瞩目的SB1047法案,该法案旨在规范大型人工智能模型的开发。这一决定在科技界和政界引发广泛讨论。SB1047由州参议员斯科特·维纳提出,要求开发成本至少1亿美元、使用10^26FLOPS计算量的AI模型公司实施安全协议。该法案在加州立法机构获得通过,但遭到包括OpenAI、Meta首席AI科学家Yann LeCun在内的硅谷多方反对。纽瑟姆在否决声明中表示:"SB1047初衷良好,但未考虑AI系统的具体应用环境及风险程度,而是对所有大型系统采用严格标准。这并非保护公