在最近于纽约举行的 Reuters NEXT 大会上,OpenAI 的首席财务官 Sarah Friar 表示,当选总统的唐纳德・特朗普可能会成为 “这一代人工智能的总统”。她指出,特朗普于关键时刻上任,届时人工(AI)和人工通用智能(AGI)的基础设施将得到进一步建设。Friar 认为,特朗普的上任正好与 AGI 的初步发展重合,这将对未来的科技进步产生深远影响。Friar 还提到了特斯拉创始人埃隆・马斯克,他是特朗普的亲密顾问之一,并表示对马斯克的威胁言并不担忧。她表示:“我们信任他…… 作为竞争对手,他会
在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月,安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入,AI竟然可以被诱导下载并运行恶意软件。Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中,他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架,但现已被黑客广泛用作恶意软件工具。更令人担忧的是,这仅仅是冰山一角。研究人员指出,AI还可以被诱导编写、编译并运
在近日的一次采访中,微软人工智能首席穆斯塔法・苏曼(Mustafa Suleyman)与 OpenAI 首席执行官山姆・阿尔特曼 Sam Altman)之间就人工通用智能(AGI)的实现时间产生了明显分歧。阿尔特曼在一次 Reddit 问答中表示,AGI 的实现可以在当前硬件条件下进行,而苏莱曼则对此表示怀疑,认为当前的硬件技术并不足以支持 AGI 的发展。图源备注:图片由AI生成,图片授权服务商Midjourney苏莱曼指出,尽管 AGI 的实现是 “有可能的”,但他认为这一目标可能需要十年的时间才能达到。他强调,当前的硬件,例
法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API,旨在与 OpenAI 及其他行业领军者展开竞争,同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型,经过精细调优,能够在九个不同类别中检测潜在的有害内容,包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调,“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为,系统级的安全防