在Anthropic公司刚刚推出让Claude能够控制设备的Computer Use功能不到两个月,安全研究人员就发现了其潜在的安全漏洞。网络安全专家Johann Rehnberger最新披露的研究结果令人震惊:通过简单的提示词注入,AI竟然可以被诱导下载并运行恶意软件。Rehnberger将这个漏洞利用方式命名为"ZombAIs"。在演示中,他成功让Claude下载了Sliver——一个原本用于红队测试的开源指挥控制框架,但现已被黑客广泛用作恶意软件工具。更令人担忧的是,这仅仅是冰山一角。研究人员指出,AI还可以被诱导编写、编译并运
OpenAI于11月14日发布了一份专业的学生写作指南,首次系统性阐述了ChatGPT在教育领域的正确使用方法。这份指南不仅回应了教育界对AI的担忧,更为学生如何合理运用AI工具提供了清晰的行动指南。OpenAI强调,ChatGPT应被视为辅助学习工具而非替代品。当学生正确使用这一工具时,它能够帮助加深对复杂概念的理解;反之,不当使用则可能阻碍学习技能的培养。指南详细列举了多种有效的使用方法。在资料检索方面,ChatGPT可以快速定位原始参考来源,提高研究效率。在学习过程中,学生可以通
法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API,旨在与 OpenAI 及其他行业领军者展开竞争,同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型,经过精细调优,能够在九个不同类别中检测潜在的有害内容,包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调,“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为,系统级的安全防
在最近举行的英伟达人工智能峰会上,CEO 黄仁勋对印度在人工智能(AI)方面的成就表示高度认可。他指出,目前印度已有超过2000家参与英伟达孵化计划的 AI 公司,以及超过10万名受过 AI 培训的开发者。这一数字在全球开发者中超过65万人,充分展示了印度在 AI 技术发展上的战略布局,黄仁勋称之为 “主权 AI”,即各国选择自主构建自己的 AI 基础设施以保护数据安全。印度正迅速崛起为各行各业的 AI 生产基地,特别是随着无数初创公司的崛起,印度的多语言、多文化背景为 AI 技术的发