就在苹果即将推出其私人 AI 云服务 “私有云计算（Private Cloud Compute）” 之际，这家科技巨头决定向安全研究人员提供高达100万美元的奖励，旨在发现可能危害其云服务安全的漏洞。苹果在其安全博客上发布了一则消息，明确表示任何能够报告远程执行恶意代码的漏洞的研究人员，将有机会获得最高100万美元的奖金。图源备注：图片由AI生成，图片授权服务商Midjourney此外，苹果还为那些私下报告能够提取用户敏感信息或提交给私人云的提示的漏洞提供最高25万美元的奖励。他们特别提到，

​近日，据《纽约时报》报道，知名人工智能公司OpenAI的内部论坛遭到黑客攻击，引发了一系列安全问题。黑客成功获取了有关公司人工智能技术设计的详细信息，尽管并未侵入OpenAI实际构建AI的系统。

["JFrog 安全团队在 Hugging Face 平台上发现了至少100个恶意AI ML模型","部分恶意模型能在受害者机器上执行代码，提供持久后门","安全研究人员在平台上的PyTorch和Tensorflow Keras模型中发现了恶意功能的模型","如名为baller423的用户上传的模型能指定主机210.117.212.93建立反向shell","部分恶意模型可能是出于安全研究目的上传的，旨在发现漏洞获取赏金"]

["网络犯罪分子开始利用生成式人工智能进行攻击，其中包括 Meta 的 Llama2 大型语言模型。","群聚蜘蛛组织利用 Llama2 生成了攻击脚本，针对一家北美金融服务公司。","安全公司警告目前检测 AI 攻击能力有限，但预计恶意使用 AI 的趋势将增加。","报告指出，2023 年恶意使用大型语言模型的尝试可能仍存在，但生成结果可能无效。"]

["GPT-4API曝出了安全漏洞，FARAI实验室的团队通过微调、函数调用和搜索增强等方式成功越狱了这一先进模型。通过15个有害样本和100个良性样本的微调，研究人员发现GPT-4在生成内容时可能会放下安全戒备。","研究人员成功让GPT-4模型生成错误信息、提取私人信息和插入恶意URL。","模型微调可能会导致显著偏见、生成恶意代码，甚至获取未公开的信息。","这一漏洞揭示了API功能扩展可能带来的新的安全隐患，使用者和研究人员应当谨慎对待。","OpenAI发布了SantaGPT，AI助力挑选礼物，圣诞期间也有新功能推出。"]

["Patronus AI发布SimpleSafetyTests测试套件，揭示ChatGPT等AI系统存在关键安全漏洞。","测试覆盖自杀、儿童虐待和身体伤害等五个高优先级危害领域，揭示了11个LLMs中的严重弱点。","强调安全的系统提示可减少不安全响应，但结果显示生产系统可能需要额外的保障。","测试结果表明在处理真实世界应用之前，LLMs需要严格而定制的安全解决方案，通过基本测试是第一步。"]

["最新研究揭示 Midjourney 图片生成器存在漏洞，可能导致虚假信息传播。","用户可绕过规定制作攻击性的政治图片，引发严重问题。","研究发现用户能够轻松绕过规定，制作违规图片。","用户可通过使用代码来绕过服务条款，制作不受限制的图片。","这一发现引发了对人工智能图片生成器安全性的担忧。"]