​近日，据《纽约时报》报道，知名人工智能公司OpenAI的内部论坛遭到黑客攻击，引发了一系列安全问题。黑客成功获取了有关公司人工智能技术设计的详细信息，尽管并未侵入OpenAI实际构建AI的系统。

["JFrog 安全团队在 Hugging Face 平台上发现了至少100个恶意AI ML模型","部分恶意模型能在受害者机器上执行代码，提供持久后门","安全研究人员在平台上的PyTorch和Tensorflow Keras模型中发现了恶意功能的模型","如名为baller423的用户上传的模型能指定主机210.117.212.93建立反向shell","部分恶意模型可能是出于安全研究目的上传的，旨在发现漏洞获取赏金"]

["网络犯罪分子开始利用生成式人工智能进行攻击，其中包括 Meta 的 Llama2 大型语言模型。","群聚蜘蛛组织利用 Llama2 生成了攻击脚本，针对一家北美金融服务公司。","安全公司警告目前检测 AI 攻击能力有限，但预计恶意使用 AI 的趋势将增加。","报告指出，2023 年恶意使用大型语言模型的尝试可能仍存在，但生成结果可能无效。"]

["GPT-4API曝出了安全漏洞，FARAI实验室的团队通过微调、函数调用和搜索增强等方式成功越狱了这一先进模型。通过15个有害样本和100个良性样本的微调，研究人员发现GPT-4在生成内容时可能会放下安全戒备。","研究人员成功让GPT-4模型生成错误信息、提取私人信息和插入恶意URL。","模型微调可能会导致显著偏见、生成恶意代码，甚至获取未公开的信息。","这一漏洞揭示了API功能扩展可能带来的新的安全隐患，使用者和研究人员应当谨慎对待。","OpenAI发布了SantaGPT，AI助力挑选礼物，圣诞期间也有新功能推出。"]

["Patronus AI发布SimpleSafetyTests测试套件，揭示ChatGPT等AI系统存在关键安全漏洞。","测试覆盖自杀、儿童虐待和身体伤害等五个高优先级危害领域，揭示了11个LLMs中的严重弱点。","强调安全的系统提示可减少不安全响应，但结果显示生产系统可能需要额外的保障。","测试结果表明在处理真实世界应用之前，LLMs需要严格而定制的安全解决方案，通过基本测试是第一步。"]

["最新研究揭示 Midjourney 图片生成器存在漏洞，可能导致虚假信息传播。","用户可绕过规定制作攻击性的政治图片，引发严重问题。","研究发现用户能够轻松绕过规定，制作违规图片。","用户可通过使用代码来绕过服务条款，制作不受限制的图片。","这一发现引发了对人工智能图片生成器安全性的担忧。"]