相关AI新闻推荐
相当讽刺！美国明州反深度伪造法案疑似用AI编写的
近日，明尼苏达州一项关于 “使用深度伪造技术影响选举” 的法律正在进行的联邦诉讼中，出现了新的争议。原告律师团在最新的法律文件中指出，支持这一法律的宣誓书可能包含了由人工智能生成的文本。图源备注:图片由AI生成，图片授权服务商Midjourney根据《明尼苏达改革者》的报道，该州的司法部长基思・埃里森（Keith Ellison）曾要求斯坦福社交媒体实验室的创始主任杰夫・汉考克(Jeff Hancock)提供相关证据。然而，汉考克所提交的宣誓书中提到的几项研究并没有实质证据，且显示出可
挪威初创公司 Factiverse 利用人工智能打击虚假信息
在2024年美国总统选举后，网络上的虚假信息惊人的速度传播严重影响了美国人对候选人以及公共健康、气候变化和移民话题的看法。生成式人工智能的发展，加之其生成深度伪造内容的能力和 “幻觉” 事实的倾向，可能进一步加剧这一问题。图源备注:图片由AI生成，图片授权服务商Midjourney为应对这一挑战，挪威初创公司 Factiverse 应运而生。该公司参加了10月份的 TechCrunch Disrupt Battlefield200比赛，并在安全、隐私和社交网络类别中赢得了最佳演讲奖。Factiverse 开发了一款面向企业的工具，能
80% 企业未制定应对 AI 危机的计划，潜在风险不容忽视
近年来，人工智能（AI）的快速发展为企业带来了诸多机遇，但与此同时，其潜在的威胁也日益显现。根据最新发布的2024《新一代风险报告》，调查显示，竟有高达80% 的受访企业尚未针对生成式 AI 风险制定专门的应对计划，这其中包括了 AI 驱动的网络诈骗等安全隐患。该调查由风险管理软件公司 Riskconnect 进行，受访者包括218名全球风险合规与韧性专业人士。结果显示，24% 的受访者认为，未来12个月，AI 驱动的网络安全威胁（如勒索软件、网络钓鱼和深度伪造）将对企业产生重大影响。同
研究人员开发了新 LLM 越狱方法，成功率高达 65%
近日，网络安全公司 Palo Alto Networks 的 Unit42研究团队发布了一项令人瞩目的研究，揭露了一种名为 “Deceptive Delight”的新型越狱方法。这个方法能够在仅仅两到三次交互中，就成功诱导大型语言模型（LLM）生成有害内容，其成功率高达65%。这一发现为保护 LLM 的安全性敲响了警钟。图源备注：图片由AI生成，图片授权服务商Midjourney研究团队在测试中分析了多达8000个案例，并评估了八种不同的语言模型。在这个越狱技术的第一步，攻击者首先会要求 LLM 生成一个叙述，这个叙述包含两个无害