微信珊瑚安全近日发布公告，强调了平台对于打击利用AI技术仿冒知名人士进行不当营销行为的决心。公告中提到，微信致力于打造一个安全、健康、绿色的网络环境，针对近期出现的利用AI技术仿冒名人进行营销的现象，微信已经迅速采取行动，严肃处理了一批违规行为。

近年来，人工智能（AI）的快速发展为企业带来了诸多机遇，但与此同时，其潜在的威胁也日益显现。根据最新发布的2024《新一代风险报告》，调查显示，竟有高达80% 的受访企业尚未针对生成式 AI 风险制定专门的应对计划，这其中包括了 AI 驱动的网络诈骗等安全隐患。该调查由风险管理软件公司 Riskconnect 进行，受访者包括218名全球风险合规与韧性专业人士。结果显示，24% 的受访者认为，未来12个月，AI 驱动的网络安全威胁（如勒索软件、网络钓鱼和深度伪造）将对企业产生重大影响。同

近日，网络安全公司 Palo Alto Networks 的 Unit42研究团队发布了一项令人瞩目的研究，揭露了一种名为 “Deceptive Delight”的新型越狱方法。这个方法能够在仅仅两到三次交互中，就成功诱导大型语言模型（LLM）生成有害内容，其成功率高达65%。这一发现为保护 LLM 的安全性敲响了警钟。图源备注：图片由AI生成，图片授权服务商Midjourney研究团队在测试中分析了多达8000个案例，并评估了八种不同的语言模型。在这个越狱技术的第一步，攻击者首先会要求 LLM 生成一个叙述，这个叙述包含两个无害

新加坡最近在网络安全方面发布了一系列重要公告，特别是针对人工智能（AI）系统的安全指南，以及禁止在选举广告中使用深度伪造技术的立法。这些举措旨在帮助组织在 AI 的开发和部署过程中降低潜在风险，确保技术的安全性。图源备注:图片由AI生成，图片授权服务商Midjourney新加坡网络安全局（CSA）推出的《AI 系统安全指南》强调了 “设计即安全” 的理念，旨在帮助企业识别和应对各种网络安全威胁。指南分为五个阶段，涵盖了 AI 生命周期的各个环节，包括开发、运营和维护，甚至

近日，网络安全公司 Kaspersky 发布了一项调查报告，揭露了网络犯罪分子如何利用一个假冒的 ChatGPT 应用程序来实施后门攻击和传播恶意软件。令人关注的是，这些攻击者的目标从2022年的亚洲转向了2024年的沙特阿拉伯，显示出他们的攻击策略正在不断演变。图源备注:图片由AI生成，图片授权服务商MidjourneyKaspersky 的研究显示，这次恶意活动涉及到名为 PipeMagic 的木马病毒。PipeMagic 是一种插件式木马，作为攻击的 “网关”，可以深入渗透企业网络。Kaspersky 的安全研究员 Sergey Lozhkin 表示，网

Nvidia最近发布了一款新的容器安全应用，该应用允许开发者定制以满足他们对AI驱动的网络安全的需求。全球咨询公司德勤（Deloitte）已被宣布为首批用户之一。Nvidia的NIM Agent Blueprint包含了企业开发者构建和部署定制化生成AI应用所需的一切，这些应用可以快速对软件容器进行漏洞分析。该应用通过使用Nvidia的NIM微服务、Morpheus网络安全AI框架、cuVS和RAPIDS加速数据分析等应用，能够将企业规模的常见漏洞和曝光（CVE）分析从天缩短到几秒钟。软件容器包含了大量的包和版本，其中一些可能存

根据 OReilly 的《2024年安全状况》报告，安全团队在人工智能 （AI） 和云实施方面存在巨大的技能差距。报告显示，近39% 的安全团队受访者表示，云计算是一个需要更多技能但很难找到的领域。云安全是一个复杂的领域，需要采用访问控制和最小特权等概念，并将它们应用于云供应商提供的 API 进行控制。任何服务中的错误都可能危及整个基础设施，因此基础设施即代码成为关键。“云安全需要采用访问控制和最小特权等概念，并将它们应用于您永远看不到的服务器和服务，并且只能通过

阿布扎比的人工智能与云计算公司 G42最近宣布收购本地网络安全领军企业 CPX。这一战略收购将为 G42的产品组合注入强大的网络安全能力，使其在人工智能价值链中更具竞争力。图源备注:图片由AI生成，图片授权服务商MidjourneyCPX 总部位于阿布扎比，拥有400多名专业人员，致力于为企业、政府及关键基础设施提供网络安全服务。CPX 的丰富经验和专业人才将帮助 G42应对日益复杂的网络安全挑战，为客户以及自身的 AI 平台提供全面保护，确保其数字资产安全。在过去一年中，G42还积极与多家

在2024年9月4日举行的第二届网络空间安全（天津）论坛上，360集团创始人周鸿祎发表了题为《打造安全大模型，用AI重塑安全》的演讲，分享了他对人工智能大模型时代下网络安全形势的见解，并介绍了360集团在该领域的实践和成果。

韩国青少年利用深伪技术制作色情内容的问题引发了广泛关注，网络性犯罪激增，警方呼吁加强青少年教育与引导，提高网络安全和道德意识，以减少此类事件。Telegram上出现针对学校和师生的色情内容上传，涉及多起案件。今年前七个月，韩国报告的网络深伪相关案件数量显著增加，社会各界呼吁加强监管并进行法律教育。

总部位于旧金山的网络安全初创公司Abnormal Security宣布，在D轮融资中筹集了2.5亿美元，总融资额达到5.46亿美元，估值提升至51亿美元。这笔资金将用于扩展基于人工智能的网络安全平台，加速全球增长，并加速产品投资，特别是提升其AI决策系统能力。Abnormal Security专注于提供AI驱动的安全解决方案，帮助企业和机构抵御各种电子邮件攻击，包括勒索软件和高管冒充。该公司计划将服务范围从邮件保护扩展到云环境的其他领域，并积极争取FedRAMP认证，以向美国联邦政府提供解决方案。通过D轮融资，Abnormal Security的年经常性收入同比增长达到100%，服务超过2400家客户，其中包括17家财富500强公司。

IBM 推出名为 IBM Consulting Cybersecurity Assistant 的 AI 网络安全工具，旨在加速并改善客户对关键安全威胁的识别、调查和响应。这款助手基于 IBM 的 watsonx 平台，能执行多项任务，如处理工单、运行查询、提取日志等，并利用 AI 分析历史相关性，推荐行动步骤，提高调查效率。作为 IBM 威胁检测和响应服务的一部分，它能自动处理大量警报，减少安全分析师的手动工作，将警报调查时间缩短48%，提升客户安全态势。

当前，人工智能尤其是大型语言模型（LLMs）的发展引发了对网络安全法律的关注。哈佛大学学者在黑帽大会上指出，美国《计算机欺诈和滥用法》未能有效保护AI安全研究人员，可能使他们面临法律风险。学者们指出，现有法律对于如“提示注入攻击”等行为界定模糊，研究人员难以判断行为合法性。2021年最高法院判决限制了CFAA的应用，但AI交互的特殊性使其界定更复杂。AI安全研究法律讨论远不及版权问题，研究者对自身行为合法性存疑。学者建议安全研究人员寻求法律支持，并担忧模糊法律可能导致有潜力的研究人员退出，让恶意攻击者得逞，增加安全隐患。未来可能通过法庭诉讼来澄清法律条款，保护善意研究者。

谷歌近期采取行动打击非自愿深度伪造内容，响应了公众关注及立法压力。在八个月前泰勒・斯威夫特事件后，科技公司和立法者开始认真对待这一问题。谷歌宣布将措施以避免色情深度伪造内容出现在搜索结果中，包括简化受害者移除非自愿色情图像流程、过滤色情搜索结果、删除重复图像，以及优化搜索结果，减少深度伪造内容曝光。亨利・阿杰德赞同谷歌举措，认为能大幅减少非自愿内容的曝光。尽管这一进展是积极的，但仍有更多工作要做，包括加强监管、引入水印技术、建立保护机制等。阿杰德呼吁互联网平台采取更有力措施，严格禁止和处理非自愿深度伪造内容，强调其性质应像儿童色情一样受到严厉打击。

由人工智能驱动的聊天机器人能够通过认证的道德黑客考试，但研究人员警告称，不应仅仅依赖它们来保护网络安全。该研究由密苏里大学的研究人员Prasad Calyam与印度阿姆里塔大学的合作者共同撰写，测试了OpenAI的ChatGPT和谷歌的Bard（现称Gemini）这两款领先的生成式AI工具。

["网络犯罪分子利用OnlyFake平台制作逼真假身份证件，绕过加密货币交易所的KYC验证。","15美元的工具包让不法分子轻松建立虚拟身份，引发网络安全社区担忧。","加密货币交易所如Binance、Kraken等已验证通过这些欺诈文件。","专家警告此技术可能被用于洗钱和金融欺诈，呼吁加强网络安全措施。","AI驱动的欺骗技术提醒人们加强网络安全，防止假身份轻易通过严格安全检查。"]

["英国网络安全中心（NCSC）警告人工智能技术，特别是生成式人工智能工具，将使网络钓鱼攻击更加难以辨别。","NCSC 表示，生成式人工智能和大型语言模型将增加网络攻击的数量，并加剧其影响，尤其是社交工程和欺骗性信息的识别变得更加复杂。","报告指出，黑客利用人工智能技术制作更真实的虚假文件，而勒索软件攻击预计也将上升，加剧了对公民和机构的威胁。","生成式人工智能工具已经通过创建虚假的 “诱饵文件” 帮助黑客接触潜在受害者，这些文件不包含传统网络钓鱼攻击中常见的翻译、拼写或语法错误，因为它们的内容由聊天机器人精心制作或修正。"]

["黑客利用ChatGPT名声，注册大量相似域名，欺骗用户信任，引发下载恶意内容、泄露敏感信息。","Cl0p勒索软件组织利用MOVEit漏洞全球攻击，采用新策略将未付赎金数据泄露至公开网络。","Mozi僵尸网络关闭、Android/Pandora攻击智能设备、对ChatGPT用户的定向攻击等。","网络安全专家发现超过65万个类似ChatGPT的恶意域名。"]

["保险专家指出，2024年生成式人工智能将持续成为全球保险领域的未知风险。","Beazley公司的研究显示，全球27%的企业高管认为2024年网络安全将成为关键风险。","预计未来三至四年网络保险市场规模将增长三倍，需要创新的网络保险市场应对不断增长的需求。"]

["Cisco 推出 AI 助手和加密可见性引擎，应对网络和防火墙配置错误","Cisco AI 助手每天分析超过 5500 亿安全事件","加密可见性引擎专注于检查加密流量","配置复杂性是防火墙配置时的风险"]