在2024年9月4日举行的第二届网络空间安全（天津）论坛上，360集团创始人周鸿祎发表了题为《打造安全大模型，用AI重塑安全》的演讲，分享了他对人工智能大模型时代下网络安全形势的见解，并介绍了360集团在该领域的实践和成果。

韩国青少年利用深伪技术制作色情内容的问题引发了广泛关注，网络性犯罪激增，警方呼吁加强青少年教育与引导，提高网络安全和道德意识，以减少此类事件。Telegram上出现针对学校和师生的色情内容上传，涉及多起案件。今年前七个月，韩国报告的网络深伪相关案件数量显著增加，社会各界呼吁加强监管并进行法律教育。

总部位于旧金山的网络安全初创公司Abnormal Security宣布，在D轮融资中筹集了2.5亿美元，总融资额达到5.46亿美元，估值提升至51亿美元。这笔资金将用于扩展基于人工智能的网络安全平台，加速全球增长，并加速产品投资，特别是提升其AI决策系统能力。Abnormal Security专注于提供AI驱动的安全解决方案，帮助企业和机构抵御各种电子邮件攻击，包括勒索软件和高管冒充。该公司计划将服务范围从邮件保护扩展到云环境的其他领域，并积极争取FedRAMP认证，以向美国联邦政府提供解决方案。通过D轮融资，Abnormal Security的年经常性收入同比增长达到100%，服务超过2400家客户，其中包括17家财富500强公司。

IBM 推出名为 IBM Consulting Cybersecurity Assistant 的 AI 网络安全工具，旨在加速并改善客户对关键安全威胁的识别、调查和响应。这款助手基于 IBM 的 watsonx 平台，能执行多项任务，如处理工单、运行查询、提取日志等，并利用 AI 分析历史相关性，推荐行动步骤，提高调查效率。作为 IBM 威胁检测和响应服务的一部分，它能自动处理大量警报，减少安全分析师的手动工作，将警报调查时间缩短48%，提升客户安全态势。

当前，人工智能尤其是大型语言模型（LLMs）的发展引发了对网络安全法律的关注。哈佛大学学者在黑帽大会上指出，美国《计算机欺诈和滥用法》未能有效保护AI安全研究人员，可能使他们面临法律风险。学者们指出，现有法律对于如“提示注入攻击”等行为界定模糊，研究人员难以判断行为合法性。2021年最高法院判决限制了CFAA的应用，但AI交互的特殊性使其界定更复杂。AI安全研究法律讨论远不及版权问题，研究者对自身行为合法性存疑。学者建议安全研究人员寻求法律支持，并担忧模糊法律可能导致有潜力的研究人员退出，让恶意攻击者得逞，增加安全隐患。未来可能通过法庭诉讼来澄清法律条款，保护善意研究者。

谷歌近期采取行动打击非自愿深度伪造内容，响应了公众关注及立法压力。在八个月前泰勒・斯威夫特事件后，科技公司和立法者开始认真对待这一问题。谷歌宣布将措施以避免色情深度伪造内容出现在搜索结果中，包括简化受害者移除非自愿色情图像流程、过滤色情搜索结果、删除重复图像，以及优化搜索结果，减少深度伪造内容曝光。亨利・阿杰德赞同谷歌举措，认为能大幅减少非自愿内容的曝光。尽管这一进展是积极的，但仍有更多工作要做，包括加强监管、引入水印技术、建立保护机制等。阿杰德呼吁互联网平台采取更有力措施，严格禁止和处理非自愿深度伪造内容，强调其性质应像儿童色情一样受到严厉打击。

由人工智能驱动的聊天机器人能够通过认证的道德黑客考试，但研究人员警告称，不应仅仅依赖它们来保护网络安全。该研究由密苏里大学的研究人员Prasad Calyam与印度阿姆里塔大学的合作者共同撰写，测试了OpenAI的ChatGPT和谷歌的Bard（现称Gemini）这两款领先的生成式AI工具。

["网络犯罪分子利用OnlyFake平台制作逼真假身份证件，绕过加密货币交易所的KYC验证。","15美元的工具包让不法分子轻松建立虚拟身份，引发网络安全社区担忧。","加密货币交易所如Binance、Kraken等已验证通过这些欺诈文件。","专家警告此技术可能被用于洗钱和金融欺诈，呼吁加强网络安全措施。","AI驱动的欺骗技术提醒人们加强网络安全，防止假身份轻易通过严格安全检查。"]

["英国网络安全中心（NCSC）警告人工智能技术，特别是生成式人工智能工具，将使网络钓鱼攻击更加难以辨别。","NCSC 表示，生成式人工智能和大型语言模型将增加网络攻击的数量，并加剧其影响，尤其是社交工程和欺骗性信息的识别变得更加复杂。","报告指出，黑客利用人工智能技术制作更真实的虚假文件，而勒索软件攻击预计也将上升，加剧了对公民和机构的威胁。","生成式人工智能工具已经通过创建虚假的 “诱饵文件” 帮助黑客接触潜在受害者，这些文件不包含传统网络钓鱼攻击中常见的翻译、拼写或语法错误，因为它们的内容由聊天机器人精心制作或修正。"]

["黑客利用ChatGPT名声，注册大量相似域名，欺骗用户信任，引发下载恶意内容、泄露敏感信息。","Cl0p勒索软件组织利用MOVEit漏洞全球攻击，采用新策略将未付赎金数据泄露至公开网络。","Mozi僵尸网络关闭、Android/Pandora攻击智能设备、对ChatGPT用户的定向攻击等。","网络安全专家发现超过65万个类似ChatGPT的恶意域名。"]

["保险专家指出，2024年生成式人工智能将持续成为全球保险领域的未知风险。","Beazley公司的研究显示，全球27%的企业高管认为2024年网络安全将成为关键风险。","预计未来三至四年网络保险市场规模将增长三倍，需要创新的网络保险市场应对不断增长的需求。"]

["Cisco 推出 AI 助手和加密可见性引擎，应对网络和防火墙配置错误","Cisco AI 助手每天分析超过 5500 亿安全事件","加密可见性引擎专注于检查加密流量","配置复杂性是防火墙配置时的风险"]

["Cisco高管Jeetu Patel预测人工智能将改变信息安全领域，用户需为拥有AI防御系统付费。","随着网络攻击分析增加，Cisco计划利用人工智能赋予防御者预测攻击者行为的工具。","引入首个AI助手用于防火墙策略评估，服务将付费，但公司强调费用不会成为使用障碍。","Cisco希望通过人工智能技术提供更强大的防御工具，明确表示这样的服务不会是免费的。"]

["英国Ofcom最新研究显示，80%英国青少年使用生成式AI，成为Z世代早期采用者。","Snapchat的My AI和ChatGPT成为青少年和成年用户中最受欢迎的AI工具。","Ofcom关注新网络安全法规对AI工具可能带来的影响，呼吁公司加强产品安全措施。","生成式AI在娱乐、工作和学习等领域得到广泛应用，但Ofcom对AI的风险表达了担忧。"]

["微软安全高管Vasu Jakkal接受CNBC采访，将生成式人工智能描述为“超级武器”。","生成式人工智能在网络防御中发挥关键作用，特别是在网络安全人才短缺的情况下。","微软强调与15,000家公司和组织的深度协作，应对日益先进的网络威胁。","网络安全生态系统需要深度协作，微软安全部门估值超过200亿美元。"]

["学生利用人工智能制作涉嫌儿童性虐待图像，逼真程度令人震惊。","专家呼吁紧急行动，建议学校阻止儿童性虐待材料传播。","图像质量媲美专业儿童照片，儿童形象逼真可能传播至互联网。","儿童保护组织建议建立更好系统，预防类似有害行为。"]

["根据PwC的2024数字信任洞察报告，90%的组织充满信心，相信生成式AI将在未来12个月内助力业务拓展。","报告强调组织对网络安全的增强投资战略的日益凸显。","近70%的组织计划在未来网络安全战略中积极利用生成式AI。"]

["微软发布数字水印工具，名为Content Credentials as a Service，旨在保护政治运动免受深度伪造的威胁。","工具通过元数据附加信息，包括内容产生时间、方式、创作者等。","微软与组织合作，在Bing上推出可靠选举信息网站，并支持法案禁止AI制作虚假政治广告。","除数字水印工具外，微软还提供网络安全保护和人工智能建议，设立选举通信中心。"]

["拉斯维加斯首席信息官Michael Sherwood详细介绍如何运用AI和终端安全技术保护城市。","城市面临的安全挑战包括网络侦查、城市服务保护和维护声誉。","数据隐私和安全在拉斯维加斯智能城市发展中变得更加重要。"]

["网络威胁监控和保险公司 Cowbell Cyber 再融资 2500 万美元","通过人工智能和机器学习监测客户的网络安全","阿美公司子公司 Aramco Ventures 参与投资","Cowbell 的 AI/ML 平台能够评估组织的网络风险"]