随着ChatGPT等GenAI技术的快速崛起和应用,企业网络面临着AI生成的各种新型安全威胁,如AI电子邮件攻击等。多项调研显示,尽管GenAI应用安全风险日益凸显,但大多数组织仍没有做好防范准备,缺乏对GenAI应用进行安全治理和监管的意识。业内专家呼吁,企业迫切需要提高GenAI应用安全能力,改进网络防护体系,以应对GenAI可能带来的各类安全事件。
随着ChatGPT等GenAI技术的快速崛起和应用,企业网络面临着AI生成的各种新型安全威胁,如AI电子邮件攻击等。多项调研显示,尽管GenAI应用安全风险日益凸显,但大多数组织仍没有做好防范准备,缺乏对GenAI应用进行安全治理和监管的意识。业内专家呼吁,企业迫切需要提高GenAI应用安全能力,改进网络防护体系,以应对GenAI可能带来的各类安全事件。
根据 Gartner 最新发布的报告,人工智能(AI)在网络攻击中的应用已连续三个季度成为企业面临的最大风险。该咨询公司在7月至9月期间对286位高级风险与审计执行官进行了调查,结果显示,80% 的受访者对 AI 增强的恶意攻击表示了深切的担忧。这一趋势并不令人意外,因为有证据表明,利用 AI 进行的网络攻击正在上升。图源备注:图片由AI生成,图片授权服务商Midjourney报告中还列出了其他一些新兴风险,包括 AI 辅助的信息误导、日益加剧的政治极化以及不匹配的组织人才配置等。攻击者正
近日,网络安全公司 Kaspersky 发布了一项调查报告,揭露了网络犯罪分子如何利用一个假冒的 ChatGPT 应用程序来实施后门攻击和传播恶意软件。令人关注的是,这些攻击者的目标从2022年的亚洲转向了2024年的沙特阿拉伯,显示出他们的攻击策略正在不断演变。图源备注:图片由AI生成,图片授权服务商MidjourneyKaspersky 的研究显示,这次恶意活动涉及到名为 PipeMagic 的木马病毒。PipeMagic 是一种插件式木马,作为攻击的 “网关”,可以深入渗透企业网络。Kaspersky 的安全研究员 Sergey Lozhkin 表示,网
最近,HP 发布的《威胁洞察报告》揭示了一些网络攻击的新动向,让人不得不警惕。根据报告的数据,从2024年4月到6月,攻击者们正在运用生成式 AI 来制作恶意软件,甚至通过广告恶意传播木马工具,还在图像文件中嵌入病毒。这一系列新举措标志着网络安全威胁的复杂性和频率都在不断上升。报告中指出,研究人员发现了一种针对法语用户的恶意软件,其代码的结构、注释和功能名显示出 AI 的参与。攻击者通过利用生成式 AI 来编写 VBScript 和 JavaScript 脚本,从而降低了攻击的门槛。尤其
Highwire公司推出AI安全风险管理工具,通过自动化文档审查和风险识别,为承包商提供深入洞察,减少传统人工审查的数千小时工作量。该工具提供更准确的承包商评估,帮助管理者在工作开始前实施缓解策略,分类安全协议为一般、详细或全面,超越简单通过/失败分析,支持更明智决策。这项AI技术在哈佛大学开发,旨在为拥有成熟安全计划的大公司和小型承包商提供服务,目标是提高安全标准、促进合作,减少事故风险,适用于《美国工业医学杂志》研究中指出的与安全管理系统的增加相关联的事件降低比例。