近年来，人工智能（AI）的快速发展为企业带来了诸多机遇，但与此同时，其潜在的威胁也日益显现。根据最新发布的2024《新一代风险报告》，调查显示，竟有高达80% 的受访企业尚未针对生成式 AI 风险制定专门的应对计划，这其中包括了 AI 驱动的网络诈骗等安全隐患。该调查由风险管理软件公司 Riskconnect 进行，受访者包括218名全球风险合规与韧性专业人士。结果显示，24% 的受访者认为，未来12个月，AI 驱动的网络安全威胁（如勒索软件、网络钓鱼和深度伪造）将对企业产生重大影响。同

Highwire公司推出AI安全风险管理工具，通过自动化文档审查和风险识别，为承包商提供深入洞察，减少传统人工审查的数千小时工作量。该工具提供更准确的承包商评估，帮助管理者在工作开始前实施缓解策略，分类安全协议为一般、详细或全面，超越简单通过/失败分析，支持更明智决策。这项AI技术在哈佛大学开发，旨在为拥有成熟安全计划的大公司和小型承包商提供服务，目标是提高安全标准、促进合作，减少事故风险，适用于《美国工业医学杂志》研究中指出的与安全管理系统的增加相关联的事件降低比例。

欧盟《人工智能法案》于2024年8月1日正式生效，标志着人工智能监管新时代的开启。该法案为欧盟境内的AI应用设定了明确标准与合规要求，体现了基于风险管理的治理策略。法案实施后，AI开发者和应用将依据风险等级分类，接受不同期限的合规要求。禁止在特定情况下使用AI技术，如执法部门在公共场所使用远程生物识别。高风险AI应用需通过严格评估与监管审计，最低风险应用则需满足透明度义务。违反法规的公司面临高额罚款，最高可达全球年营业额的7%。通用人工智能（GPAI）开发者需满足特定透明度义务。欧洲标准机构正制定相关标准，预计于2025年4月完成，以促进AI创新与安全应用。

["司法部加强对人工智能监管，警告企业滥用将受严惩。","副检察长提及评估公司合规计划考虑技术风险管理。","对谷歌前工程师提起诉讼，凸显人工智能滥用可能带来的危害。","呼吁企业加强管理，警示违规将面临法律后果。"]

["花旗银行首席分析技术与创新负责人探讨生成式 AI 在银行的影响","花旗银行利用生成式 AI 协助客服、自动化任务及内部搜索","银行担心外部聊天机器人风险，暂未推出，强调谨慎态度","生成式 AI 推动花旗银行内部变革，确保负责任执行"]

["联合国秘书长安东尼奥・古特雷斯周三在瑞士达沃斯的世界经济论坛上呼吁政治和商业领袖优先考虑处理人工智能和气候危机的全球战略。","古特雷斯警告称，人工智能的快速发展可能导致 “严重的意外后果”。","国际货币基金组织警告称，人工智能的崛起可能会影响全球近 40% 的就业岗位，并可能在大多数情况下加剧整体不平等。"]

["生成式人工智能被确定为 2023 年第二季度企业风险管理人员的重要关注点。","报告指出生成式 AI 可能导致知识产权、数据隐私和网络安全等风险。","经济状况恶化对第三方生存能力的影响也被强调。"]