最近，OpenAI 推出了其最新的人工智能模型系列 o1，这一系列模型在一些逻辑任务中表现出了非常先进的能力，因此公司对其潜在风险进行了谨慎评估。根据内部和外部的评估，OpenAI 将 o1模型分类为 “中等风险”。为什么会有这样的风险评级呢?首先，o1模型展现了与人类相似的推理能力，能够生成与人类在同一主题上撰写的论点同样令人信服的文本。这种劝说能力并非 o1模型所独有，之前的一些 AI 模型也表现出了类似的能力，有时甚至超过人类的水平。其次，评估结果显示，o1模型可以协

最近，法国初创公司 Poolside 引起了广泛关注。这家公司专注于开发人工智能技术，旨在帮助编写软件，尽管它们的初始产品尚未发布，但却已经在谈论新一轮融资，估值预计将达到30亿美元。图源备注：图片由AI生成，图片授权服务商Midjourney据知情人士透露，Poolside 计划融资近5亿美元，现有投资者贝恩资本风险投资 （Bain Capital Ventures） 将可能牵头这轮投资。这显示出，尽管公共市场对科技行业的即时商业回报感到一些失望，投资者仍然对 AI 初创公司充满热情。Poolside 成立于2023年，由前

以色列特拉维夫的初创公司 Datricks，最近在一轮1500万美元的 A 轮融资中，吸引了风险投资公司 Team8的领投，还有全球企业软件巨头 SAP 和现有投资者耶路撒冷风险投资公司（JVP）的参与。

梅菲尔德基金宣布启动AI Garage项目，为AI伙伴公司初创企业提供高达1亿美元支持，旨在帮助早期创业者将创意转化为可融资的公司。该项目区别于其他加速器，每六个月招募最多五名创业者，提供在公司办公室内的指导和支持。参与者在商业计划形成后可获得100万至500万美元的资金。AI伙伴被定义为能够与人类协作，提升工作效率的数字伴侣，涉及多个行业，如产品与工程、数据、销售与市场、客户服务、IT与安全、财务、人力资源、法律以及行政。梅菲尔德已投资近十个AI伙伴公司，如DevRev、Docket和NeuBird，展示了AI在不同领域的应用潜力。

Highwire公司推出AI安全风险管理工具，通过自动化文档审查和风险识别，为承包商提供深入洞察，减少传统人工审查的数千小时工作量。该工具提供更准确的承包商评估，帮助管理者在工作开始前实施缓解策略，分类安全协议为一般、详细或全面，超越简单通过/失败分析，支持更明智决策。这项AI技术在哈佛大学开发，旨在为拥有成熟安全计划的大公司和小型承包商提供服务，目标是提高安全标准、促进合作，减少事故风险，适用于《美国工业医学杂志》研究中指出的与安全管理系统的增加相关联的事件降低比例。

无人驾驶汽车依赖的人工智能系统在决策、感知环境和预测模型方面发挥关键作用，但布法罗大学的研究揭示了这些系统可能遭受攻击的风险。研究指出，尽管当前研究在受控环境下进行，但发现AI模型在雷达检测中的脆弱性对行业有深远影响。通过3D打印和金属箔制作的“砖块面具”可以令车辆在雷达检测中“消失”，并可能干扰行人检测。这种攻击手段的动机包括保险欺诈、竞争或恶意伤害，强调了公众安全意识和技术保护的重要性。未来研究旨在深入其他传感器的安全性并开发防御策略。

自2022年以来，美国财富500强公司在财务报告中提及生成性人工智能的频率显著增长了250%，约有22%的公司提到相关话题。然而，令人担忧的是，近70%的提及都聚焦于风险，包括竞争地位、安全性及信息错误传播，反映出公司对AI潜在风险的关注。约56%的公司视AI为潜在风险，较去年增长474%。相比之下，只有31%的公司强调生成性AI的积极影响。尽管如此，也有一些积极案例，如Quest Diagnostics在财务文件中表示正在利用生成性AI推动创新和业务增长。

根据《金融时报》和Arize AI的调查，56%的《财富》世界500强公司视AI为风险因素，这一比例从2022年的9%显著增加。自OpenAI推出ChatGPT后，AI技术发展迅速，尽管大型企业和数百家初创企业投入资源，但多数大型企业对AI持谨慎态度。在讨论生成式AI的108家公司中，仅33家将其视为机遇，主要担忧包括竞争加剧、技术风险、法律和监管风险以及网络安全风险。部分企业如Netflix、Motorola和迪士尼，分别担忧AI对竞争力、技术稳定性和知识产权的影响。虽然AI带来提高效率和创新的潜力，但大多数企业对AI的使用仍保持谨慎，反映在商业战略中的挑战和不确定性。随着AI技术持续演进，企业如何在机遇与风险之间做出平衡将成为关键考量。

财富500强企业对人工智能(AI)风险的关注度显著提升，报告指出，已有281家企业将AI列为风险因素，占比高达56.2%，相比去年的49家，增幅达到473.5%。AI风险渗透至各行各业，尤其在媒体和娱乐行业，91.7%的企业表示担忧。随着OpenAI推出ChatGPT，AI意识和兴趣激增，提及AI的公司总数同比增长152%。不同行业对AI风险的关注度不一，媒体和娱乐行业最为紧张，软件和科技公司次之，而汽车、能源和制造业提及AI风险的企业比例较低。同时，消费者对带有“AI”标签的产品兴趣下降，需要明确AI带来的具体好处。

Pindrop公司新推出的Pulse Inspect工具，一个基于网页的音频和视频文件检测系统，以99%的高准确率识别AI生成语音，是Pindrop Pulse产品套件的一部分。此工具独特之处在于能识别多种AI工具或模型生成的音频，目前处于预览阶段，专为大规模防范音频伪造风险的组织服务。随着文本生成AI系统的兴起，音频伪造现象普遍，Pulse Inspect的核心功能是一个网页应用，用户上传可疑音频文件，几秒内获得“伪造分数”，并显示AI生成部分。准确率高达99%，并能识别包含AI生成和真实元素的混合媒体文件，覆盖350多种生成工具，不局限于特定供应商。目标用户包括媒体公司、非营利组织、政府机构、明星管理公司、法律公司以及社交媒体网络。Pindrop计划增强产品的可解释性，实现追溯伪造内容生成源，并支持更多媒体类型。

OpenAI最近发布了GPT-4o系统卡，详细介绍了在推出新模型前的安全措施和风险评估。GPT-4o在五月份正式上线，评估显示整体风险为“中等”，主要风险集中在网络安全、生物威胁、说服力和模型自主性上。研究人员发现，虽然GPT-4o在影响读者意见方面可能更具说服力，但整体上并未超过人类。在发布系统卡的同时，OpenAI面临来自内部员工和州参议员的批评，质疑其安全标准。一封公开信呼吁提供关于如何处理举报者和安全审查的解答。GPT-4o的发布正值美国总统选举前，存在误传信息或被恶意利用的潜在风险。OpenAI希望通过实际场景的测试来防止滥用，但其透明度受到了公众的关注，尤其是加州参议员斯科特·维纳正在推动的一项法案，旨在规范大型语言模型的使用，并要求公司在其AI被用作有害用途时承担法律责任。

欧盟《人工智能法案》于2024年8月1日正式生效，标志着人工智能监管新时代的开启。该法案为欧盟境内的AI应用设定了明确标准与合规要求，体现了基于风险管理的治理策略。法案实施后，AI开发者和应用将依据风险等级分类，接受不同期限的合规要求。禁止在特定情况下使用AI技术，如执法部门在公共场所使用远程生物识别。高风险AI应用需通过严格评估与监管审计，最低风险应用则需满足透明度义务。违反法规的公司面临高额罚款，最高可达全球年营业额的7%。通用人工智能（GPAI）开发者需满足特定透明度义务。欧洲标准机构正制定相关标准，预计于2025年4月完成，以促进AI创新与安全应用。

国际劳工组织与世界银行联合报告揭示了人工智能(AI)对拉丁美洲和加勒比地区就业市场的影响。报告指出，该地区约2%至5%的工作岗位面临完全自动化风险，26%至38%的职位可能因生成式AI受到冲击。女性和年轻员工在正规部门面临更高被AI替代风险，加剧了全球最不平等地区的不平等。数字基础设施差距限制了AI影响，但报告也显示AI可能提高约8%至14%职位的生产效率，尤其在城市、教育和正规部门更为显著，高收入群体受益最大。AI在该地区发展具有双面性，可能加剧不平等，同时成为提高生产力和经济增长的驱动力。

美国商务部报告支持开放权重生成AI模型，如Meta的Llama3.1，认为这有助于小公司、研究人员、非营利组织和个人开发者获取AI资源，促进创新和竞争。该观点与联邦贸易委员会主席莉娜·卡汉的看法一致，后者强调开放模型能促进更多小企业创意市场推广。商务部助理秘书长艾伦·达维森表示，大型AI系统的开放性对竞争、创新和风险具有重要影响，并呼吁监控大型AI模型的广泛可用性。报告还提出建立持续项目，收集开放模型的风险和收益信息，评估并据此采取行动，包括在必要时对模型可用性施加限制。此举与乔·拜登总统的AI行政命令一致，旨在推动负责任的AI创新，同时最小化风险。

AI初创公司Harvey在最新一轮融资中筹集1亿美元，估值达15亿美元，由GV领投，知名机构参投。资金主要用于数据收集、团队扩展和市场拓展。Harvey主打AI法律助手，基于GPT-4模型，能解答法律问题、分析租约、提取审判信息和生成法律文件初稿。然而，其应用面临数据安全和模型准确性挑战，强调需律师监督使用。市场上有类似工具竞争，但Harvey声称拥有数万用户，包括知名律所和咨询公司。原计划以更高估值融资6亿美元并收购法律研究服务公司，但最终融资规模缩水。

​游戏行业巨头Embracer Group最近发布的年度报告揭示了其对人工智能（AI）在游戏开发中应用的雄心勃勃的计划，引发了业界的广泛关注和讨论。作为《指环王》和《古墓丽影》等知名游戏系列的版权所有者，Embracer的AI战略无疑将对整个游戏行业产生深远影响。

["美国 10% 员工面临高度人工智能职业风险","20% 员工处于与人工智能高度暴露职业","人工智能可能改变工作方式非完全淘汰","报告指出：人工智能对劳动力影响显著"]

["司法部加强对人工智能监管，警告企业滥用将受严惩。","副检察长提及评估公司合规计划考虑技术风险管理。","对谷歌前工程师提起诉讼，凸显人工智能滥用可能带来的危害。","呼吁企业加强管理，警示违规将面临法律后果。"]

["花旗银行首席分析技术与创新负责人探讨生成式 AI 在银行的影响","花旗银行利用生成式 AI 协助客服、自动化任务及内部搜索","银行担心外部聊天机器人风险，暂未推出，强调谨慎态度","生成式 AI 推动花旗银行内部变革，确保负责任执行"]

["微软工程师发出警报，称公司的 AI 图像生成器存在冒犯和有害图像风险。","工程师向美国监管机构和董事会发信，督促揭示产品安全隐患。","问题源于 Designer 工具，可能生成含有害内容的图像引发争议。","OpenAI 的 DALL-E 模型存在风险，工程师呼吁解决安全隐患问题。"]