近日，一起发生在Facebook蘑菇爱好者群组的事件，再次引发了对AI应用安全性的担忧。据404Media报道，一个名为"FungiFriend"的AI代理潜入了拥有1.3万成员的"东北蘑菇识别与讨论"群组，并给出了具有潜在致命风险的错误建议。当被询问如何烹饪含有高浓度砷的Sarcosphaera coronaria蘑菇时，FungiFriend不仅错误地表示该蘑菇"可以食用"，还详细介绍了包括煎炒、炖煮等多种烹饪方法。而事实上，这种蘑菇已经造成过致命案例。消费者安全组织Public Citizen的研究主管Rick Claypool指出，利用AI自动化识别可食用

OpenAI在经历了CTO等多位高管相继离职的一系列人事动荡，这家公司逐渐注入新鲜血液，迎来了新的人员加入。最近，前 Palantir 的首席信息安全官 Dane Stuckey 宣布加入 OpenAI，担任该公司的新任首席信息安全官（CISO）。这个消息是在他周二晚上通过社交媒体 X 发布的，他对未来的工作充满期待。Stuckey 在宣布中提到，安全性对 OpenAI 的使命至关重要。他表示，确保合规性、信任和安全的最高标准是保护数以亿计用户的产品安全的关键。他还强调，推动安全的人工智能（AGI）发展对全人类都有益

昨天，中国首个汽车智能安全评价体系在重庆正式发布。该体系将对智能汽车的环境感知、决策控制、应急响应等多个维度进行评价，是我国在智能汽车安全评价领域的重大突破。据了解，汽车智能安全评价体系重点聚焦智能汽车的应用场景安全，创新性地提出了针对自动驾驶汽车的智能安全测评规程。通过50多项考评，形成了对自动驾驶系统全面的安全评估矩阵。专家表示，智能汽车在复杂场景下的安全性表现与单一场景下差异巨大，如光照、降雨、能见度等对智能汽车的安全性表现影

OPPO公司宣布其人工智能大模型AndesGPT-2.0在权威第三方评测机构SuperCLUE发布的《中文大模型基准评测2024年8月报告》中表现卓越，荣获多项第一，标志着OPPO在AI领域的技术实力进一步得到行业认可。

谷歌宣布重新启用AI聊天机器人Gemini的人物图像生成功能，旨在生成包括照片级逼真风景、纹理油画等在内的多样化内容。该功能由谷歌的AI文本转图像生成器Imagen3提供支持，目前仅支持英语，将在未来几天内向Gemini Advanced、Business和Enterprise用户开放。新升级的Imagen3模型性能更佳，且内置安全措施，优化以避免历史不准确问题，确保生成的图像准确、适当。Gemini的AI生成人物图像功能与谷歌新推出的Remagine功能有所不同，后者专用于在Pixel9手机系列拍摄的照片中融入AI元素。Gemini功能在内容安全方面设有严格限制，如不允许创建公众人物的逼真图像、涉及未成年人的内容或血腥、暴力和性爱场景。谷歌计划未来将AI生成人物图像的能力扩展到更多用户和语言版本，以满足全球用户需求，展示其在AI图像生成技术上的进步和对技术伦理与安全挑战的应对决心。

马斯克公开支持加州SB1047法案，旨在要求大型AI模型制造商制定防范措施以应对潜在危害。该法案要求记录防止AI造成严重损害的策略。马斯克强调对AI监管的必要性，与他过去对AI风险的关注一致。他的AI公司xAI将受SB1047法案约束。与此形成对比的是，OpenAI反对SB1047法案，支持另一个替代方案。这一事件凸显了AI监管在行业内的复杂性和争议性。

微软已全面向企业开放其人脸识别技术Face Check，旨在提供更安全的身份认证服务。通过结合用户手机自拍与已验证的身份照片，该技术能有效防止网络犯罪，减少65%依赖不安全验证方式的攻击路径。Face Check集成于微软Entra数字身份服务中，采用的深度学习算法可识别并抵御深度伪造等欺骗手段，保护用户隐私。企业可单独购买服务，每验证一次费用为0.25美元，或免费试用Entra Suite，每月包含8次免费验证。

Gary Marcus在专栏中对OpenAI的首席执行官Sam Altman提出批评，指出其在AI安全问题上的言论与实际行动不符，引发了对诚信的质疑。Marcus担忧生成式AI如ChatGPT的安全隐患，批评Altman过于乐观的态度与现实不符，认为AI技术的安全性可能永远无法得到保障。他强调AI研究和开发缺乏足够监管和透明度，对用户和社会构成风险。Marcus呼吁AI开发者应负起责任，考虑技术对社会的影响，而非仅追求创新和商业利益。这一批评引发了广泛讨论，突显了AI技术未来发展方向与安全性的紧迫性。

丰田综合研究院与斯坦福大学合作，将人工智能引入两辆丰田Supra跑车，实现类似方程式漂移的双车串联驾驶。这一创新不仅展现了炫酷的表演，更重要的是，它标志着在乘用车安全系统构建中的里程碑式进步。通过AI系统，两车能在极端条件下帮助驾驶员更好地控制车辆，每秒解决和分析问题高达50次，快速决定最合适的转向、油门和制动命令。在赛道测试中，这套系统通过实时通信实现精准配合，展现了惊人的漂移能力。这一合作不仅推动了自动驾驶技术的发展，还展示了AI在复杂驾驶场景中的应用潜力。

北航和南洋理工的联合研究团队对GPT-4o模型进行了深入的安全性测试。通过上万次的API查询，研究人员对GPT-4o的文本、图像、音频三种模态进行了安全性评估。研究发现，尽管GPT-4o在文本越狱攻击的安全性上有所提升，但新引入的语音模态增加了新的攻击面，且整体多模态安全性不如前一代模型GPT-4V。

["Canalys预测2027年60%的个人电脑将兼容AI。","兼容AI的个人电脑初期将应用于特定业务职能和需要AI计算的专业技术人员。","优化后的大语言模型和新型操作系统将推动兼容AI的个人电脑普及。","个人电脑作为企业和消费者的核心工具,将迎接与AI深度融合的转变。","AI个人电脑的发展将受处理器制造商的战略方向影响。"]

["OpenAI宣布启动“红队”网络计划，邀请跨领域专家加入，旨在提高人工智能模型的安全性。","“红队”网络是OpenAI的迭代开发过程的一部分，包括内部和外部对抗性测试，确保模型在各种情况下都表现出安全性和稳定性。","网络成员将根据其专业领域在整个模型和产品开发生命周期中协助进行风险评估。","参与项目的专家将获得报酬，同时也将有机会与其他专家交流经验。","OpenAI的“红队”网络计划有望提高AI模型的整体安全性和可靠性，为人工智能的未来发展提供更坚实的基础。"]