最近的一项研究显示，63% 的全球安全领导者正在考虑禁止开发团队使用人工智能生成代码。这一现象引起了广泛的关注，尤其是在技术行业内。虽然人工智能的普及被认为可以帮助开发者处理一些琐碎的任务，但安全专家对此却心存疑虑。图源备注:图片由AI生成，图片授权服务商Midjourney根据 Venafi 的调查，92% 的决策者表示，他们对公司内部使用 AI 生成代码的情况感到担忧，主要原因是对输出质量的担心。他们认为，AI 模型可能是基于过时的开源库进行训练的，导致生成的代码质量不达标

最近，谷歌宣布将在其搜索结果中推出一项新功能，旨在帮助用户更好地理解内容的创建和修改方式。这一举措是在谷歌加入 “内容来源和真实性联盟”（C2PA）之后展开的，联盟成员包括亚马逊、Adobe 和微软等大品牌，致力于打击网络虚假信息。谷歌表示，这一新功能将在接下来的几个月内逐步推出，利用当前的内容凭证标准（即图片的元数据）在搜索中为 AI 生成或编辑的图片添加标签，以提高用户的透明度。用户将能通过点击图片上方的三个点，选择 “关于此图片” 来查看其是否为

在当今，深度伪造和合成媒体由于生成式人工智能（gen AI）的发展而愈加普遍。为了应对这一挑战，许多组织正在努力完善数字水印技术，以便追踪内容的来源。尽管目前还没有一个组织完全成功，但 “内容来源和真实性联盟”（C2PA）正在壮大其成员队伍。C2PA 宣布，亚马逊已成为该组织的新一届指导委员会成员。C2PA 是一个隶属于 Linux 基金会的开放性技术标准机构，旨在通过制定技术标准来应对网上虚假信息的盛行。该组织由 Adobe 共同创立，负责维护 “内容凭证” 这一方法，旨在提高

谷歌最近推出了一项令人兴奋的实验功能 ——AI 生成播客。这个功能可以把你的研究资料转化为一段段有趣的播客，里面会有两个 “主持人” 围绕你所搜集的信息进行讨论。

美国新墨西哥州警方使用AI生成的虚拟14岁少女照片诱捕性犯罪嫌犯，旨在调查Snapchat平台保护儿童免受性剥削的情况。此方法在成功引诱多名嫌疑人后，引发了关于伦理、法律和AI伦理的讨论，特别是AI生成图像的合法性、隐私权及同意问题。法律专家指出，制造并使用深度伪造的儿童性虐待材料是违法且令人担忧的。此外，AI生成图像所需的真实儿童照片训练数据集引发了对儿童隐私和同意的质疑。此事件突显了在利用技术打击犯罪时，如何平衡法律执行与道德责任的复杂性。

亚马逊有声读物业务Audible引入AI声音训练技术生成新有声读物录音，计划从本周起邀请美国专业有声读物叙述者参与。经过训练的AI将用于录音，叙述者有权批准其合成声音用于特定作品，并可编辑发音和节奏。参与计划的朗读者将按书名和版税分成的方式，获得使用其AI声音创作的有声读物报酬。

美国佛罗里达州一名男子因涉嫌利用人工智能生成儿童色情内容而被捕，面临多达20项淫秽罪名。这名电影院工作人员在社交应用Kik上分发使用AI图像生成器制作的儿童色情图像，引发广泛关注。案件涉及生成式人工智能的滥用，促使各级立法者推动立法禁止不当内容传播。去年，国家失踪与被剥削儿童中心收到4700起相关举报，包括利用生成式AI制作真实儿童的深度伪造图像进行敲诈。斯坦福大学研究发现，广泛使用的生成式AI图像数据集中存在数百张儿童性虐待图像。互联网观察基金会的首席技术官表示，问题在于内容通过开源软件生成并可在个人电脑上本地运行，解决难度加大。

美国联邦贸易委员会（FTC）宣布全面禁止虚假的人工智能（AI）生成评论和推荐，以打击在线评论中的不诚实行为，包括购买好评、雇用虚假关注者及虚构角色评论。这些假评论误导消费者，破坏市场公平竞争。新规强调AI生成虚假评论的危害，影响消费者决策。FTC主席莉娜·汉表示，虚假评论污染市场，分散对诚实竞争者的关注。这项规定旨在保护消费者，让他们依赖真实用户反馈，而非假评论。调查揭露知名媒体发布由虚构AI作者撰写的产品评测，涉及虚假内容。负责假评论的公司AdVon Commerce及其关联公司Seller Rocket允许支付费用获取推广，这种“付推广”关系被新规禁止。FTC有权对违反规定的公司追究民事责任，旨在清理电子商务环境，保护消费者权益。总统拜登对此表示支持，强调消费者应信赖真实评价寻找优质服务。

Zomato，印度主流外卖平台，宣布禁止餐厅菜单上使用AI生成的食品图片，以保护客户信任，减少投诉、退款和评分下降。CEO Deepinder Goyal强调，从本月开始，平台将移除AI生成图片，并鼓励餐厅使用专业摄影服务，提供成本价支持。Zomato计划利用自动化技术检测和拒绝AI图片上传。同时，市场团队也禁止在推广材料中使用此类图片。尽管采取了强硬立场，Zomato仍积极投资生成式AI，用于推荐食品选择和增强用户体验，并推出“团体点餐”功能，简化多人订单流程。

Meta 与环球音乐集团（UMG）签署多年度合作协议，旨在扩展音乐内容在Meta旗下包括Threads和WhatsApp在内的社交应用上的使用，解决未经授权的AI生成内容对艺术家的影响。这次合作是双方自2017年合作以来的进一步深化，允许用户在这些平台上更广泛地创造和分享音乐内容。协议旨在解决版权问题，为艺术家提供保护，并允许音乐重新在平台上流通，为用户与音乐互动提供更多机会。

安格利亚鲁斯金大学的报告揭示，AI生成的儿童性虐待图片需求在黑暗网络上迅速增长。研究者德安娜・达维博士和萨姆・伦德里根教授分析了过去12个月的黑暗网络论坛聊天记录，发现在线犯罪分子利用AI技术制作儿童色情材料的兴趣在增加。他们通过自学和分享经验，在线创建AI生成的虐待图像。研究指出，AI技术带来的问题是，执法机构在理解和应对AI生成的材料时面临巨大挑战。使用AI生成此类材料不仅加剧了对儿童的伤害，也使得犯罪活动更加隐蔽和复杂。这一现象反映了全球在线儿童虐待威胁的加剧，需要引起足够重视。

最近，一首由人工智能创作的歌曲《Verknallt in einen Talahon》凭借feat. udio.com的标识成功跻身德国百大排行榜，达到了第72位，其在Spotify上的表现更为亮眼，位列第27位。这一现象不仅反映了人工智能在音乐创作领域的潜力，也标志着音乐消费方式的转变。排行榜的评定综合考虑了独特的听众数量、播放时间、Shazam识别次数以及iTunes购买量等指标。这首歌曲在各大音乐平台均可收听，包括Spotify。这一成就表明，人工智能参与的音乐作品正日益受到市场和听众的欢迎。

微软副董事长布拉德·史密斯向美国国会呼吁，希望出台针对AI生成深度伪造技术的法律，以保护公民免受诈骗和操纵。他指出，虽然行业和非营利组织已采取措施应对这一问题，但法律需与时俱进以打击深度伪造诈骗。史密斯强调，应制定全面的“深度伪造诈骗法”，为执法提供法律框架，起诉利用技术进行诈骗的网络犯罪分子。他还呼吁更新关于儿童性虐待和非自愿亲密影像的法律，涵盖AI生成的内容。最近的参议院法案专门针对非自愿色情深度伪造内容，允许受害者起诉创作者。微软在自家AI产品中加强安全控制，以防止误用，并呼吁AI系统提供商使用先进溯源工具标记合成内容，以增强公众对信息的信任。

英国互联网观察基金会(IWF)报告指出，AI生成的儿童性虐待内容(CSAM)在网络上的激增令人担忧。在他们春季30天的调查中，黑暗网络论坛上有3,512部利用AI制作的CSAM，较前一年同期增加17%。报告详细指出，内容真实度和严重程度均有上升，其中涉及极端或露骨性行为的比例有所增加。当前合成视频虽未达高度逼真，技术进步令其快速逼近现实。此增长趋势导致两个主要问题：一是追踪技术发展使得监管和执法难题加深，尤其是在小型AI程序方面；二是缺乏明确法律界定，尤其是在涉及AI生成内容的犯罪范畴。虽然这个问题在技术上日益复杂，FBI已表示会严肃对待指控，举报官称鼓励受害者立即报告。

近十年科学论文分析显示，研究人员发现人工智能模型滥用了一些 “风格” 词汇，而这些词汇在几年前还很少被使用。在一项尚未经同行评审的新研究中，研究人员采用了一种新颖的方法，类似于流行病学，通过分析生物医学论文中的 “多余词汇使用”，来揭示大型语言模型往往滥用某些词汇的情况。研究结果为人工智能在学术界的影响提供了有趣的见解，表明至少有10% 的摘要是在2024年使用了大型语言模型进行处理。

YouTube近期悄然推出一项新政策，允许用户要求删除人工智能生成的模仿其面部或声音的内容，以应对AI生成内容的迅速崛起及其对平台的影响。

日前，AI 视频生成平台 Runway 宣布，他们最新推出的产品 Gen-3 Alpha 已向部分用户开启测试。与上一代相比，Gen-3 Alpha 在光影、质量、构图、文本语义还原、物理模拟、动作一致性 / 连贯性等方面实现了大幅度提升，成为了与 OpenAI 的 Sora 相媲美的产品。

多位摄影师抱怨 Meta 错误地将 “Made with AI” 标签添加到他们拍摄的真实照片中。在过去几个月中，有几位摄影师分享了一些例子，最近 Meta 将前白宫摄影师皮特・苏萨（Pete Souza）拍摄的一张篮球比赛照片标记为 AI 生成。

["全球首部完全由 AI 生成的电影《Our T2Remake》在洛杉矶首映，门票售罄。","电影内容涵盖 OpenAI、ChatGPT 和 AGI 主题，由 50 位艺术家合作创作。","电影制作团队使用多种 AIGC 工具完成，尽量确保原创性。","虽然人物表情尚显机械，但吸引了观众关注，引发对 AI 在电影创作中的思考。"]

["谷歌加强排名系统，清理 AI 生成垃圾内容","该举措旨在减弱为搜索引擎而非人们创建的网站影响","预计减少搜索结果中 40% 低质量缺乏原创内容","谷歌目标是引导流量至高质量有帮助的网站"]