最近,谷歌宣布将其文本水印工具 SynthID 开源,旨在帮助开发者更好地识别 AI 生成的文本。这一工具现已通过谷歌的 “负责任生成 AI 工具包” 向公众开放使用。谷歌 DeepMind 的研究副总裁 Pushmeet Kohli 表示,这项技术将使其他生成式 AI 开发者能够检测文本输出是否来自他们自己的大型语言模型(LLM),这将有助于他们以更负责任的方式构建 AI 应用。在当今这个信息传播迅速的时代,水印技术显得尤为重要。随着大型语言模型被用来传播政治虚假信息、生成不当内容等,水印工具的需求也
最近,普林斯顿大学的研究团队发布了一项有趣的研究报告,指出在2024年8月,维基百科上约有4.36% 的新文章包含了显著的 AI 生成内容。这个研究由 Creston Brooks、Samuel Eggert 和 Denis Peskoff 三位学者共同完成,他们使用了名为 GPTZero 和 Binoculars 的工具来检测这些 AI 生成的内容。研究表明,与 GPT-3.5发布前的数据相比,2024年的维基百科文章中 AI 生成的内容明显增加。在检测的2909篇英文维基百科文章中,GPTZero 标记了156篇,Binoculars 则标记了96篇,而这两种工具之间有45篇文章是重叠的。被标记的
最近,Meta 开始测试一项新功能,这项功能将在 Facebook 和 Instagram 的动态中插入基于用户兴趣和当前潮流的 AI 生成内容。Meta 表示,这些 AI 生成的图像会根据每个用户的偏好进行调整。用户可以点击一些建议的提示,以引导内容向新的方向发展。更有趣的是,用户只需滑动屏幕,就能让 AI 实时创造出更个性化的内容。作为 Meta 推动 AI 发展的一个重要部分,该公司还在其 Meta AI 助手中加入了语音功能。这意味着用户不仅可以提问与照片相关的问题,还能对照片进行编辑,并自动翻译 Reels 视
AI技术如同一把双刃剑,既能带来便利,也可能造成风险。为了更好地管理这些风险,加州州长加文·纽森(Gavin Newsome)近期签署了九项法案,专门针对AI生成内容,尤其是深度伪造(deepfakes)现象进行规范。图源备注:图片由AI生成,图片授权服务商Midjourney在这些法案中,SB1047法案特别引人注目,它要求AI开发者必须采取安全措施,以减少技术可能引发的灾难性事件,比如大规模伤亡或网络攻击。纽森州长尚未明确表示对该法案的态度。AB2602和AB1836两项法案则聚焦于保护演员和表演者的权益。