在最近的一系列 Threads 帖子中，Instagram 的负责人亚当・莫塞里（Adam Mosseri）强调了社交媒体用户在面对日益增长的 AI 生成内容时应提高警惕。他指出，用户在网上看到的图像和信息可能并不真实，因为 AI 技术已经能够生成与现实极为相似的内容。为了帮助用户更好地判断信息的真实性，莫塞里提到，用户应该考虑内容的来源，而社交平台也有责任对此提供支持。莫塞里表示，社交媒体平台的角色是尽可能为生成的 AI 内容贴上标签，帮助用户识别。然而，他也承认，有些内容可能会被遗漏

Instagram负责人Adam Mosseri在社交媒体表示，用户应对网络上看到的图片保持警惕，特别是那些容易被误认为现实的人工智能生成内容。Mosseri强调，人工智能技术已显著提高其制作逼真内容的能力，因此用户应审慎对待，考虑信息的来源，而社交平台则有责任在这方面提供帮助。他写道:“作为互联网平台，我们的职责是尽可能地标记人工智能生成的内容。”不过，Mosseri也承认，由于技术的局限性，这些标签有时会遗漏一些内容。因此，平台还需提供分享者的背景信息，帮助用户评估信息的可

最近，谷歌宣布将其文本水印工具 SynthID 开源，旨在帮助开发者更好地识别 AI 生成的文本。这一工具现已通过谷歌的 “负责任生成 AI 工具包” 向公众开放使用。谷歌 DeepMind 的研究副总裁 Pushmeet Kohli 表示，这项技术将使其他生成式 AI 开发者能够检测文本输出是否来自他们自己的大型语言模型（LLM），这将有助于他们以更负责任的方式构建 AI 应用。在当今这个信息传播迅速的时代，水印技术显得尤为重要。随着大型语言模型被用来传播政治虚假信息、生成不当内容等，水印工具的需求也

最近，普林斯顿大学的研究团队发布了一项有趣的研究报告，指出在2024年8月，维基百科上约有4.36% 的新文章包含了显著的 AI 生成内容。这个研究由 Creston Brooks、Samuel Eggert 和 Denis Peskoff 三位学者共同完成，他们使用了名为 GPTZero 和 Binoculars 的工具来检测这些 AI 生成的内容。研究表明，与 GPT-3.5发布前的数据相比，2024年的维基百科文章中 AI 生成的内容明显增加。在检测的2909篇英文维基百科文章中，GPTZero 标记了156篇，Binoculars 则标记了96篇，而这两种工具之间有45篇文章是重叠的。被标记的

最近，Meta 开始测试一项新功能，这项功能将在 Facebook 和 Instagram 的动态中插入基于用户兴趣和当前潮流的 AI 生成内容。Meta 表示，这些 AI 生成的图像会根据每个用户的偏好进行调整。用户可以点击一些建议的提示，以引导内容向新的方向发展。更有趣的是，用户只需滑动屏幕，就能让 AI 实时创造出更个性化的内容。作为 Meta 推动 AI 发展的一个重要部分，该公司还在其 Meta AI 助手中加入了语音功能。这意味着用户不仅可以提问与照片相关的问题，还能对照片进行编辑，并自动翻译 Reels 视

AI技术如同一把双刃剑，既能带来便利，也可能造成风险。为了更好地管理这些风险，加州州长加文·纽森（Gavin Newsome）近期签署了九项法案，专门针对AI生成内容，尤其是深度伪造(deepfakes)现象进行规范。图源备注:图片由AI生成，图片授权服务商Midjourney在这些法案中，SB1047法案特别引人注目，它要求AI开发者必须采取安全措施，以减少技术可能引发的灾难性事件，比如大规模伤亡或网络攻击。纽森州长尚未明确表示对该法案的态度。AB2602和AB1836两项法案则聚焦于保护演员和表演者的权益。

阿里通义将在即将举行的云栖大会上发布视频生成大模型，引发业界高度关注。目前，通义App频道和通义万相PC端已悄然上线了“视频生成”入口，但功能尚未开放，用户仅可进行预约。据页面信息显示，这一全新视频生成大模型是由阿里旗下通义实验室自主研发，包含“文生视频”和“图生视频”两种主要创作模式，用户可通过文字或图像生成相应的视频内容。此次发布无疑将为内容创作者带来全新的视频制作体验，也标志着阿里在AI生成内容领域迈出了重要一步。预约地址:https://tongyi.

厦门警方近日破获一起利用AI技术合成虚假视频事件，一男子任某（32岁，湖北人）因涉嫌发布不实信息被抓获。任某通过自动生成虚假内容、图片，再利用AI技术合成视频，在今日头条上发布了一段关于广东某地老人被殴打、孙子跳河自杀的谣言视频，引起广泛关注。其目的为增加粉丝数和流量以获利。任某承认，利用AI技术合成视频只需两三分钟。警方已对任某采取刑事强制措施，此事件警示公众谨慎使用AI工具，避免不良后果。

OpenAI、Adobe 和微软三大科技巨头联合支持加州的AB3211法案，该法案旨在要求科技公司在生成的内容中添加标签，以帮助识别人工智能（AI）创作的内容。主要内容包括在AI生成的照片、视频和音频剪辑的元数据中添加水印，并要求大型在线平台以普通观众易于理解的方式标记AI生成的内容。此法案旨在解决信息来源问题，提高公众对AI技术的理解和信任。尽管之前有行业团体反对，但在法案内容修订后，这些公司现支持法案通过。此举体现了科技公司在AI内容透明化方面的努力。

Meta 与环球音乐集团（UMG）签署多年度合作协议，旨在扩展音乐内容在Meta旗下包括Threads和WhatsApp在内的社交应用上的使用，解决未经授权的AI生成内容对艺术家的影响。这次合作是双方自2017年合作以来的进一步深化，允许用户在这些平台上更广泛地创造和分享音乐内容。协议旨在解决版权问题，为艺术家提供保护，并允许音乐重新在平台上流通，为用户与音乐互动提供更多机会。

随着人工智能技术的迅速发展，AI生成的视频日益逼真，给社会带来了严重的安全隐患。近期，一起涉及2500万美元的诈骗案就利用了AI制作的逼真视频。为应对这一挑战，哥伦比亚工程大学的研究团队开发了一种名为DIVID（DIffusion-generated VIdeo Detector）的创新工具，旨在检测AI生成的视频。

["YouTube要求创作者透露是否使用生成式AI制作视频,否则将面临处罚","使用AI制作的敏感话题视频需要增加显著标签,让用户清楚知晓","平台将更新隐私投诉流程,允许请求删除模拟人物的AI生成视频","音乐合作伙伴可要求下架模仿艺人声音的AI生成内容","YouTube希望通过新规则平衡AI创新与保护社区责任"]

["🤖<b>大模型的应用趋势</b>:文章提到大模型已经从模型端发展到应用端创新。","🔍<b>内容生成的监管趋势</b>:文章提到各大科技公司正在积极开发各种水印系统来标注AI内容,增加透明度。","💻<b>Adobe的技术创新</b>:文章提到Adobe将新符号嵌入到Photoshop、Premiere等产品中,推动AI生成内容的标注。"]

["众筹平台BackerKit发布政策，禁止在其平台上使用人工智能生成的内容，包括艺术作品。","这一决定与竞争对手Kickstarter形成鲜明对比。","BackerKit表示，他们将继续限制AI工具在平台上的使用，以维护创作者和投资者的权益。","这一政策的实施引发了对AI伦理和版权的担忧。"]

["最新的Google“有益内容”更新引发了网站担忧，一些站点主人称他们在搜索结果中被推后，流量急剧下降。","更新允许AI生成的内容，这引发了站点拥有者的不满，他们担心Google正在迫使出版商生成AI垃圾内容，否则就会受到排斥。","Google将“有益内容”的定义从“人们为人们编写的有益内容”简化为“为人们编写的有益内容”。"]

["TikTok最新举措：推出AI生成内容标签。","标签要求创作者使用，提醒观众内容由AI生成。","计划更名使用AI工具的滤镜和效果，提高辨识度。","举措旨在增强内容透明度，维护平台内容质量。","用户体验将因此得到改善。"]

["美国50州总检察长联名要求国会成立委员会,研究AI生成儿童色情内容的影响","委员会应提出解决方案,防止AI被用来生成虚假的儿童性虐待内容","呼吁扩大法律范围,明确将AI生成的儿童色情内容列入违法范围"]