近年来,从语音助手到自动驾驶技术,AI已深入到生活的方方面面。然而,AI技术的广泛应用也带来了一些潜在的风险,其中深度伪造技术引发了社会关注。深度伪造技术利用算法生成高度逼真的虚假内容,通过学习大量真实数据,生成与人物或场景极为相似的视频或图像。尽管这一技术展示了AI的强大,但也滋生了欺诈行为。例如,近期出现了冒用张文宏医生形象和声音进行直播带货的事件。伪造视频中,合成人像宣称某产品,致使超过1200件商品售出。此事引发张文宏医生和社会公众的强
Meta 公司近日发布了一项名为 Video Seal 的新型神经水印系统,该系统旨在帮助识别 AI 生成的视频,即使视频经过编辑也能有效追踪其来源。这种水印对于观众而言是不可见的,但可以通过检测来验证视频的真实性。Meta 将整套系统以 MIT 许可的开源软件形式发布,包括 Video Seal 水印模型、研究论文以及训练和推理代码。此外,Meta 还发布了一个交互式演示,允许用户亲自测试这项技术。除了 Video Seal 之外,Meta 还推出了两款辅助工具:Omni Seal Bench,用于比较不同类型媒体的神经水印性能;以及
近日,一段视频在网络上引起了广泛关注,视频中出现了一个模仿张文宏的账号在直播带货,出售一种蛋白棒。许多网友对此产生疑问,“张文宏是不是在带货?” 更令人担忧的是,部分年长观众对这一视频深信不疑,甚至已经下单并在社交群里转发了该信息。经过记者的核实,发现视频中的张文宏并非真人,而是通过 AI 技术合成的深度伪造。对此,张文宏回应表示,这样的卖货账号不止一个,且一直在变,他已多次向平台投诉。这件事情已经有几个星期了,一开始进行了投诉。特别是有
随着深度伪造技术的普及,网络上虚假内容的数量激增。据 ID 验证平台 Sumsub 的数据,从2023到2024年,深度伪造的数量增长了四倍,2024年深度伪造内容占所有欺诈的7%。这其中包括身份冒充、账户接管以及复杂的社会工程攻击等各种形式。为了应对这一挑战,Meta 公司最近推出了一款新的水印工具 ——Meta Video Seal,旨在为 AI 生成的视频片段添加几乎不可察觉的水印。该工具已开源,并且设计上能够与现有软件无缝集成。Meta Video Seal 加入了 Meta 现有的其他水印工具,如 Watermark Anything 和 Audi