近日,在中关村论坛系列活动第12届数字金融与科技金融大会上,蚂蚁数科的 Deepfake 检测方案入选大会“金融科技技术创新与应用案例”。蚂蚁数科依托旗下天玑实验室,业界首次构建了大规模、高质量、多模态的 Deepfake 数据集,其合成超过百万级多媒体内容,充分地模拟了真实世界金融风控环境中的Deepfake攻击样本,成为评测现有金融领域Deepfake检测模型性能的重要标准。在金融业务场景中,蚂蚁数科多组测试数据集上的 Deepfake 检测准确率达到了98%以上,并成功阻止了多起利用Deepfake技
Meta 公司近日发布了一项名为 Video Seal 的新型神经水印系统,该系统旨在帮助识别 AI 生成的视频,即使视频经过编辑也能有效追踪其来源。这种水印对于观众而言是不可见的,但可以通过检测来验证视频的真实性。Meta 将整套系统以 MIT 许可的开源软件形式发布,包括 Video Seal 水印模型、研究论文以及训练和推理代码。此外,Meta 还发布了一个交互式演示,允许用户亲自测试这项技术。除了 Video Seal 之外,Meta 还推出了两款辅助工具:Omni Seal Bench,用于比较不同类型媒体的神经水印性能;以及
近日,一段视频在网络上引起了广泛关注,视频中出现了一个模仿张文宏的账号在直播带货,出售一种蛋白棒。许多网友对此产生疑问,“张文宏是不是在带货?” 更令人担忧的是,部分年长观众对这一视频深信不疑,甚至已经下单并在社交群里转发了该信息。经过记者的核实,发现视频中的张文宏并非真人,而是通过 AI 技术合成的深度伪造。对此,张文宏回应表示,这样的卖货账号不止一个,且一直在变,他已多次向平台投诉。这件事情已经有几个星期了,一开始进行了投诉。特别是有
如今,Deepfake 已经无孔不入。随着生成式 AI 的普及,网络上的虚假内容呈爆炸式增长。据身份验证平台 Sumsub 统计,2023年至2024年,全球 Deepfake 数量增加了4倍。2024年,Deepfake 占所有欺诈行为的7%,从身份冒充、账户盗用到复杂的社会工程攻击,无不涉及 Deepfake 的身影。为了有效打击 Deepfake,Meta 公司近日发布了一款工具,可以在 AI 生成的视频片段上添加难以察觉的水印。这款名为 Meta Video Seal 的工具于周四宣布开源,旨在集成到现有软件中。 该工具与 Meta 的其他水印工具 Watermark Anything(