这篇论文提出了一种利用头部姿势估计作为特征来区分真实视频和 Deepfake 视频的方法。作者通过分析视频中个体的头部姿势角度来发现 Deepfake 操纵引入的不一致性。在实验中,使用了三种头部姿势估计方法,并使用了 KNN 和动态时间规整等技术进行实验验证,最终证明了这种方法在 Deepfake 检测方面的有效性。
相关AI新闻推荐

蚂蚁数科业界首次构建百万级高质量 Deepfake 数据集
近日,在中关村论坛系列活动第12届数字金融与科技金融大会上,蚂蚁数科的 Deepfake 检测方案入选大会“金融科技技术创新与应用案例”。蚂蚁数科依托旗下天玑实验室,业界首次构建了大规模、高质量、多模态的 Deepfake 数据集,其合成超过百万级多媒体内容,充分地模拟了真实世界金融风控环境中的Deepfake攻击样本,成为评测现有金融领域Deepfake检测模型性能的重要标准。在金融业务场景中,蚂蚁数科多组测试数据集上的 Deepfake 检测准确率达到了98%以上,并成功阻止了多起利用Deepfake技

Meta “亮剑”!开源 AI 视频水印工具 Video Seal,狙击 Deepfake 泛滥
如今,Deepfake 已经无孔不入。随着生成式 AI 的普及,网络上的虚假内容呈爆炸式增长。据身份验证平台 Sumsub 统计,2023年至2024年,全球 Deepfake 数量增加了4倍。2024年,Deepfake 占所有欺诈行为的7%,从身份冒充、账户盗用到复杂的社会工程攻击,无不涉及 Deepfake 的身影。为了有效打击 Deepfake,Meta 公司近日发布了一款工具,可以在 AI 生成的视频片段上添加难以察觉的水印。这款名为 Meta Video Seal 的工具于周四宣布开源,旨在集成到现有软件中。 该工具与 Meta 的其他水印工具 Watermark Anything(

Mozilla Firefox 打造 Deep Fake Detector:多模型一键精准识别 AI 内容
在当今的人工智能时代,AI 生成内容日益增多,信息真实性面临挑战。Deep Fake Detector 作为一款创新的浏览器插件应运而生,它致力于帮助用户准确区分人类撰写文本与 AI 生成文本,为保障信息的可靠性提供有力支持,让用户在信息洪流中能够辨别真伪,避免被虚假信息误导。Deep Fake Detector 简介Deep Fake Detector 是一款由 Mozilla 提供的浏览器插件形式的服务,其本身也是经过训练的 AI 模型。它专注于识别 AI 生成的文字内容,目前主要支持英文内容检测。通过集成多个开源检测模型,如 ApolloD

对抗Deepfake!中科院女工程师开源AI模型保护女性
近期,Deepfake技术滥用事件在韩国引起广泛关注,近22万人通过Telegram传播AI生成的色情图片,对女性权益造成严重伤害。这一事件与"N号房事件"相呼应,凸显了AI技术滥用的社会危害。中国女工程师张欣怡及其团队针对这一问题,宣布将参加外滩大会AI创新赛的Deepfake模型向全球开源,旨在为对抗Deepfake技术滥用提供技术手段。该举动在社交媒体上获得广泛关注,视频播放量超过151万次。张欣怡表示,团队受到韩国事件启发,旨在通过技术手段为受害者提供保护。开源模型旨在降低使用门槛,让更多人能便捷地对抗Deepfake。此外,赛事设立奖金池鼓励技术人才,推动AI向善发展。尽管技术对抗是重要一环,还需从法律、教育等多层面构建全面防御体系,包括加强法律法规、提高公众媒体素养、培养负责任的技术使用文化等。张欣怡的行动为解决Deepfake问题提供范例,但解决这一问题需要社会各界共同努力。

微软出手!为deepfake色情受害者提供工具,彻底清除 Bing 搜索中的不良图像
微软与反仇色情组织StopNCII合作,为受害者提供清除搜索引擎上deepfake色情图像的工具。通过在设备上制作图像的数字指纹(哈希值),帮助在Bing等平台彻底清除相关合成裸体图像。此举措旨在应对生成式AI技术滥用引发的deepfake色情问题,解决仅靠用户举报难以有效应对的挑战。然而,谷歌尚未与StopNCII合作,美国对此类行为缺乏专门的联邦法律。旧金山的诉讼尝试可能推动制定更有力的法律。

到2027年,Deepfakes带来的损失将达到400亿美元
作为目前发展最快的对抗性人工智能形式之一,深度伪造(Deepfakes )相关的损失预计将从2023年的123亿美元飙升至2027年的400亿美元,复合年增长率将达到惊人的32%。德勤预计,未来几年深度造假将激增,银行和金融服务将成为主要目标。

DeepMind发现政治深度伪造是AI恶意使用的首要问题
谷歌 DeepMind 首次进行了关于最常见的恶意 AI 应用的研究,结果显示生成虚假政治家和名人的人工智能(AI)“Deepfakes” 比用 AI 协助网络攻击的尝试更为普遍。这一研究是谷歌 AI 部门 DeepMind 和谷歌旗下的研发单位 Jigsaw 合作的,目的是量化生成 AI 工具的风险,这些工具已被全球最大的科技公司推向市场以寻求巨额利润。
Meta开发AudioSeal技术,可以秘密为 Deepfake 音频添加水印
["Meta的研究人员在对抗合成语音的挑战中取得了一项重大突破。","他们提出了一种名为AudioSeal的技术,该技术能够在人工智能生成的语音中嵌入隐形水印,用于主动检测AI生成的言论","AudioSeal是一项重要进展,但仍需谨慎应用,以克服隐私和伦理风险。","需要不断演进的解决方案以确保对抗合成媒体的可靠性和合法性。"]
迈克菲AI打假技术露真容:Deepfake音视频检测准确率超90%
["迈克菲AI技术亮相CES,揭示Deepfake音视频检测准确率超90%。","文章指出网络充斥AI合成音视频,迈克菲推出Project Mockingbird打假技术应对。","调查显示美国人对Deepfake担忧增加,近68%受访者更担心,33%表示遭遇过Deepfake骗局。","Project Mockingbird采用AI驱动的模型组合,准确识别音频是否为AI生成,标记伪造部分。","迈克菲CTO表示核心技术模块构建中,计划将技术投入产品线使用。"]
俄罗斯大学生AI换脸成普京向普京提问
["俄罗斯总统普京在年度记者会上迎来了一位特别的“替身”","一名俄罗斯大学生使用AI换脸成了“普京”,并向总统提问了一个问题","普京面对这位“替身”有些语塞","但随后表示决定自己说话的只有自己,这也是他的个替身","这段“AI普京互动视频”被上传到YouTube平台后,播放量已超过15万"]