近期,Deepfake技术滥用事件在韩国引起广泛关注,近22万人通过Telegram传播AI生成的色情图片,对女性权益造成严重伤害。这一事件与"N号房事件"相呼应,凸显了AI技术滥用的社会危害。中国女工程师张欣怡及其团队针对这一问题,宣布将参加外滩大会AI创新赛的Deepfake模型向全球开源,旨在为对抗Deepfake技术滥用提供技术手段。该举动在社交媒体上获得广泛关注,视频播放量超过151万次。张欣怡表示,团队受到韩国事件启发,旨在通过技术手段为受害者提供保护。开源模型旨在降低使用门槛,让更多人能便捷地对抗Deepfake。此外,赛事设立奖金池鼓励技术人才,推动AI向善发展。尽管技术对抗是重要一环,还需从法律、教育等多层面构建全面防御体系,包括加强法律法规、提高公众媒体素养、培养负责任的技术使用文化等。张欣怡的行动为解决Deepfake问题提供范例,但解决这一问题需要社会各界共同努力。
微软与反仇色情组织StopNCII合作,为受害者提供清除搜索引擎上deepfake色情图像的工具。通过在设备上制作图像的数字指纹(哈希值),帮助在Bing等平台彻底清除相关合成裸体图像。此举措旨在应对生成式AI技术滥用引发的deepfake色情问题,解决仅靠用户举报难以有效应对的挑战。然而,谷歌尚未与StopNCII合作,美国对此类行为缺乏专门的联邦法律。旧金山的诉讼尝试可能推动制定更有力的法律。
作为目前发展最快的对抗性人工智能形式之一,深度伪造(Deepfakes )相关的损失预计将从2023年的123亿美元飙升至2027年的400亿美元,复合年增长率将达到惊人的32%。德勤预计,未来几年深度造假将激增,银行和金融服务将成为主要目标。
["McAfee最近推出了名为“Mockingbird”的项目,旨在应对使用人工智能生成的深度伪造技术进行音频欺诈的问题。","该计划采用了McAfee的AI深度伪造音频检测技术,被命名为“Mockingbird”。","旨在检测使用AI生成的深度伪造技术,通过音频欺诈消费者,防范虚假新闻等骗局。","计划采用人工智能深度伪造音频检测技术,综合应用上下文、行为和类别检测模型,准确率超过90%"]