近期，Deepfake技术滥用事件在韩国引起广泛关注，近22万人通过Telegram传播AI生成的色情图片，对女性权益造成严重伤害。这一事件与"N号房事件"相呼应，凸显了AI技术滥用的社会危害。中国女工程师张欣怡及其团队针对这一问题，宣布将参加外滩大会AI创新赛的Deepfake模型向全球开源，旨在为对抗Deepfake技术滥用提供技术手段。该举动在社交媒体上获得广泛关注，视频播放量超过151万次。张欣怡表示，团队受到韩国事件启发，旨在通过技术手段为受害者提供保护。开源模型旨在降低使用门槛，让更多人能便捷地对抗Deepfake。此外，赛事设立奖金池鼓励技术人才，推动AI向善发展。尽管技术对抗是重要一环，还需从法律、教育等多层面构建全面防御体系，包括加强法律法规、提高公众媒体素养、培养负责任的技术使用文化等。张欣怡的行动为解决Deepfake问题提供范例，但解决这一问题需要社会各界共同努力。

微软与反仇色情组织StopNCII合作，为受害者提供清除搜索引擎上deepfake色情图像的工具。通过在设备上制作图像的数字指纹（哈希值），帮助在Bing等平台彻底清除相关合成裸体图像。此举措旨在应对生成式AI技术滥用引发的deepfake色情问题，解决仅靠用户举报难以有效应对的挑战。然而，谷歌尚未与StopNCII合作，美国对此类行为缺乏专门的联邦法律。旧金山的诉讼尝试可能推动制定更有力的法律。

作为目前发展最快的对抗性人工智能形式之一，深度伪造（Deepfakes ）相关的损失预计将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率将达到惊人的32%。德勤预计，未来几年深度造假将激增，银行和金融服务将成为主要目标。

["德国新闻主播 André Schünke 成为 Deepfake 滥用的受害者","骗子利用 Deepfake 制作虚假宣传视频","宣传一个 AI 支持的投资平台","Deepfake 技术的滥用对公众信任造成伤害","监管机构和技术公司应采取行动保护公众"]

["担心训练数据集中的偏见会导致少数族裔承受欺诈、诈骗和虚假信息的压力。","大部分深度伪造检测器是基于依赖于用于训练的数据集的学习策略。","专家们呼吁建立更具包容性的训练集和标准化的测量方法，以解决深度伪造检测工具的偏见问题。"]

["谷歌与环球音乐商讨艺人的声音和旋律授权，用于生成 AI 音乐。","他们计划开发一个工具，让人们能够使用艺人的声音创作 AI 音乐。","这项许可协议将支付版权所有者，并给予他们选择的权利，决定是否允许环球音乐和谷歌许可使用他们的声音。"]