韩国深度伪造犯罪问题引发社会广泛关注，尤其针对未成年人的案例频发，涉及人数估计近22万。受害群体广泛，包括学生、教师、军人等，其中未成年人比例较高。犯罪手段通过社交媒体迅速传播，部分受害者信息被用于不法群组的验证。针对女性的深度伪造案件特别引人关注，已知受害学校超过100所，涵盖国内和海外韩国国际学校。对此，韩国总统呼吁加强调查和根除利用数字技术进行的犯罪行为，并强调政府需采取更有力措施打击此类犯罪，同时加强法治教育，保护女性权益。社会各界对此表示强烈关注，要求政府立即采取行动。

AI换脸技术Deepfake在科技迅速发展背景下逐渐普及，引起广泛关注。一段以假乱真的马斯克直播视频在网上引发热议，不仅吸引了大量观众，还揭示了技术的潜力与风险。Deepfake技术不仅用于直播，还能制作出高度逼真的社交媒体视频，如假的马斯克TikTok账号，其点赞和收藏数之高，令人难以分辨真伪。然而，这一技术的应用也带来了一系列问题，尤其是电信诈骗风险的增加。一位82岁的老人因误信AI制作的马斯克宣传投资机会的视频，损失了大量退休金，这凸显了技术在社会中的潜在危害。随着技术的成熟，GitHub上对Deepfake的关注度持续升高，但同时，一些平台开始采取措施，如要求创作者披露使用AI技术，并禁止欺诈和篡改视频。AI换脸技术为娱乐和创意产业带来了新机遇，但对辨识能力和安全意识提出了更高要求。在这个真假难分的数字时代，我们需要更加警惕，确保技术进步服务于社会，而非成为不法分子的工具。

特朗普在社交媒体上转发了声称泰勒·斯威夫特及其粉丝支持他的总统竞选的图片，图片中包括“Swifties for Trump”的T恤和泰勒以山姆大叔形象出现的图片。然而，这些图片被质疑为使用AI生成的虚假信息，遭到粉丝的抵制。特朗普表示自己并不知情，其发言人称所表达的支持是真实的。有传言称泰勒可能会成为特朗普竞选集会的特邀嘉宾。AI换脸技术引发的诈骗事件频发，包括82岁的史蒂夫·博尚因误信AI生成的马斯克承诺的投资视频而遭受损失。AI诈骗中，知名人物如马斯克、巴菲特和贝佐斯等常被利用，提醒公众在数字化时代投资和信息获取需谨慎。

随着AI生成图像的逼真度提升，人们开始质疑视频的真实性。"量子位"在B站发布的一视频探讨了如何识别AI制作的视频，引发广泛关注。视频中介绍了一些直观的识别方法，如观察人物动作、表情是否自然，声音、嘴型与情绪协调性等。面对海量视频，AI识别技术成为关键。AI换脸技术在拼接过程中留下的痕迹，成为AI识别的重要线索。研究团队从模型、运动、几何等维度开发了分类器，通过识别AI生成视频中的特征差异，如人物数量、运动中的色彩变化、透视比例错误等，准确率高达93.7%。此外，通过将AI生成视频和真实视频分别交予扩散模型重新生成，发现AI生成视频的像素更接近训练数据平均值，而人类创作的视频则具有更多个性特征。这些AI识别方法为辨别信息真伪提供了有力工具，如同数字世界的火眼金睛。

​据央视新闻报道，湖北黄石最近破获的一起案件中，犯罪团伙利用AI换脸技术解锁并倒卖社交账号，非法获利。受害人王先生在加入一个炒股直播间后，被诱导投资并最终遭遇提现难题，对方账号因涉嫌诈骗被冻结，资金无法取出。

美国版权局发布首份报告，强调AI驱动的换脸技术对版权法构成挑战，提出紧迫需要新法律定义并打击未经授权的AI换脸。报告指出，该技术在娱乐、政治领域构成威胁，对普通公民的声誉和生计造成风险。AI换脸技术的普及使得几乎任何人都能低成本地创建逼真虚拟形象，为滥用提供了新可能性。版权局建议，应明确法律责任，保护应至少持续个人一生，提供安全港机制激励在线服务提供商移除未经授权的数字复制品，并建议联邦法律为全国保护基础，同时允许州提供额外保护。报告强调了AI技术发展对法律和道德问题的影响，为新法律起草提供了关键细节。

电信网络诈骗手段不断升级，威胁公众财产安全。主要类型包括：“共享屏幕”类诈骗，通过诱导开启共享屏幕功能，获取个人银行信息进行盗取；“AI换脸拟声”类诈骗，利用技术合成虚假音频、视频，骗取信任后诱导转账或提供敏感信息；虚假网络投资理财类诈骗，以高回报为诱饵，引导个人投资后转移资金；网络游戏产品虚假交易类诈骗，通过虚假交易信息诱骗玩家进行线下交易，骗取资金。防范措施包括提高警惕，保护个人信息，谨慎转账，通过正规渠道维权。国家金融监督管理总局建议公众选择正规金融机构理财产品，提升识骗防骗能力。

北京互联网法院近日审理了北京市首例两起“AI换脸”软件侵权案件。原告廖某和吴某是国风短视频模特，他们指控一款“换脸”APP的运营者未经授权，使用他们的视频制作成换脸模板，并在APP中提供付费使用，侵犯了他们的肖像权和个人信息权益。

["男子用AI换脸“复活”已故父亲以安慰奶奶","人脸交换技术在电影制作领域实现突破","AI技术使换脸变得更为容易"]

["AI换脸技术被利用进行诈骗案件","涉及巨额财物骗局","AI技术发展增加诈骗成功几率","AI诈骗对社会造成威胁","AI诈骗案例说明","AI诈骗案例过程","AI恶意使用案例"]

["诈骗分子利用AI技术深伪成功骗取2500万美元。","财务职员收到虚假英国首席财务官信息，15次汇款被骗。","警方建议汇款前要求对方做指定动作，防范类似情形。"]