韩国深度伪造犯罪问题引发社会广泛关注，尤其针对未成年人的案例频发，涉及人数估计近22万。受害群体广泛，包括学生、教师、军人等，其中未成年人比例较高。犯罪手段通过社交媒体迅速传播，部分受害者信息被用于不法群组的验证。针对女性的深度伪造案件特别引人关注，已知受害学校超过100所，涵盖国内和海外韩国国际学校。对此，韩国总统呼吁加强调查和根除利用数字技术进行的犯罪行为，并强调政府需采取更有力措施打击此类犯罪，同时加强法治教育，保护女性权益。社会各界对此表示强烈关注，要求政府立即采取行动。

AI换脸技术Deepfake在科技迅速发展背景下逐渐普及，引起广泛关注。一段以假乱真的马斯克直播视频在网上引发热议，不仅吸引了大量观众，还揭示了技术的潜力与风险。Deepfake技术不仅用于直播，还能制作出高度逼真的社交媒体视频，如假的马斯克TikTok账号，其点赞和收藏数之高，令人难以分辨真伪。然而，这一技术的应用也带来了一系列问题，尤其是电信诈骗风险的增加。一位82岁的老人因误信AI制作的马斯克宣传投资机会的视频，损失了大量退休金，这凸显了技术在社会中的潜在危害。随着技术的成熟，GitHub上对Deepfake的关注度持续升高，但同时，一些平台开始采取措施，如要求创作者披露使用AI技术，并禁止欺诈和篡改视频。AI换脸技术为娱乐和创意产业带来了新机遇，但对辨识能力和安全意识提出了更高要求。在这个真假难分的数字时代，我们需要更加警惕，确保技术进步服务于社会，而非成为不法分子的工具。

特朗普在社交媒体上转发了声称泰勒·斯威夫特及其粉丝支持他的总统竞选的图片，图片中包括“Swifties for Trump”的T恤和泰勒以山姆大叔形象出现的图片。然而，这些图片被质疑为使用AI生成的虚假信息，遭到粉丝的抵制。特朗普表示自己并不知情，其发言人称所表达的支持是真实的。有传言称泰勒可能会成为特朗普竞选集会的特邀嘉宾。AI换脸技术引发的诈骗事件频发，包括82岁的史蒂夫·博尚因误信AI生成的马斯克承诺的投资视频而遭受损失。AI诈骗中，知名人物如马斯克、巴菲特和贝佐斯等常被利用，提醒公众在数字化时代投资和信息获取需谨慎。

随着AI生成图像的逼真度提升，人们开始质疑视频的真实性。"量子位"在B站发布的一视频探讨了如何识别AI制作的视频，引发广泛关注。视频中介绍了一些直观的识别方法，如观察人物动作、表情是否自然，声音、嘴型与情绪协调性等。面对海量视频，AI识别技术成为关键。AI换脸技术在拼接过程中留下的痕迹，成为AI识别的重要线索。研究团队从模型、运动、几何等维度开发了分类器，通过识别AI生成视频中的特征差异，如人物数量、运动中的色彩变化、透视比例错误等，准确率高达93.7%。此外，通过将AI生成视频和真实视频分别交予扩散模型重新生成，发现AI生成视频的像素更接近训练数据平均值，而人类创作的视频则具有更多个性特征。这些AI识别方法为辨别信息真伪提供了有力工具，如同数字世界的火眼金睛。

​据央视新闻报道，湖北黄石最近破获的一起案件中，犯罪团伙利用AI换脸技术解锁并倒卖社交账号，非法获利。受害人王先生在加入一个炒股直播间后，被诱导投资并最终遭遇提现难题，对方账号因涉嫌诈骗被冻结，资金无法取出。

美国版权局发布首份报告，强调AI驱动的换脸技术对版权法构成挑战，提出紧迫需要新法律定义并打击未经授权的AI换脸。报告指出，该技术在娱乐、政治领域构成威胁，对普通公民的声誉和生计造成风险。AI换脸技术的普及使得几乎任何人都能低成本地创建逼真虚拟形象，为滥用提供了新可能性。版权局建议，应明确法律责任，保护应至少持续个人一生，提供安全港机制激励在线服务提供商移除未经授权的数字复制品，并建议联邦法律为全国保护基础，同时允许州提供额外保护。报告强调了AI技术发展对法律和道德问题的影响，为新法律起草提供了关键细节。

电信网络诈骗手段不断升级，威胁公众财产安全。主要类型包括：“共享屏幕”类诈骗，通过诱导开启共享屏幕功能，获取个人银行信息进行盗取；“AI换脸拟声”类诈骗，利用技术合成虚假音频、视频，骗取信任后诱导转账或提供敏感信息；虚假网络投资理财类诈骗，以高回报为诱饵，引导个人投资后转移资金；网络游戏产品虚假交易类诈骗，通过虚假交易信息诱骗玩家进行线下交易，骗取资金。防范措施包括提高警惕，保护个人信息，谨慎转账，通过正规渠道维权。国家金融监督管理总局建议公众选择正规金融机构理财产品，提升识骗防骗能力。

北京互联网法院近日审理了北京市首例两起“AI换脸”软件侵权案件。原告廖某和吴某是国风短视频模特，他们指控一款“换脸”APP的运营者未经授权，使用他们的视频制作成换脸模板，并在APP中提供付费使用，侵犯了他们的肖像权和个人信息权益。

["男子用AI换脸“复活”已故父亲以安慰奶奶","人脸交换技术在电影制作领域实现突破","AI技术使换脸变得更为容易"]

["AI换脸技术被利用进行诈骗案件","涉及巨额财物骗局","AI技术发展增加诈骗成功几率","AI诈骗对社会造成威胁","AI诈骗案例说明","AI诈骗案例过程","AI恶意使用案例"]

["诈骗分子利用AI技术深伪成功骗取2500万美元。","财务职员收到虚假英国首席财务官信息，15次汇款被骗。","警方建议汇款前要求对方做指定动作，防范类似情形。"]

{"点 1":"公安部侦破利用 “AI 换脸” 技术实施犯罪案件 79 起，抓获犯罪嫌疑人 515 名。","点 2":"公安机关联合国家重点实验室等单位开展人脸识别与活体检测技术安全测评，切实保护公民个人信息。","点 3":"针对 “AI 换脸” 导致群众被欺诈的问题，公安机关依托 “净网” 专项行动，严打泄露身份证照片等图像信息的犯罪源头。"}