随着人工智能技术的不断进步，声音克隆技术逐渐走入公众视野，然而其潜在的风险也随之显现。最近，多位知名人士的声音被不法分子恶意克隆，成为诈骗的工具。包括著名自然纪录片主持人大卫・阿滕伯勒在内的多位名人，纷纷对此表示担忧，并呼吁加强法律保护。图源备注:图片由AI生成，图片授权服务商Midjourney近期，大卫・阿滕伯勒在发现自己的声音被用于传播政治新闻后，感到 “深感不安”。他表示，自己一生致力于传播真相，现在却发现身份被他人盗用，这种情况让他感到愤

英国移动运营商 Virgin Media O2日前推出了一项创新的反诈骗技术——一个名为"Daisy"的 AI 虚拟奶奶，专门设计用来应对日益猖獗的电话诈骗。这位虚拟奶奶的唯一任务，就是接听诈骗电话并尽可能拖住骗子的时间。当诈骗分子拨打运营商设置的特定号码时，这位"难以与真人区分"的 AI 机器人就会接听电话。据 O2透露，他们利用多项前沿 AI 技术和模型训练了这位听起来像老年女性的聊天机器人，著名的反诈 YouTuber Jim Browning 也参与了训练过程。图片来自：zdnet整个通话过程完全自动化:AI 会实时

最近，Facebook 的母公司 Meta Platforms Inc. 宣布，他们将开始运用面部识别技术来打击那些利用名人照片进行的诈骗活动。这一举措的背后，是不断增长的社交媒体诈骗问题，尤其是虚假名人账户的猖獗。这些诈骗分子常常利用名人的照片来获取信任，并诱导用户进行金钱交易。图源备注：图片由AI生成，图片授权服务商MidjourneyMeta 表示，这项新技术的实施旨在提升平台用户的安全性。他们希望通过面部识别技术，能迅速识别出使用名人照片的虚假账户，并采取相应措施。此项技术的应用，标

近期，一种利用人工智能技术的新型诈骗手段正在针对Gmail用户展开攻击，其逼真程度令人震惊。作为拥有超过25亿用户的全球最大电子邮件服务之一，Gmail成为了网络犯罪分子的重点目标。微软解决方案顾问Sam Mitrovic最近就差点成为这种高级诈骗的受害者。他收到一条Gmail账户恢复请求的通知后，紧接着接到了一通自称来自谷歌的电话。来电者声称Mitrovic的账户在过去一周内遭到攻击，并已下载了账户数据，试图通过制造紧迫感来获取信任。图源备注：图片由AI生成，图片授权服务商Midjourn

最近，一起令人心惊的AI声音克隆诈骗案件引发了广泛关注，凸显了这项技术可能带来的巨大风险。知名消费者保护律师杰伊・舒斯特的父亲险些成为这种高科技诈骗的受害者。骗子利用AI技术模仿杰伊的声音，谎称他因醉酒驾车被捕，急需3万美元的"保释金"。令人震惊的是，骗子仅凭15秒的电视采访音频就能制造出以假乱真的声音克隆。尽管杰伊此前已经提醒过家人提防此类骗局，但他们仍然差点上当受骗。这起事件不仅暴露了AI声音克隆技术的潜在危险，也引发了人们对科技滥用的担忧

最近，澳大利亚一位创业公司前 CEO 被美国司法部和证券交易委员会指控，涉嫌利用虚假的财务记录诈骗投资者，筹集了高达4000万美元的资金。这位名叫巴巴・纳迪姆帕利（Baba Nadimpalli）的41岁男子，是 Skael 公司的联合创始人和前 CEO。Skael 成立于2016年，声称能够通过 “数字员工” 替代人工，简化工作流程，提升效率。然而，事情的真相却大相径庭。根据一份在1月份解密的起诉书，Skael 宣称其软件能为每位员工每天节省2.5小时的工作时间，并每年为客户节省10万美元。可实际上，这些承诺

迈克尔·史密斯，一名美国音乐人，因涉嫌通过人工智能生成音乐并在音乐流媒体平台上操纵播放量，骗取超过1000万美元版税而被控多项罪名。从2017年至2024年，史密斯利用AI技术创建了数十万首计算机生成的歌曲，并通过自动化机器人提高播放量，每年非法赚取约120万美元版税。他与他人合作，通过虚假账户伪造播放数，盗取应属于合法音乐人和作曲家的版税。尽管被指控电信欺诈、共谋和洗钱，史密斯否认任何不当行为，声称没有人为提高播放量。起诉书中指出，史密斯通过AI生成的歌曲获得大量播放，包括荒谬的歌曲如“Zygophyllaceae”和“Camel Edible”，并宣称自2019年以来生成超过40亿次播放和1200万美元的版税。他面临每项指控最高20年的监禁。

特朗普在社交媒体上转发了声称泰勒·斯威夫特及其粉丝支持他的总统竞选的图片，图片中包括“Swifties for Trump”的T恤和泰勒以山姆大叔形象出现的图片。然而，这些图片被质疑为使用AI生成的虚假信息，遭到粉丝的抵制。特朗普表示自己并不知情，其发言人称所表达的支持是真实的。有传言称泰勒可能会成为特朗普竞选集会的特邀嘉宾。AI换脸技术引发的诈骗事件频发，包括82岁的史蒂夫·博尚因误信AI生成的马斯克承诺的投资视频而遭受损失。AI诈骗中，知名人物如马斯克、巴菲特和贝佐斯等常被利用，提醒公众在数字化时代投资和信息获取需谨慎。

​据央视新闻报道，湖北黄石最近破获的一起案件中，犯罪团伙利用AI换脸技术解锁并倒卖社交账号，非法获利。受害人王先生在加入一个炒股直播间后，被诱导投资并最终遭遇提现难题，对方账号因涉嫌诈骗被冻结，资金无法取出。

微软副董事长布拉德·史密斯向美国国会呼吁，希望出台针对AI生成深度伪造技术的法律，以保护公民免受诈骗和操纵。他指出，虽然行业和非营利组织已采取措施应对这一问题，但法律需与时俱进以打击深度伪造诈骗。史密斯强调，应制定全面的“深度伪造诈骗法”，为执法提供法律框架，起诉利用技术进行诈骗的网络犯罪分子。他还呼吁更新关于儿童性虐待和非自愿亲密影像的法律，涵盖AI生成的内容。最近的参议院法案专门针对非自愿色情深度伪造内容，允许受害者起诉创作者。微软在自家AI产品中加强安全控制，以防止误用，并呼吁AI系统提供商使用先进溯源工具标记合成内容，以增强公众对信息的信任。

电信网络诈骗手段不断升级，威胁公众财产安全。主要类型包括：“共享屏幕”类诈骗，通过诱导开启共享屏幕功能，获取个人银行信息进行盗取；“AI换脸拟声”类诈骗，利用技术合成虚假音频、视频，骗取信任后诱导转账或提供敏感信息；虚假网络投资理财类诈骗，以高回报为诱饵，引导个人投资后转移资金；网络游戏产品虚假交易类诈骗，通过虚假交易信息诱骗玩家进行线下交易，骗取资金。防范措施包括提高警惕，保护个人信息，谨慎转账，通过正规渠道维权。国家金融监督管理总局建议公众选择正规金融机构理财产品，提升识骗防骗能力。

["AI换脸技术被利用进行诈骗案件","涉及巨额财物骗局","AI技术发展增加诈骗成功几率","AI诈骗对社会造成威胁","AI诈骗案例说明","AI诈骗案例过程","AI恶意使用案例"]

["OpenAI 发布的 Sora 文生视频模型引发热潮，一些人借机打着 Sora 的幌子卖课、售卖账号，甚至进行诈骗。","这些课程和账号大多价格虚高，内容虚假，没有任何实际价值。","一些卖课者甚至连 Sora 都没有实际使用过，只是利用人们的焦虑和信息不对称进行牟利。","OpenAI 官方尚未开放 Sora 的访问权限，提醒大家不要被骗。","建议大家对 Sora 等新技术保持观望，不要盲目跟风购买课程或账号。"]

["诈骗分子利用AI技术深伪成功骗取2500万美元。","财务职员收到虚假英国首席财务官信息，15次汇款被骗。","警方建议汇款前要求对方做指定动作，防范类似情形。"]

["IBM研究人员发现了一种相对简单的方法，可以利用生成式AI工具劫持语音通话。这一发现引发了对金融机构等依赖电话验证身份的组织的担忧。这将使聊天机器人困扰，因为它们仍然","对金融机构等使用电话验证身份的组织而言，使用低成本AI工具，骗子能够轻松冒充他人的声音，窃取资金和其他敏感信息。","音频劫持是一种新的威胁，威胁行为者可在进行中的对话中使用语音克隆操纵大型语言模型。","IBM研究人员称该威胁为“音频劫持”，威胁行为者可以使用语音克隆在进行中的对话中操纵大型语言模型。"]

["根据美国联邦贸易委员会的数据，2022年美国老年人因欺诈活动损失16亿美元。","骗局采用复杂的人工智能生成技术，模仿老年人认识的人的声音和其他策略。","受害人被欺骗通过听起来像亲人的声音的电话，声称亲人处于危险中，请求提供金钱帮助。","联邦参议院委员会呼吁联邦行动，加强对人工智能生成骗局的监管，防止老年人成为骗局目标。"]

["随着人工智能的使用,电话中的声音可以被仿真并实时交流,这让电话不再可信。","人工智能生成的声音被用于一种被称为声音网络钓鱼或'vishing'的欺诈。","技术公司正在通过识别模式和找到阻止它们的方法来应对这种威胁。","商业和消费者教育是唯一真正主动的方法来传递保护自己信息的知识。","身份保护服务将继续对消费者有用,需要制定员工网络安全培训。"]

["随着AI技术广泛应用,不法分子利用AI实施新型诈骗","国家金融监管总局发布提示,警惕“拟声”和“换脸”两种AI诈骗手段","“拟声”可合成他人声音,“换脸”可伪造他人脸部图像","提醒公众提高警惕,保护好个人信息,发现可及时报警","相关部门需加大监管力度,严厉打击此类新型网络诈骗犯罪"]

["澳大利亚联邦警察（AFP）宣布使用人工智能（AI）技术分析监视许可数据，旨在识别洗钱和欺诈活动。","AFP表示，他们期望AI技术能够提高警务工作效率，尽管目前使用还有限。","AI工具包括大型语言模型，有望帮助在大规模数据中发现有用信息，从而加速决策和行动。","此举对打击经济犯罪尤其重要，因为这些犯罪涉及复杂的数据和模式。","AFP强调了透明、伦理和合法性，确保数据保护和隐私不受侵犯。"]

{"1":"第一批被大模型 APP 骗钱的人。","2":"生成式 AI 应用在应用商店中被山寨和订阅诈骗。","3":"通过广撒网和粉饰好评来诱导用户付费。"}