最近，一起令人心惊的AI声音克隆诈骗案件引发了广泛关注，凸显了这项技术可能带来的巨大风险。知名消费者保护律师杰伊・舒斯特的父亲险些成为这种高科技诈骗的受害者。骗子利用AI技术模仿杰伊的声音，谎称他因醉酒驾车被捕，急需3万美元的"保释金"。令人震惊的是，骗子仅凭15秒的电视采访音频就能制造出以假乱真的声音克隆。尽管杰伊此前已经提醒过家人提防此类骗局，但他们仍然差点上当受骗。这起事件不仅暴露了AI声音克隆技术的潜在危险，也引发了人们对科技滥用的担忧

最近，“机器人律师” 公司 DoNotPay 与美国联邦贸易委员会（FTC）达成协议，同意支付193，000美元的罚款。这一行动是 FTC 针对使用人工智能服务欺骗消费者的公司开展的 “AI 合规行动” 中的一部分。图源备注：图片由AI生成，图片授权服务商MidjourneyFTC 在声明中指出，DoNotPay 声称要用人工智能取代2000亿美元的法律行业，甚至称其 “机器人律师” 能够生成法律文件，完全可以代替人类律师的专业知识。然而，FTC 表示，DoNotPay 在做出这些声明时并没有任何测试支持。投诉中提到，DoNotPay 的

近日，OpenAI 一起备受瞩版权诉讼中达成了一项协议，决定向原告律师披露用于训练生成性 AI 模型的数据。图源备注:图片由AI生成，图片授权服务商Midjourney这场官司的原告是包括保罗・特伦布雷、莎拉・尔弗曼、迈克尔・查邦、大卫・亨利・黄和塔 - 内西・茨等多位知名作家。他于去年对 OpenAI 及其附属提起诉讼，指控其 AI 在未经授权的情况下使用了他们的作品，并在此基础生成文本，违反了美国版权法和州不公平竞争法。根据美国地方法罗伯特・尔曼的裁定，原告的将获得进入 OpenAI 设

当前，人工智能尤其是大型语言模型（LLMs）的发展引发了对网络安全法律的关注。哈佛大学学者在黑帽大会上指出，美国《计算机欺诈和滥用法》未能有效保护AI安全研究人员，可能使他们面临法律风险。学者们指出，现有法律对于如“提示注入攻击”等行为界定模糊，研究人员难以判断行为合法性。2021年最高法院判决限制了CFAA的应用，但AI交互的特殊性使其界定更复杂。AI安全研究法律讨论远不及版权问题，研究者对自身行为合法性存疑。学者建议安全研究人员寻求法律支持，并担忧模糊法律可能导致有潜力的研究人员退出，让恶意攻击者得逞，增加安全隐患。未来可能通过法庭诉讼来澄清法律条款，保护善意研究者。

["Chong Ke 是一名卑诗省律师代表百万富翁 Wei Chen 在离婚诉讼中引用了由 ChatGPT 生成的虚假案例","法官指出生成式人工智能不能替代律师专业知识","Mashuhara 裁定 Ke 应承担费用并审查其他案件中的情况","律师界反思使用人工智能工具的风险"]

["加利福尼亚州的律师在面对人工智能（AI）发展时表现出最大的担忧，位居榜首。","艺术家、会计师、医生和数据分析师依次排名担忧AI的前五名。","研究指出，未来AI可能更多地与这些领域的人类一起工作，而不是完全取代他们。"]

["前特朗普律师Michael Cohen承认在法庭文件中引用虚假的AI生成案例。","使用谷歌的Bard进行法律研究，错误地将其视为“超级搜索引擎”而不是AI聊天机器人。","法庭文件中引用的三个案例实际上并不存在。","Cohen声明未有意误导法庭，对AI法律技术了解不足。","此前，纽约的两名律师因在法律文件中包含ChatGPT生成的虚假案例而受到制裁和罚款。"]

["英国法律巨头Allen & Overy推出ContractMatrix，助力律师起草标准法律合同。","已有1000多名律师使用，五家企业计划在明年一月试用。","与Microsoft和AI初创公司Harvey合作，旨在提高律师效率、降低成本。","工具可撰写非揭示协议和并购合同等，甚至用于生成世界首个100%由AI生成的合同。"]

["律师不得输入客户机密信息，确保提供者不分享或滥用数据。","律师需深入了解生成式人工智能解决方案，审查输出以保护客户利益。","加州率先制定法规，其他州律师协会也在制定人工智能使用指导。","人工智能在法律领域或需认证，确保输入输出保密、符合法规。"]

["一名科罗拉多律师因使用人工智能聊天机器人来起草法律文件被停职一年","他使用了一个名为ChatGPT的人工智能平台来引用判例，但生成的案例是错误和虚构的","裁决指出，律师违反了科罗拉多律师协会的多项职业道德规则"]

["InssentAI通过AI为律师提供法律助手,实现免费法律咨询。","AI可高效进行法律检索,生成法律文书,提升工作效率。","AI无法完全取代律师,人工智能只是新的辅助工具。","InssentAI未来将打造虚拟律所,前端AI,后端真人律师。","InssentAI通过订阅制、案源费等盈利,正处于上线初期。"]

["法律软件公司 LexisNexis 正在采用生成式人工智能技术，简化法律文书的撰写和研究工作。","LexisNexis 的首席技术官表示，引入类似于 ChatGPT 的 AI 功能将改变法律行业的工作方式。","AI 技术有望帮助律师更高效地进行法律工作，包括文书撰写和查找相关法律案例。"]