随着人工智能技术的迅猛发展,深度伪造内容逐渐引发了社会的广泛关注。为了应对这一新兴问题,加州于新年伊始出台了一系列新的法律法规,旨在加强对人工智能生成的深度伪造内容的监管。这些法律将影响社交媒体平台、内容创作者以及相关行业,标志着对 AI 技术应用的监管进入了一个新的阶段。图源备注:图片由AI生成,图片授权服务商Midjourney其中一项重要法律是扩大了针对儿童色情的法律范围。新法规明确指出,任何通过人工智能技术生成的未成年人的色情图像均被视为违法。
近年来,从语音助手到自动驾驶技术,AI已深入到生活的方方面面。然而,AI技术的广泛应用也带来了一些潜在的风险,其中深度伪造技术引发了社会关注。深度伪造技术利用算法生成高度逼真的虚假内容,通过学习大量真实数据,生成与人物或场景极为相似的视频或图像。尽管这一技术展示了AI的强大,但也滋生了欺诈行为。例如,近期出现了冒用张文宏医生形象和声音进行直播带货的事件。伪造视频中,合成人像宣称某产品,致使超过1200件商品售出。此事引发张文宏医生和社会公众的强
Meta 公司近日发布了一项名为 Video Seal 的新型神经水印系统,该系统旨在帮助识别 AI 生成的视频,即使视频经过编辑也能有效追踪其来源。这种水印对于观众而言是不可见的,但可以通过检测来验证视频的真实性。Meta 将整套系统以 MIT 许可的开源软件形式发布,包括 Video Seal 水印模型、研究论文以及训练和推理代码。此外,Meta 还发布了一个交互式演示,允许用户亲自测试这项技术。除了 Video Seal 之外,Meta 还推出了两款辅助工具:Omni Seal Bench,用于比较不同类型媒体的神经水印性能;以及
近日,一段视频在网络上引起了广泛关注,视频中出现了一个模仿张文宏的账号在直播带货,出售一种蛋白棒。许多网友对此产生疑问,“张文宏是不是在带货?” 更令人担忧的是,部分年长观众对这一视频深信不疑,甚至已经下单并在社交群里转发了该信息。经过记者的核实,发现视频中的张文宏并非真人,而是通过 AI 技术合成的深度伪造。对此,张文宏回应表示,这样的卖货账号不止一个,且一直在变,他已多次向平台投诉。这件事情已经有几个星期了,一开始进行了投诉。特别是有