随着人工智能技术的迅猛发展,深度伪造内容逐渐引发了社会的广泛关注。为了应对这一新兴问题,加州于新年伊始出台了一系列新的法律法规,旨在加强对人工智能生成的深度伪造内容的监管。这些法律将影响社交媒体平台、内容创作者以及相关行业,标志着对 AI 技术应用的监管进入了一个新的阶段。图源备注:图片由AI生成,图片授权服务商Midjourney其中一项重要法律是扩大了针对儿童色情的法律范围。新法规明确指出,任何通过人工智能技术生成的未成年人的色情图像均被视为违法。
近年来,从语音助手到自动驾驶技术,AI已深入到生活的方方面面。然而,AI技术的广泛应用也带来了一些潜在的风险,其中深度伪造技术引发了社会关注。深度伪造技术利用算法生成高度逼真的虚假内容,通过学习大量真实数据,生成与人物或场景极为相似的视频或图像。尽管这一技术展示了AI的强大,但也滋生了欺诈行为。例如,近期出现了冒用张文宏医生形象和声音进行直播带货的事件。伪造视频中,合成人像宣称某产品,致使超过1200件商品售出。此事引发张文宏医生和社会公众的强
近日,在中关村论坛系列活动第12届数字金融与科技金融大会上,蚂蚁数科的 Deepfake 检测方案入选大会“金融科技技术创新与应用案例”。蚂蚁数科依托旗下天玑实验室,业界首次构建了大规模、高质量、多模态的 Deepfake 数据集,其合成超过百万级多媒体内容,充分地模拟了真实世界金融风控环境中的Deepfake攻击样本,成为评测现有金融领域Deepfake检测模型性能的重要标准。在金融业务场景中,蚂蚁数科多组测试数据集上的 Deepfake 检测准确率达到了98%以上,并成功阻止了多起利用Deepfake技
Meta 公司近日发布了一项名为 Video Seal 的新型神经水印系统,该系统旨在帮助识别 AI 生成的视频,即使视频经过编辑也能有效追踪其来源。这种水印对于观众而言是不可见的,但可以通过检测来验证视频的真实性。Meta 将整套系统以 MIT 许可的开源软件形式发布,包括 Video Seal 水印模型、研究论文以及训练和推理代码。此外,Meta 还发布了一个交互式演示,允许用户亲自测试这项技术。除了 Video Seal 之外,Meta 还推出了两款辅助工具:Omni Seal Bench,用于比较不同类型媒体的神经水印性能;以及