在当今,深度伪造和合成媒体由于生成式人工智能(gen AI)的发展而愈加普遍。为了应对这一挑战,许多组织正在努力完善数字水印技术,以便追踪内容的来源。
尽管目前还没有一个组织完全成功,但 “内容来源和真实性联盟”(C2PA)正在壮大其成员队伍。C2PA 宣布,亚马逊已成为该组织的新一届指导委员会成员。
C2PA 是一个隶属于 Linux 基金会的开放性技术标准机构,旨在通过制定技术标准来应对网上虚假信息的盛行。该组织由 Adobe 共同创立,负责维护 “内容凭证” 这一方法,旨在提高数字内容的来源透明度。内容凭证能够显示某个内容是如何以及何时生成或修改的。C2PA 希望将内容凭证发展为一个行业标准。
加入 C2PA 后,亚马逊承诺将把内容凭证与其企业 AI 图像生成器 Titan Image Generator 的版本一和二关联起来。亚马逊表示,借内容凭证消费者将能够验证 AI 生成内容的来源真实性。
此外,亚马逊还计划在其 AWS Elemental MediaConvert 服务中添加来源工具,这是一项用于大规模码内容以供广播和多屏幕分发的文件处理服务。这样一来,新闻机构、体育广播公司和内容聚合者等客户在分享视频内容时,能够核实其来源。
AWS 的生成 AI 副总裁 Vasi Philomin 表示,由 Titan 生成的图像默认都含有隐形水印,这将有助于减少虚假信息的传播。他还指出,加入 C2PA 并采纳内容凭证,标志着亚马逊在推动负责任的 AI 创新道路上迈出了重要一步。
不过,C2PA 的成员名单引发了一些数字内容认证组织的关注。今年七月,数字内容认证机构 Numbers Protocol 及其他区块链和 AI 组织共同成立了 “创意起源联盟”,这是一个 “、透明且去中心化的替代方案”,旨在为所有成员提供平等的发言权,并让创作者参与决策。
该联盟的成立是由于 Adobe 的一项服务条款更新,引发了创作社区对大公司的担忧。创意起源联盟希望在隐私和开源技术方面为小型声音发声,将自己定位为 C2PA 的 “巨人”。
划重点:
🌟 亚马逊加入 C2PA,致力于提高 AI 生成内容的来源透明度。
🔍 内容凭证将帮助用户验证数字内容真实性,减少虚假信息传播。
🤝 创意起源联盟成立,旨在为小型创作者提供平等的声音,挑战 C2PA 的影响力。