Aujourd'hui, les deepfakes et les médias synthétiques sont de plus en plus répandus grâce aux progrès de l'IA générative (IAg). Pour relever ce défi, de nombreuses organisations s'efforcent d'améliorer les techniques de tatouage numérique afin de suivre l'origine du contenu.
Bien qu'aucune organisation n'ait encore pleinement réussi, la Coalition pour la provenance et l'authenticité du contenu (C2PA) voit ses rangs grossir. La C2PA a annoncé qu'Amazon est devenu un nouveau membre de son conseil d'administration.
La C2PA est un organisme de normalisation technologique ouverte affilié à la Fondation Linux, visant à lutter contre la prolifération de fausses informations en ligne en définissant des normes techniques. Co-fondée par Adobe, l'organisation maintient une approche appelée « certificats de contenu » pour améliorer la transparence de la provenance du contenu numérique. Ces certificats indiquent comment et quand un contenu a été créé ou modifié. La C2PA souhaite faire de ces certificats une norme industrielle.
En rejoignant la C2PA, Amazon s'engage à associer les certificats de contenu aux versions 1 et 2 de son générateur d'images IA Titan Image Generator. Amazon affirme que grâce aux certificats de contenu, les consommateurs pourront vérifier l'authenticité et la provenance du contenu généré par l'IA.
De plus, Amazon prévoit d'ajouter des outils de provenance à son service AWS Elemental MediaConvert, un service de traitement de fichiers permettant de coder en masse du contenu pour la diffusion et la distribution multi-écrans. Cela permettra à ses clients, tels que les agences de presse, les diffuseurs sportifs et les agrégateurs de contenu, de vérifier la provenance des vidéos qu'ils partagent.
Vasi Philomin, vice-président de l'IA générative chez AWS, a déclaré que les images générées par Titan contiennent par défaut des filigranes invisibles, ce qui contribuera à réduire la propagation de fausses informations. Il a également souligné que le fait de rejoindre la C2PA et d'adopter les certificats de contenu marque une étape importante pour Amazon dans la promotion d'une innovation IA responsable.
Cependant, la liste des membres de la C2PA a suscité des inquiétudes de la part de certains organismes de certification de contenu numérique. En juillet dernier, Numbers Protocol, un organisme de certification de contenu numérique, et d'autres organisations de la blockchain et de l'IA ont créé la « Creative Origin Coalition », une « alternative transparente et décentralisée » visant à donner à tous les membres une voix égale et à impliquer les créateurs dans la prise de décision.
La création de cette coalition fait suite à une mise à jour des conditions d'utilisation d'Adobe, qui a suscité des inquiétudes au sein de la communauté créative concernant les grandes entreprises. La Creative Origin Coalition souhaite donner une voix aux plus petits acteurs en matière de confidentialité et de technologies open source, se positionnant comme le « David » face au « Goliath » qu'est la C2PA.
Points clés :
🌟 Amazon rejoint la C2PA pour améliorer la transparence de la provenance du contenu généré par l'IA.
🔍 Les certificats de contenu aideront les utilisateurs à vérifier l'authenticité du contenu numérique et à réduire la propagation de fausses informations.
🤝 La Creative Origin Coalition est créée pour donner une voix égale aux petits créateurs et contester l'influence de la C2PA.