À l'heure où les technologies d'imagerie basées sur l'intelligence artificielle se répandent, Google a annoncé qu'il introduirait, à partir de la semaine prochaine, une nouvelle fonction d'étiquetage des modifications par IA dans son application Google Photos. Toutes les photos éditées à l'aide des fonctionnalités IA telles que Magic Editor, Magic Eraser et Zoom Enhance afficheront la mention « Modifié avec Google IA » au bas de la section « Détails » de l'application.
Cette mise à jour intervient plus de deux mois après le lancement par Google du Pixel 9, téléphone intégrant de nombreuses fonctions d'édition photo basées sur l'IA. Cependant, cette méthode d'étiquetage suscite la controverse. Bien que Google affirme que cette mesure vise à « améliorer la transparence », son efficacité est discutable : aucune marque d'eau visible n'est ajoutée aux photos elles-mêmes. Cela signifie que les utilisateurs ne peuvent pas identifier facilement les photos traitées par IA sur les réseaux sociaux, les applications de messagerie ou lors de la navigation quotidienne.
Pour les fonctions d'édition photo qui n'utilisent pas l'IA générative, telles que Best Take et Add Me, Google Photos annotera également les informations d'édition dans les métadonnées, mais sans les afficher dans l'onglet Détails. Ces fonctions servent principalement à combiner plusieurs photos pour créer une image complète.
Michael Marconi, responsable de la communication chez Google Photos, a déclaré lors d'un entretien avec TechCrunch : « Ce travail est loin d'être terminé. Nous allons continuer à recueillir les retours, à renforcer et à améliorer les mesures de sécurité, et à évaluer d'autres solutions pour accroître la transparence concernant les modifications par IA générative. » Bien que l'entreprise n'ait pas explicitement indiqué si elle ajouterait des filigranes visibles à l'avenir, elle n'a pas non plus exclu cette possibilité.
Il est important de noter que toutes les photos modifiées par l'IA de Google contiennent déjà des informations sur les modifications effectuées dans les métadonnées. La nouvelle fonctionnalité consiste simplement à déplacer ces informations vers l'onglet Détails, plus facile d'accès. Cependant, cette approche est préoccupante, car la plupart des utilisateurs ne consultent pas les métadonnées ou les détails lors de la navigation sur le Web.
Bien sûr, l'ajout de filigranes visibles dans le cadre de la photo n'est pas non plus une solution parfaite. Ces filigranes peuvent facilement être coupées ou modifiées, le problème persiste donc. Avec la popularisation des outils d'imagerie IA de Google, le nombre de contenus synthétiques sur Internet risque d'augmenter considérablement, rendant de plus en plus difficile pour les utilisateurs de distinguer le vrai du faux.
La méthode actuelle de filigrane dans les métadonnées adoptée par Google repose en grande partie sur la capacité des différentes plateformes à signaler aux utilisateurs les contenus générés par l'IA. Meta a déjà mis en œuvre cette pratique sur Facebook et Instagram, et Google prévoit de faire de même pour les résultats de recherche plus tard cette année. Cependant, les mesures prises par les autres plateformes progressent plus lentement.
Cette controverse met en lumière un enjeu majeur du développement de l'IA : comment favoriser l'innovation technologique tout en garantissant l'authenticité des contenus et le droit à l'information des utilisateurs. Bien que Google ait fait un premier pas vers une plus grande transparence, il est clair que des efforts supplémentaires et des améliorations sont nécessaires pour empêcher les contenus synthétiques de tromper les utilisateurs.