Face aux abus de l'IA générative et à la prolifération de deepfakes à caractère pornographique, Microsoft a récemment pris des mesures importantes. La société a annoncé un partenariat avec StopNCII, une organisation luttant contre la vengeance pornographique, afin de fournir aux victimes des outils pour supprimer ces images de synthèse à caractère sexuel troublantes de son moteur de recherche Bing.
Concrètement, Microsoft aidera les victimes à créer une empreinte digitale ou un « hachage » de ces images sur leurs propres appareils. Les partenaires de StopNCII utiliseront ensuite ces empreintes pour supprimer complètement les images des différentes plateformes, y compris Facebook, Instagram et Bing.
Source : Image générée par IA, fournie par Midjourney
Il s'agit d'une initiative cruciale. Si Microsoft offrait déjà un système de signalement direct de ce type d'images, son efficacité était limitée. Comme l'entreprise l'a expliqué sur son blog, les signalements des utilisateurs seuls ne suffisent pas à contrer le risque d'accès généralisé à ces images via les moteurs de recherche.
Il est à noter que les mesures prises par Google semblent encore insuffisantes. Selon les médias, Google n'a pas encore collaboré avec StopNCII, malgré les nombreuses plaintes de ses utilisateurs concernant la gravité du problème.
La problématique des deepfakes pornographiques générés par l'IA est effectivement préoccupante. Actuellement, les États-Unis ne disposent pas de législation fédérale spécifique pour lutter contre ce type d'actes, et il faut se reposer sur les réglementations étatiques et locales. Cependant, des initiatives comme les poursuites judiciaires engagées par le procureur de San Francisco pourraient contribuer à la mise en place de lois plus strictes.
