Récemment, la Federal Trade Commission (FTC) américaine a lancé une action d'application de la loi intitulée « Action de conformité à l'IA », intentant des poursuites contre cinq entreprises d'intelligence artificielle accusées de publicité mensongère et de fraude. La FTC affirme que ces entreprises sont accusées d'avoir menti sur les capacités de leurs logiciels ou d'avoir utilisé la technologie de l'IA pour commettre des actes illégaux.
Source de l'image : image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Dans le cas de ces cinq entreprises poursuivies, deux ont conclu un accord à l'amiable avec la FTC, tandis que les trois autres ont choisi de contester les accusations de la FTC devant les tribunaux. Ces trois entreprises sont Ascend Ecom, Ecommerce Empire Builders et FBA Machine.
La FTC souligne que ces entreprises affirmaient pouvoir aider leurs clients à créer et à gérer des boutiques en ligne grâce à leur technologie d'IA, promettant des bénéfices élevés. Cependant, en réalité, de nombreux clients, après avoir payé des frais de stock et de formation, n'ont obtenu aucun des résultats escomptés, entraînant des pertes de plusieurs millions de dollars.
La présidente de la FTC, Lina Khan, a déclaré qu'il est illégal d'utiliser des outils d'IA pour tromper, induire en erreur ou escroquer les consommateurs, soulignant qu'« aucune IA n'est exonérée ». Elle a indiqué que ces actions d'application de la loi visaient à protéger les consommateurs et les entreprises honnêtes, et à maintenir un marché équitable.
Parmi les deux entreprises ayant conclu un accord à l'amiable, DoNotPay est probablement le nom le plus familier. L'année dernière, la société a été menacée pour avoir tenté de faire plaider un homme par une IA, et a finalement abandonné ce projet. La FTC a accusé DoNotPay de ne pas tenir ses promesses et de ne pas avoir prouvé que son chatbot IA pouvait rivaliser avec les avocats humains. Par conséquent, la société a conclu un accord à hauteur de 193 000 $ et s'est engagée à cesser la publicité mensongère.
L'action de la FTC impliquait également un outil d'écriture IA appelé Rytr. Bien que la décision de la FTC ait suscité une division interne (3-2), Rytr a été accusé de fournir une fonctionnalité permettant de générer de faux avis de consommateurs trompeurs. La FTC estime que les utilisateurs de Rytr peuvent générer des avis détaillés sans rapport avec les données saisies, et que ces avis sont presque certainement faux. Bien que Rytr n'ait pas été condamné à une amende et n'ait pas reconnu ses erreurs, il a accepté de cesser de fournir des services similaires.
L'action de la FTC a suscité une attention considérable, notamment sur la question de la réglementation des technologies de l'IA. De nombreux experts se sont dits préoccupés par la démarche de la FTC, estimant qu'elle pourrait freiner l'innovation.
Points clés :
🛡️ La FTC poursuit cinq entreprises d'IA pour publicité mensongère et fraude.
💰 DoNotPay a conclu un accord à l'amiable avec la FTC, versant 193 000 $ et s'engageant à cesser la publicité mensongère.
✍️ Rytr a été accusé de fournir une fonctionnalité permettant de générer de faux avis de consommateurs. Bien qu'il n'ait pas été condamné à une amende, il a accepté de cesser de fournir ce service.
