Récemment, DoNotPay, une entreprise de "robots avocats", a conclu un accord avec la Federal Trade Commission (FTC) américaine, acceptant de payer une amende de 193 000 dollars. Cette action fait partie de l'opération "conformité IA" de la FTC, visant les entreprises utilisant des services d'intelligence artificielle pour tromper les consommateurs.
Source : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney
Dans sa déclaration, la FTC indique que DoNotPay affirmait pouvoir remplacer le secteur juridique de 200 milliards de dollars grâce à l'intelligence artificielle, allant même jusqu'à prétendre que son "robot avocat" pouvait générer des documents juridiques, remplaçant complètement l'expertise des avocats humains. Cependant, la FTC affirme que DoNotPay n'avait aucune preuve pour étayer ces affirmations.
La plainte mentionne que la technologie de service de DoNotPay n'avait pas été formée de manière exhaustive et à jour sur les lois, réglementations et décisions judiciaires fédérales et étatiques, et n'avait pas été testée sur la manière dont ces lois s'appliquent à des faits concrets. Plus important encore, les employés de DoNotPay n'ont pas testé la qualité et l'exactitude des documents et conseils juridiques générés par ses fonctions liées au droit. De plus, DoNotPay n'a pas embauché d'avocats ni consulté d'avocats possédant les compétences juridiques nécessaires pour vérifier la qualité et l'exactitude de ses services.
La plainte mentionne également que DoNotPay avait indiqué aux consommateurs qu'ils pouvaient, grâce à son service d'IA, poursuivre des actes de contrefaçon sans embaucher d'avocat humain, et que ce service pouvait vérifier l'existence de violations juridiques sur les sites Web de petites entreprises uniquement à partir de l'adresse électronique du consommateur. L'entreprise affirmait que l'utilisation de son service pouvait permettre aux entreprises d'économiser jusqu'à 125 000 dollars de frais juridiques, mais la FTC a déclaré que ce service n'était pas efficace.
Dans le cadre du règlement, DoNotPay accepte de payer une amende de 193 000 dollars et avertira les consommateurs entre 2021 et 2023 des limites de ses produits liés au droit. De plus, DoNotPay ne prétendra plus que ses services peuvent remplacer un service professionnel sans preuve.
Outre la sanction infligée à DoNotPay, la FTC a également pris des mesures contre d'autres entreprises utilisant des services d'intelligence artificielle pour induire les clients en erreur. Cela inclut le service d'aide à la rédaction par IA Rytr, dont la FTC affirme qu'il fournit aux utilisateurs des outils pour créer de faux avis générés par l'IA. À cet égard, la FTC a récemment annoncé une règle définitive interdisant à toutes les entreprises de créer ou de vendre de faux avis, y compris ceux générés par l'IA.
Enfin, la FTC a également intenté un procès contre Ascend Ecom, l'accusant d'avoir fraudé les consommateurs pour au moins 25 millions de dollars, promettant aux utilisateurs qu'ils pouvaient, grâce à son outil d'IA, ouvrir des boutiques en ligne sur des plateformes comme Amazon et obtenir des revenus mensuels importants.
Points clés :
- 🤖 DoNotPay a accepté de payer une amende de 193 000 dollars pour ne pas avoir fourni de preuves de l'efficacité de son service de robot avocat.
- ⚖️ La FTC renforce la réglementation des entreprises utilisant l'IA pour frauder les consommateurs, et d'autres entreprises comme Rytr ont également été sanctionnées.
- 💰 Ascend Ecom est accusé d'avoir fraudé les consommateurs pour 25 millions de dollars en promettant des revenus élevés grâce à un outil d'IA.
