Récemment, la Federal Communications Commission (FCC) des États-Unis a infligé une amende de 6 millions de dollars à Steve Kramer, un stratège politique démocrate.
Source : Image générée par IA, fournisseur de services d’autorisation d’images : Midjourney
Cet incident découle d'une série d'appels téléphoniques effectués lors des primaires du New Hampshire. Ces appels utilisaient une voix de synthèse imitant celle du président Biden pour dissuader les électeurs de voter, leur suggérant de reporter leur vote à novembre. Cet acte a non seulement suscité une vive inquiétude du public, mais a également valu à Kramer d'être poursuivi par un grand jury fédéral pour plusieurs chefs d'accusation graves, notamment usurpation d'identité d'un candidat, corruption et intimidation.
Kramer a admis en février dernier avoir orchestré cette campagne d'appels robotisés. Ancien conseiller du membre du Congrès du Minnesota et candidat à la présidence Dean Phillips, il a affirmé que ces appels visaient à mettre en lumière les dangers potentiels de l'IA dans les campagnes politiques.
Cependant, la FCC n'a pas été convaincue. Loyaan Egal, responsable du bureau de l'application des lois de la FCC, a déclaré que ce détournement de la technologie de l'IA générative et cette falsification d'identité téléphonique ont gravement perturbé le processus électoral et menacé les fondements de la démocratie.
Kramer a confié la diffusion de ces appels à une société nommée Voice Broadcasting Corp., laquelle a ensuite acheminé les appels via Life Corp. au Texas. La FCC souligne que ces appels comportaient une authentification d'identification de l'appelant de niveau maximal, ce qui a réduit la probabilité que d'autres opérateurs identifient ces appels comme étant frauduleux.
Parallèlement, la FCC a également proposé une amende de 2 millions de dollars à Lingo Telecom pour ne pas avoir pris suffisamment de mesures de « connaissance de son client » dans le cadre d'une fraude téléphonique, ce qui a remis en question l'authenticité des données d'identification de l'appelant.
Il est important de noter que, si les appels indésirables et les appels robotisés traditionnels sont généralement gérés par des humains, les systèmes d'IA actuels sont capables d'automatiser ces tâches. Les capacités de synthèse vocale et de génération vocale des outils d'IA posent de nouveaux défis.
Points clés :
1. 💰 La FCC a infligé une amende de 6 millions de dollars à Steve Kramer, un stratège politique démocrate, pour avoir utilisé l'IA pour imiter la voix de Biden et perturber le vote des électeurs.
2. 📞 Kramer a admis avoir orchestré ces appels, affirmant qu'il voulait alerter sur les risques de l'IA dans les campagnes politiques.
3. ⚖️ La FCC a également proposé une amende de 2 millions de dollars à Lingo Telecom, impliquée dans la diffusion des appels, pour ne pas avoir vérifié efficacement l'identité des appelants.