Avec le développement rapide de l’intelligence artificielle, les deepfakes suscitent une attention croissante de la société. Pour faire face à ce problème émergent, la Californie a adopté, en début d’année, une série de nouvelles lois visant à renforcer la réglementation des contenus deepfakes générés par l’IA. Ces lois auront un impact sur les plateformes de médias sociaux, les créateurs de contenu et les secteurs concernés, marquant une nouvelle étape dans la réglementation de l’application des technologies IA. Note sur l’image : Image générée par IA, fournisseur de services d’autorisation d’images Midjourney. Une loi importante a élargi le champ d’application…

Ces dernières années, de l'assistant vocal aux véhicules autonomes, l'IA s'est intégrée à tous les aspects de la vie. Cependant, l'utilisation généralisée de l'IA présente également des risques potentiels, notamment la technologie de deepfake qui a suscité l'inquiétude de la société. La technologie de deepfake utilise des algorithmes pour générer un contenu faux extrêmement réaliste, en apprenant à partir d'un grand nombre de données réelles pour produire des vidéos ou des images extrêmement similaires à des personnes ou à des scènes. Bien que cette technologie montre la puissance de l'IA, elle a également engendré des fraudes. Par exemple, des cas récents d'utilisation frauduleuse de l'image et de la voix du Dr Zhang Wenhong pour des diffusions en direct de vente à distance ont été signalés. Contrefaçon

Meta a récemment publié un nouveau système de filigranes neuronaux appelé Video Seal, conçu pour aider à identifier les vidéos générées par IA, même après édition. Ce filigrane est invisible pour le spectateur, mais permet de vérifier l'authenticité de la vidéo par détection. Meta publie le système complet sous licence MIT open source, incluant le modèle de filigrane Video Seal, l'article de recherche et les codes d'entraînement et d'inférence. De plus, Meta a également publié...

Avec la prolifération des deepfakes, le nombre de contenus falsifiés sur internet a explosé. Selon la plateforme de vérification d'identité Sumsub, le nombre de deepfakes a quadruplé entre 2023 et 2024, représentant 7% de toutes les fraudes en 2024. Cela inclut diverses formes de fraudes, telles que l'usurpation d'identité, le piratage de compte et des attaques sophistiquées d'ingénierie sociale. Pour relever ce défi, Meta a récemment lancé un nouvel outil de filigrane, Meta Video Seal, destiné à identifier les contenus générés par IA.

Récemment, Jeff Hancock, professeur de communication à l'Université Stanford, a fait l'objet d'une attention considérable après avoir été accusé d'avoir utilisé l'intelligence artificielle pour falsifier des témoignages dans une affaire impliquant une vidéo deepfake politique. L'affaire a été intentée par le procureur général du Minnesota, Keith Ellison, concernant une loi récemment adoptée dans le Minnesota interdisant les deepfakes politiques, loi considérée comme potentiellement menaçante pour la liberté d'expression. Légende de l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney Hancock

Une nouvelle controverse est apparue dans une poursuite fédérale concernant une loi du Minnesota sur « l'utilisation de deepfakes pour influencer les élections ». Dans de récents documents judiciaires, les avocats des plaignants affirment que les déclarations sous serment à l'appui de cette loi pourraient contenir du texte généré par l'intelligence artificielle. Légende de l'image : Image générée par IA, fournie par le service d'autorisation d'images Midjourney. Selon le Minnesota Reformer, le procureur général de l'État, Keith Ellison, avait demandé au laboratoire des médias sociaux de Stanford de...

Singapour a récemment publié plusieurs communiqués importants concernant la cybersécurité, notamment un guide de sécurité pour les systèmes d'intelligence artificielle (IA) et une loi interdisant l'utilisation de deepfakes dans les publicités électorales. Ces mesures visent à aider les organisations à réduire les risques potentiels liés au développement et au déploiement de l'IA, garantissant ainsi la sécurité de la technologie. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Le guide de sécurité pour les systèmes d'IA publié par le Bureau de la cybersécurité de Singapour (CSA) met l'accent sur le principe de "sécurité dès la conception", visant à…

Récemment, le gouverneur de Californie, Gavin Newsom, a signé huit lois visant à relever les défis posés par l'intelligence artificielle. Ces lois visent à traiter les risques existentiels liés aux systèmes d'IA, les deepfakes de nus générés par des générateurs d'images IA, et la création de clones IA d'acteurs décédés par les studios hollywoodiens. Parmi elles, le SB926 criminalise la création et la diffusion de deepfakes de nus, et établit que le chantage utilisant des images de nus générées par IA ressemblant à une personne est illégal. Le projet de loi SB981 exige des plateformes de médias sociaux qu'elles mettent en place des canaux de signalement pour les utilisateurs afin de signaler du contenu...

Lors d'une récente cérémonie de signature, le gouverneur de Californie, Gavin Newsom, a annoncé une série de nouvelles lois concernant l'industrie de l'intelligence artificielle (IA), lois relativement strictes à l'échelle nationale. Ces nouvelles réglementations comprennent cinq mesures, dont trois ciblent spécifiquement les deepfakes IA susceptibles d'influencer les élections, et deux autres concernant le clonage de la voix et de l'image des acteurs hollywoodiens. Note sur l'image : image générée par IA, fournisseur de services d'autorisation d'images Midjourney. La nouvelle loi AB2655 exige des grandes plateformes en ligne...

Plusieurs grandes entreprises américaines d'intelligence artificielle ont récemment renouvelé leur engagement solennel auprès de la Maison Blanche : elles s'engagent à empêcher que leurs produits d'IA ne soient utilisés pour générer des deepfakes pornographiques non consensuels et du matériel d'abus sexuel sur mineurs. Six entreprises, dont Adobe, Anthropic, Cohere, Microsoft, OpenAI et le référentiel de données Web open source Common Crawl, ont signé cet engagement non contraignant afin de garantir que leurs produits ne soient pas utilisés à mauvais escient pour créer des images de violence sexuelle préjudiciables.

De nos jours, les deepfakes et les médias synthétiques sont de plus en plus courants grâce aux progrès de l'intelligence artificielle générative (IA générative). Pour relever ce défi, de nombreuses organisations s'efforcent d'améliorer les techniques de tatouage numérique afin de suivre l'origine du contenu. Bien qu'aucune organisation n'ait encore complètement réussi, le « Content Authenticity Initiative » (C2PA) renforce ses rangs. Le C2PA a annoncé qu'Amazon est devenu un nouveau membre de son conseil d'administration. Le C2PA est une norme technologique ouverte hébergée par la Fondation Linux.

Avec les progrès constants de l'intelligence artificielle, la création d'images et de vidéos falsifiées est de plus en plus facile, et les deepfakes sont un problème croissant. Identifier ces contenus frauduleux est devenu un défi urgent. Récemment, une équipe de recherche de l'Université Binghamton a exploré ce sujet en profondeur, utilisant l'analyse du domaine fréquentiel pour révéler les caractéristiques des images générées par l'IA, permettant ainsi de détecter les fausses informations. Note sur les images : Images générées par IA, fournisseur de services d'autorisation d'images Midjourney. Cette recherche a été menée par le département d'ingénierie électrique et informatique de...

Singapour a récemment proposé un nouveau projet de loi visant à interdire l'utilisation de deepfakes pendant les périodes électorales afin de garantir l'authenticité de l'information et l'équité des élections. Avec le développement des technologies d'intelligence artificielle générative, les risques liés aux contenus deepfakes augmentent. Ce projet de loi vise à réglementer les contenus falsifiés créés à l'aide d'IA ou non, y compris les vidéos, les audios et les images. Il interdit principalement la diffusion de publicités en ligne contenant de fausses représentations des propos ou des actions des candidats pendant les élections. Les contrevenants s'exposent à des amendes ou à une peine de prison. Le projet de loi autorise également l'émission d'instructions de rectification aux personnes ayant publié de faux contenus et aux plateformes de médias sociaux.

Microsoft collabore avec l'organisation anti-pornographie de vengeance StopNCII pour fournir aux victimes un outil permettant de supprimer des images de deepfakes pornographiques des moteurs de recherche. En créant une empreinte digitale numérique (hachage) des images sur l'appareil de l'utilisateur, l'outil aide à supprimer complètement les images de synthèse de nus sur des plateformes comme Bing. Cette initiative vise à lutter contre l'abus de la technologie de l'IA générative qui entraîne la création de deepfakes pornographiques, un problème difficile à résoudre uniquement par le biais des signalements des utilisateurs. Cependant, Google n'a pas encore collaboré avec StopNCII, et les États-Unis manquent de législation fédérale spécifique concernant ce type de comportement.

L'utilisation de la technologie deepfake par des adolescents sud-coréens pour créer du contenu pornographique a suscité une vive inquiétude. La multiplication des cybercrimes sexuels a conduit la police à appeler à un renforcement de l'éducation et de l'orientation des jeunes, ainsi qu'à une amélioration de la sensibilisation à la cybersécurité et à l'éthique afin de réduire ce type d'incident. Des contenus pornographiques ciblant des écoles et des enseignants ont été signalés sur Telegram, impliquant de multiples affaires. Au cours des sept premiers mois de l'année, le nombre de cas liés au deepfake signalés en Corée du Sud a considérablement augmenté, ce qui a poussé la société à réclamer une réglementation plus stricte et une éducation juridique.

La criminalité liée aux deepfakes en Corée du Sud suscite une vive inquiétude dans la société, en particulier les cas fréquents visant les mineurs, touchant près de 220 000 personnes. Les victimes sont nombreuses et variées : élèves, enseignants, militaires, etc., avec une forte proportion de mineurs. Les crimes sont rapidement diffusés via les réseaux sociaux, certaines informations victimes servant de vérification pour des groupes illégaux. Les cas de deepfakes ciblant les femmes sont particulièrement préoccupants, plus de 100 écoles étant concernées, y compris des écoles internationales coréennes en Corée et à l'étranger. Face à cela, le président sud-coréen appelle à une enquête approfondie et à l'éradication des crimes utilisant la technologie numérique.

La technologie de deepfake, une forme d'intelligence artificielle permettant l'échange de visage, se répand rapidement dans un contexte de progrès technologiques fulgurants, suscitant un vif intérêt. Une vidéo en direct d'Elon Musk, si réaliste qu'elle prête à confusion, a déclenché un débat en ligne, attirant un public considérable et mettant en lumière le potentiel et les risques de cette technologie. Les deepfakes ne se limitent pas aux diffusions en direct ; ils permettent également de créer des vidéos pour les médias sociaux extrêmement réalistes, comme un faux compte TikTok d'Elon Musk qui cumule un nombre impressionnant de likes et d'enregistrements, rendant difficile la distinction entre le vrai et le faux. Cependant, l'utilisation de cette technologie pose de nombreux problèmes, notamment un risque accru de fraudes téléphoniques.

Trump a relayé sur les médias sociaux des images prétendant que Taylor Swift et ses fans soutenaient sa campagne présidentielle. Ces images incluaient des t-shirts "Swifties for Trump" et une image de Taylor en Oncle Sam. Cependant, l’authenticité de ces images générées par IA a été remise en question, provoquant une levée de boucliers de la part des fans. Trump a déclaré ne pas être au courant, et son porte-parole a affirmé que le soutien exprimé était réel. Il y a des rumeurs selon lesquelles Taylor pourrait être invitée à un rassemblement de campagne de Trump. Les escroqueries liées à la technologie de deepfakes IA sont de plus en plus fréquentes.

La Federal Communications Commission (FCC) des États-Unis a infligé une amende de 1 million de dollars à la société de télécommunications Lingo Telecom pour avoir diffusé un appel téléphonique automatisé falsifié du président Joe Biden dans le but d'influencer les électeurs du New Hampshire. L'enquête a révélé que le conseiller politique Steve Kramer était à l'origine de cet appel. La FCC avait initialement proposé une amende de 6 millions de dollars à son encontre. Dans le cadre d'un accord à l'amiable avec Lingo, la FCC exige que la société respecte désormais strictement les règles d'identification de l'appelant, notamment en mettant en œuvre la politique "Connaissez votre client" (KYC).

Selon CCTV News, une affaire récemment résolue à Huangshi, dans le Hubei, a mis en lumière une organisation criminelle utilisant la technologie de substitution de visage par IA pour déverrouiller et revendre des comptes de réseaux sociaux, réalisant ainsi des profits illicites. M. Wang, victime, a été incité à investir après avoir rejoint un salon de discussion boursier, mais s'est ensuite retrouvé confronté à des difficultés de retrait. Le compte de l'escroc a été bloqué pour suspicion d'arnaque, rendant ses fonds inaccessibles.