Avec le développement rapide de l’intelligence artificielle, les deepfakes suscitent une attention croissante de la société. Pour faire face à ce problème émergent, la Californie a adopté, en début d’année, une série de nouvelles lois visant à renforcer la réglementation des contenus deepfakes générés par l’IA. Ces lois auront un impact sur les plateformes de médias sociaux, les créateurs de contenu et les secteurs concernés, marquant une nouvelle étape dans la réglementation de l’application des technologies IA. Note sur l’image : Image générée par IA, fournisseur de services d’autorisation d’images Midjourney. Une loi importante a élargi le champ d’application…

Meta a récemment publié un nouveau système de filigranes neuronaux appelé Video Seal, conçu pour aider à identifier les vidéos générées par IA, même après édition. Ce filigrane est invisible pour le spectateur, mais permet de vérifier l'authenticité de la vidéo par détection. Meta publie le système complet sous licence MIT open source, incluant le modèle de filigrane Video Seal, l'article de recherche et les codes d'entraînement et d'inférence. De plus, Meta a également publié...

Avec la prolifération des deepfakes, le nombre de contenus falsifiés sur internet a explosé. Selon la plateforme de vérification d'identité Sumsub, le nombre de deepfakes a quadruplé entre 2023 et 2024, représentant 7% de toutes les fraudes en 2024. Cela inclut diverses formes de fraudes, telles que l'usurpation d'identité, le piratage de compte et des attaques sophistiquées d'ingénierie sociale. Pour relever ce défi, Meta a récemment lancé un nouvel outil de filigrane, Meta Video Seal, destiné à identifier les contenus générés par IA.

Une nouvelle controverse est apparue dans une poursuite fédérale concernant une loi du Minnesota sur « l'utilisation de deepfakes pour influencer les élections ». Dans de récents documents judiciaires, les avocats des plaignants affirment que les déclarations sous serment à l'appui de cette loi pourraient contenir du texte généré par l'intelligence artificielle. Légende de l'image : Image générée par IA, fournie par le service d'autorisation d'images Midjourney. Selon le Minnesota Reformer, le procureur général de l'État, Keith Ellison, avait demandé au laboratoire des médias sociaux de Stanford de...

Singapour a récemment publié plusieurs communiqués importants concernant la cybersécurité, notamment un guide de sécurité pour les systèmes d'intelligence artificielle (IA) et une loi interdisant l'utilisation de deepfakes dans les publicités électorales. Ces mesures visent à aider les organisations à réduire les risques potentiels liés au développement et au déploiement de l'IA, garantissant ainsi la sécurité de la technologie. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Le guide de sécurité pour les systèmes d'IA publié par le Bureau de la cybersécurité de Singapour (CSA) met l'accent sur le principe de "sécurité dès la conception", visant à…

Récemment, le gouverneur de Californie, Gavin Newsom, a signé huit lois visant à relever les défis posés par l'intelligence artificielle. Ces lois visent à traiter les risques existentiels liés aux systèmes d'IA, les deepfakes de nus générés par des générateurs d'images IA, et la création de clones IA d'acteurs décédés par les studios hollywoodiens. Parmi elles, le SB926 criminalise la création et la diffusion de deepfakes de nus, et établit que le chantage utilisant des images de nus générées par IA ressemblant à une personne est illégal. Le projet de loi SB981 exige des plateformes de médias sociaux qu'elles mettent en place des canaux de signalement pour les utilisateurs afin de signaler du contenu...

Lors d'une récente cérémonie de signature, le gouverneur de Californie, Gavin Newsom, a annoncé une série de nouvelles lois concernant l'industrie de l'intelligence artificielle (IA), lois relativement strictes à l'échelle nationale. Ces nouvelles réglementations comprennent cinq mesures, dont trois ciblent spécifiquement les deepfakes IA susceptibles d'influencer les élections, et deux autres concernant le clonage de la voix et de l'image des acteurs hollywoodiens. Note sur l'image : image générée par IA, fournisseur de services d'autorisation d'images Midjourney. La nouvelle loi AB2655 exige des grandes plateformes en ligne...

Plusieurs grandes entreprises américaines d'intelligence artificielle ont récemment renouvelé leur engagement solennel auprès de la Maison Blanche : elles s'engagent à empêcher que leurs produits d'IA ne soient utilisés pour générer des deepfakes pornographiques non consensuels et du matériel d'abus sexuel sur mineurs. Six entreprises, dont Adobe, Anthropic, Cohere, Microsoft, OpenAI et le référentiel de données Web open source Common Crawl, ont signé cet engagement non contraignant afin de garantir que leurs produits ne soient pas utilisés à mauvais escient pour créer des images de violence sexuelle préjudiciables.

Avec les progrès constants de l'intelligence artificielle, la création d'images et de vidéos falsifiées est de plus en plus facile, et les deepfakes sont un problème croissant. Identifier ces contenus frauduleux est devenu un défi urgent. Récemment, une équipe de recherche de l'Université Binghamton a exploré ce sujet en profondeur, utilisant l'analyse du domaine fréquentiel pour révéler les caractéristiques des images générées par l'IA, permettant ainsi de détecter les fausses informations. Note sur les images : Images générées par IA, fournisseur de services d'autorisation d'images Midjourney. Cette recherche a été menée par le département d'ingénierie électrique et informatique de...

Singapour a récemment proposé un nouveau projet de loi visant à interdire l'utilisation de deepfakes pendant les périodes électorales afin de garantir l'authenticité de l'information et l'équité des élections. Avec le développement des technologies d'intelligence artificielle générative, les risques liés aux contenus deepfakes augmentent. Ce projet de loi vise à réglementer les contenus falsifiés créés à l'aide d'IA ou non, y compris les vidéos, les audios et les images. Il interdit principalement la diffusion de publicités en ligne contenant de fausses représentations des propos ou des actions des candidats pendant les élections. Les contrevenants s'exposent à des amendes ou à une peine de prison. Le projet de loi autorise également l'émission d'instructions de rectification aux personnes ayant publié de faux contenus et aux plateformes de médias sociaux.

Microsoft collabore avec l'organisation anti-pornographie de vengeance StopNCII pour fournir aux victimes un outil permettant de supprimer des images de deepfakes pornographiques des moteurs de recherche. En créant une empreinte digitale numérique (hachage) des images sur l'appareil de l'utilisateur, l'outil aide à supprimer complètement les images de synthèse de nus sur des plateformes comme Bing. Cette initiative vise à lutter contre l'abus de la technologie de l'IA générative qui entraîne la création de deepfakes pornographiques, un problème difficile à résoudre uniquement par le biais des signalements des utilisateurs. Cependant, Google n'a pas encore collaboré avec StopNCII, et les États-Unis manquent de législation fédérale spécifique concernant ce type de comportement.

La criminalité liée aux deepfakes en Corée du Sud suscite une vive inquiétude dans la société, en particulier les cas fréquents visant les mineurs, touchant près de 220 000 personnes. Les victimes sont nombreuses et variées : élèves, enseignants, militaires, etc., avec une forte proportion de mineurs. Les crimes sont rapidement diffusés via les réseaux sociaux, certaines informations victimes servant de vérification pour des groupes illégaux. Les cas de deepfakes ciblant les femmes sont particulièrement préoccupants, plus de 100 écoles étant concernées, y compris des écoles internationales coréennes en Corée et à l'étranger. Face à cela, le président sud-coréen appelle à une enquête approfondie et à l'éradication des crimes utilisant la technologie numérique.

Trump a relayé sur les médias sociaux des images prétendant que Taylor Swift et ses fans soutenaient sa campagne présidentielle. Ces images incluaient des t-shirts "Swifties for Trump" et une image de Taylor en Oncle Sam. Cependant, l’authenticité de ces images générées par IA a été remise en question, provoquant une levée de boucliers de la part des fans. Trump a déclaré ne pas être au courant, et son porte-parole a affirmé que le soutien exprimé était réel. Il y a des rumeurs selon lesquelles Taylor pourrait être invitée à un rassemblement de campagne de Trump. Les escroqueries liées à la technologie de deepfakes IA sont de plus en plus fréquentes.

L'avocate de la vice-maire de San Francisco, Yvonne Meré, a intenté un procès contre 16 sites Web utilisant l'intelligence artificielle pour créer du contenu pornographique de deepfakes. Ces sites utilisent l'IA pour transformer des photos de femmes et de filles en images de nus sans leur consentement, soulevant des questions juridiques et éthiques. Le procès vise à lutter contre cette tendance néfaste qui prend de l'ampleur chez les adolescents, notamment l'utilisation d'« applications de déshabillage » pour manipuler les photos de camarades de classe. Ces sites ont enregistré 200 millions de visites au cours des six premiers mois, offrant des services initiaux gratuits, tandis que les traitements ultérieurs sont payants.

Google a récemment pris des mesures pour lutter contre les deepfakes non consensuels, répondant ainsi aux préoccupations du public et aux pressions législatives. Suite à l'affaire Taylor Swift il y a huit mois, les entreprises technologiques et les législateurs ont commencé à prendre ce problème au sérieux. Google a annoncé des mesures pour éviter que des deepfakes à caractère pornographique n'apparaissent dans les résultats de recherche, notamment la simplification du processus de suppression des images pornographiques non consensuelles pour les victimes, le filtrage des résultats de recherche à caractère pornographique, la suppression des images en double et l'optimisation des résultats de recherche pour réduire l'exposition aux deepfakes. Henry Ajder approuve les mesures prises par Google, estimant qu'elles permettront de réduire considérablement l'exposition aux contenus non consensuels.

Google a lancé une série de mesures de sécurité en ligne visant à supprimer les deepfakes de ses résultats de recherche, en particulier ceux impliquant des images explicites non consensuelles. Lorsque les utilisateurs demandent le retrait de ce type de contenu, le système ne traite pas seulement le contenu spécifique, mais filtre également les résultats similaires, voire supprime les images en double. Pour empêcher ce type de contenu d'apparaître en bonne place dans les résultats de recherche, Google a ajusté son algorithme de classement, privilégiant pour les recherches d'images deepfakes réalistes un contenu de haute qualité et non explicite, comme les reportages d'actualité. Les sites Web contenant un grand nombre d'images explicites falsifiées et supprimées verront leur classement dans les résultats de recherche diminuer.

Brad Smith, vice-président de Microsoft, a appelé le Congrès américain à adopter une législation ciblant les deepfakes générés par l'IA afin de protéger les citoyens contre la fraude et la manipulation. Il a souligné que, bien que l'industrie et les organisations à but non lucratif aient pris des mesures pour lutter contre ce problème, la législation doit évoluer pour contrer les escroqueries par deepfakes. Smith a insisté sur la nécessité d'une loi globale sur les « escroqueries par deepfakes » afin de fournir un cadre juridique aux forces de l'ordre pour poursuivre les cybercriminels qui utilisent cette technologie à des fins frauduleuses. Il a également appelé à la mise à jour des lois sur l'exploitation sexuelle des enfants et les images intimes non consensuelles afin d'inclure les contenus générés par l'IA.

Le Sénat américain a adopté à l'unanimité le projet de loi « The Disrupt Explicit Forged Images and Non-Consensual Edits Act », visant à lutter contre les deepfakes pornographiques créés sans consentement et à fournir aux victimes des recours juridiques. Ce projet de loi permettra aux victimes de poursuivre en justice les individus ou les organisations qui créent ou diffusent de fausses images, avec des dommages et intérêts pouvant atteindre 250 000 dollars. Il vise à protéger les personnalités publiques et les jeunes de ce problème.

Les deepfakes, l'une des formes d'intelligence artificielle antagoniste les plus rapides à se développer, devraient voir leurs pertes passer de 12,3 milliards de dollars en 2023 à 40 milliards de dollars en 2027, soit un taux de croissance annuel composé impressionnant de 32 %. Deloitte prévoit une augmentation des deepfakes dans les années à venir, les banques et les services financiers étant les principales cibles.

Resemble AI, une société de pointe spécialisée dans le clonage vocal, a annoncé le lancement de son modèle de détection de deepfakes nouvelle génération, Detect-2B. Ce nouveau modèle affiche une précision d'environ 94 % dans la détection de l'audio généré par IA, marquant ainsi une avancée majeure dans la technologie de détection des deepfakes.