Avec le développement rapide de l'intelligence artificielle, les textes, images et vidéos générés par l'IA sont de plus en plus utilisés dans divers domaines. Cependant, cela s'accompagne d'une crise de confiance, la propagation de fausses informations représentant une menace potentielle pour la société. Pour relever ce défi, Tencent a récemment lancé un nouvel outil de détection de contenu généré par l'IA, visant à « débusquer l'IA » grâce à l'IA. Cet outil, développé par le laboratoire Zhuque de Tencent, se compose de deux systèmes : la détection de texte généré par l'IA et la détection d'image générée par l'IA. Tencent a officiellement indiqué...

La British Broadcasting Corporation (BBC) a récemment déposé une plainte contre le géant technologique américain Apple, accusant l'une de ses nouvelles applications de générer et de diffuser de fausses informations concernant la BBC. Lancée au Royaume-Uni, l'application "Apple Intelligence" utilise l'intelligence artificielle pour agréger des notifications de diverses sources et les diffuser aux utilisateurs. Cependant, parmi ces notifications, figurait une fausse information concernant le tireur de New York, Luigi Mangion...

Avec la commercialisation de l'intelligence artificielle générative, la quantité de fausses informations en ligne a considérablement augmenté. Selon la plateforme d'authentification Sumsub, le nombre de deepfakes dans le monde a quadruplé entre 2023 et 2024. En 2024, les deepfakes représentaient 7 % de toutes les fraudes, impliquant diverses formes, de l'usurpation d'identité et du piratage de compte aux opérations complexes d'ingénierie sociale. Pour répondre à ce problème, Meta a lancé un nouvel outil, Meta Video Seal, visant à ajouter un filigrane aux vidéos générées par l'IA afin de...

Après l'élection présidentielle américaine de 2024, la désinformation en ligne s'est répandue à une vitesse alarmante, influençant considérablement la perception des Américains concernant les candidats, ainsi que sur des sujets tels que la santé publique, le changement climatique et l'immigration. Le développement de l'intelligence artificielle générative, couplé à sa capacité à créer des deepfakes et à générer des « hallucinations » factuelles, pourrait exacerber ce problème. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney Pour relever ce défi, la start-up norvégienne Factiverse a vu le jour. La société a participé à 10...

Pendant l'élection présidentielle américaine, le chatbot Grok de X a été pris en flagrant délit de diffusion de fausses informations. Selon des tests menés par TechCrunch, Grok a souvent commis des erreurs en répondant aux questions sur les résultats des élections, allant même jusqu'à déclarer que Trump avait remporté des États clés, alors que le dépouillement et les rapports n'étaient pas encore terminés. Lors d'une interview, Grok a affirmé à plusieurs reprises que Trump avait remporté l'élection de l'Ohio en 2024, ce qui était faux. La source de ces fausses informations semble provenir de tweets issus de différentes années électorales et d'une formulation trompeuse.

À l'approche des élections américaines de 2024, le développement rapide de l'IA suscite de plus en plus d'inquiétudes. Une analyse d'Axios révèle qu'au moins 26 États ont adopté ou envisagent des lois pour réglementer l'utilisation de l'IA générative lors des élections. Cela signifie que, lors des prochaines élections, l'IA ne sera plus un simple outil technologique, mais un "changeur de règles" susceptible d'influencer le résultat du vote. Légende de l'image : Image générée par IA, fournie par le service d'autorisation d'images Midjourney, réputé pour...

Les dirigeants des pays du G20 se sont accordés ce vendredi à Maceió, dans l'État brésilien d'Alagoas, pour lutter ensemble contre la désinformation et élaborer des lignes directrices pour l'avenir de l'intelligence artificielle. Il s'agit de la première fois dans l'histoire du G20 que la désinformation est explicitement reconnue comme un problème, les dirigeants appelant les plateformes numériques à une plus grande transparence et responsabilité. Source de l'image : Image générée par IA, service d'autorisation d'images Midjourney. João Brant, secrétaire aux politiques numériques du président brésilien Lula, a déclaré à l'Associated Press que les représentants du G20 ont souligné le rôle des plateformes numériques.

De nos jours, les deepfakes et les médias synthétiques sont de plus en plus courants grâce aux progrès de l'intelligence artificielle générative (IA générative). Pour relever ce défi, de nombreuses organisations s'efforcent d'améliorer les techniques de tatouage numérique afin de suivre l'origine du contenu. Bien qu'aucune organisation n'ait encore complètement réussi, le « Content Authenticity Initiative » (C2PA) renforce ses rangs. Le C2PA a annoncé qu'Amazon est devenu un nouveau membre de son conseil d'administration. Le C2PA est une norme technologique ouverte hébergée par la Fondation Linux.

Taylor Swift a annoncé qu'elle voterait pour la vice-présidente Kamala Harris lors de la prochaine élection présidentielle, répondant ainsi aux fausses informations véhiculées sur les réseaux sociaux par des images générées par IA la montrant soutenir Trump. Elle a exprimé ses inquiétudes concernant le danger de la propagation de fausses informations. Swift a insisté sur la transparence en tant qu'électrice et a ironisé sur les attaques de Vance, le colistier de Trump, concernant les « femmes sans enfants et qui aiment les chats ». Elle a mentionné des questions qui lui tiennent à cœur, notamment les droits LGBTQ+, les soins de santé reproductive et la fécondation in vitro, et a encouragé ses fans à s'inscrire sur les listes électorales. La réaction de Musk est devenue un sujet de conversation sur les réseaux sociaux.

La plateforme de médias sociaux X (anciennement Twitter) de Musk a apporté des ajustements pour lutter contre la désinformation concernant l'élection présidentielle de 2024, ciblant notamment son système d'IA Grok. L'objectif est de guider les utilisateurs vers des sources d'information officielles, telles que vote.gov, pour obtenir les dernières informations sur les élections. Plusieurs secrétaires d'État américains ont exprimé leurs inquiétudes concernant les erreurs de Grok dans le traitement des questions électorales, soulignant le risque de confusion et demandant des corrections. Après l'annonce du retrait de la candidature du président Biden, Grok a erronément déclaré que les dates limites de vote étaient dépassées dans certains États, provoquant une vive polémique.

Un rapport de sécurité publié par Meta révèle que la Russie a utilisé l'intelligence artificielle (IA) générative pour amplifier ses activités de désinformation en ligne. Malgré les tentatives russes d'améliorer l'efficacité de son ingérence en ligne grâce à l'IA, les résultats restent limités jusqu'à présent. L'IA a surtout permis d'accroître l'efficacité et les capacités de production de contenu des acteurs malveillants. Le rapport indique que ces activités se sont concentrées sur la détérioration de la réputation de l'Ukraine et de ses alliés depuis l'invasion russe de l'Ukraine en 2022. Meta prévoit que la Russie pourrait cibler les candidats soutenant l'Ukraine à l'approche des élections américaines.

Meta a publié un plan d'action pour les élections européennes, renforçant ses efforts de lutte contre la désinformation. Des experts s'inquiètent des limites du plan de Meta pour contrer les rumeurs. Meta améliore la transparence du contenu grâce à l'IA, mais la détection des deepfakes reste difficile. Les experts estiment que les voix authentiques sont facilement manipulables et que la protection de la démocratie reste un défi.

Selon les experts, le nouvel outil de génération de vidéos Sora d'OpenAI pourrait alimenter la désinformation et les préjugés. Sora a démontré des vidéos falsifiées de dalmatiens, de défilés du Nouvel An chinois et d'archéologues découvrant une chaise. Les experts craignent que Sora n'aggrave la propagation de fausses informations sur Internet et de la propagande gouvernementale, rendant la distinction entre le vrai et le faux encore plus floue. OpenAI a pris des mesures pour prévenir l'abus de Sora, mais les experts restent préoccupés par son potentiel à créer des deepfakes sophistiqués.

OpenAI a annoncé un plan pour les élections de 2024 interdisant l'utilisation de ses outils pour imiter des candidats ou des fonctionnaires, et empêchant leur utilisation à des fins de campagne et de lobbying. Un système de certificats numériques sera introduit pour lutter contre la falsification des images générées par Dall-E, simplifiant ainsi leur identification. Les outils OpenAI dirigeront les utilisateurs vers le site officiel CanIVote.org pour toute question concernant le vote. Ce plan est en cours de déploiement et repose sur les signalements des utilisateurs pour les comportements inappropriés. Les experts mettent en garde contre la montée des risques de désinformation à l'approche des élections et appellent à développer la littératie médiatique et à apprendre à remettre en question les informations.

Les experts mettent en garde contre le risque accru de désinformation électorale à l'approche de l'élection présidentielle de 2024. Les mesures de protection contre les récits fallacieux diminuent, tandis que les outils et les réseaux de diffusion de la désinformation se renforcent. Avant l'élection présidentielle de 2024, les experts mettent en garde contre le risque accru de désinformation électorale. La réglementation de la publicité politique et l'utilisation généralisée de l'IA augmentent les risques de désinformation.

Le président américain Joe Biden a publié un décret sur l'IA visant à relever les défis technologiques, dont celui de la distinction entre les images authentiques et les faux. Ce décret exige l'élaboration de normes de filigranes numériques pour aider les utilisateurs à identifier l'authenticité des images et leur propriétaire. Des experts affirment que les filigranes numériques ne sont pas la seule solution au problème de la désinformation, et qu'il existe un risque de contournement.

Des développeurs ont construit une machine de propagande IA en utilisant les outils OpenAI en seulement deux mois. L'objectif était de démontrer le danger de la production massive de désinformation par l'IA. Par souci d'éthique, les développeurs n'ont pas déployé ce modèle.