Le Centre de sécurité TikTok a récemment publié un communiqué annonçant le renforcement de la surveillance des contenus liés aux investissements boursiers sur la plateforme, afin de créer un environnement en ligne sain. La plateforme encourage les professionnels de la finance et des marchés boursiers à partager des informations boursières fiables et véridiques, et prône une culture de non-diffamation et de non-propagation de fausses informations pour contribuer au développement du secteur. TikTok a toutefois constaté que certains comptes, dépourvus des qualifications nécessaires, utilisaient de prétendus outils d'IA pour diffuser de fausses informations, attirer l'attention des utilisateurs et même commettre des escroqueries. Ces comptes utilisent souvent des recommandations d'outils de sélection de titres IA performants...

Alexander Beckman, co-fondateur et ancien PDG de la startup IA GameOn basée dans la Silicon Valley, et son épouse, l'avocate Valerie Lau Beckman, ont été inculpés par le ministère public fédéral pour plusieurs chefs d'accusation de fraude. Ils sont accusés d'avoir trompé les investisseurs et l'entreprise entre 2018 et 2024 en falsifiant des états financiers, pour un montant supérieur à 60 millions de dollars. Source de l'image : image générée par IA

Dans le contexte actuel de multiplication des escroqueries en ligne, McAfee, éditeur de logiciels de sécurité renommé, a lancé un nouvel outil de détection des escroqueries par intelligence artificielle lors du Consumer Electronics Show (CES) 2025. Cet outil vise à aider les utilisateurs à identifier les escroqueries par e-mail, SMS et vidéo avant qu'ils ne soient victimes d'une arnaque, améliorant ainsi la sécurité de leurs informations personnelles. Steve Grobman, directeur technique de McAfee, a déclaré lors du lancement : « Les escrocs deviennent de plus en plus intelligents chaque jour, utilisant...

Avec les progrès constants de l'intelligence artificielle, la technologie du clonage vocal s'est progressivement fait connaître du public, mais ses risques potentiels sont également apparus. Récemment, la voix de nombreuses personnalités connues a été malicieusement clonée par des malfaiteurs pour servir d'outil d'escroquerie. Plusieurs célébrités, dont le célèbre présentateur de documentaires naturalistes David Attenborough, ont exprimé leurs inquiétudes à ce sujet et appelé à un renforcement de la protection juridique. Remarque sur les sources : l'image a été générée par une IA, le fournisseur de services d'autorisation d'images Midjourney. Récemment, David Attenborough a découvert que sa voix était utilisée pour diffuser des informations politiques, ce qui l'a profondément préoccupé.

Récemment, Meta Platforms Inc., la société mère de Facebook, a annoncé qu'elle commencerait à utiliser la reconnaissance faciale pour lutter contre les escroqueries utilisant des photos de célébrités. Cette initiative fait suite à la croissance du problème des escroqueries sur les médias sociaux, en particulier la prolifération de faux comptes de célébrités. Ces escrocs utilisent souvent les photos de célébrités pour gagner la confiance et inciter les utilisateurs à effectuer des transactions financières. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. Meta déclare que...

Selon CCTV News, une affaire récemment résolue à Huangshi, dans le Hubei, a mis en lumière une organisation criminelle utilisant la technologie de substitution de visage par IA pour déverrouiller et revendre des comptes de réseaux sociaux, réalisant ainsi des profits illicites. M. Wang, victime, a été incité à investir après avoir rejoint un salon de discussion boursier, mais s'est ensuite retrouvé confronté à des difficultés de retrait. Le compte de l'escroc a été bloqué pour suspicion d'arnaque, rendant ses fonds inaccessibles.

Brad Smith, vice-président de Microsoft, a appelé le Congrès américain à adopter une législation ciblant les deepfakes générés par l'IA afin de protéger les citoyens contre la fraude et la manipulation. Il a souligné que, bien que l'industrie et les organisations à but non lucratif aient pris des mesures pour lutter contre ce problème, la législation doit évoluer pour contrer les escroqueries par deepfakes. Smith a insisté sur la nécessité d'une loi globale sur les « escroqueries par deepfakes » afin de fournir un cadre juridique aux forces de l'ordre pour poursuivre les cybercriminels qui utilisent cette technologie à des fins frauduleuses. Il a également appelé à la mise à jour des lois sur l'exploitation sexuelle des enfants et les images intimes non consensuelles afin d'inclure les contenus générés par l'IA.

Les méthodes d'escroquerie téléphonique ne cessent de se sophistiquer, menaçant la sécurité des biens du public. Les principaux types incluent : les escroqueries de type « partage d'écran », qui consistent à inciter les victimes à activer la fonction de partage d'écran pour obtenir des informations bancaires personnelles et les voler ; les escroqueries utilisant l'« IA pour le changement de visage et la synthèse vocale », qui consistent à utiliser la technologie pour créer de faux audios et vidéos afin de gagner la confiance des victimes et les inciter à effectuer des virements ou à fournir des informations sensibles ; les escroqueries liées aux faux investissements et placements en ligne, qui utilisent de faux rendements élevés comme appât pour inciter les victimes à investir et ensuite détourner leurs fonds ; les escroqueries liées aux fausses transactions de jeux en ligne, qui consistent à utiliser de fausses informations de transaction pour inciter les joueurs à effectuer des transactions hors ligne et les escroquer. Prévention

Les escroqueries utilisant la technologie de deepfake sont de plus en plus fréquentes et impliquent des sommes d'argent considérables. Le développement de l'IA augmente les chances de succès de ces escroqueries. Ces fraudes représentent une menace pour la société. Exemples concrets d'escroqueries à l'IA, explication du processus et exemples de mauvaise utilisation de l'IA.

McAfee a récemment lancé un projet appelé "Mockingbird" pour contrer les fraudes audio utilisant des deepfakes générés par l'intelligence artificielle. Ce projet utilise la technologie de détection audio deepfake IA de McAfee, baptisée "Mockingbird", pour détecter les deepfakes audio générés par IA utilisés pour escroquer les consommateurs et propager de fausses informations. Le projet utilise une technologie de détection audio deepfake IA, combinant contexte, comportement et catégorisation.

Selon la Federal Trade Commission des États-Unis, les personnes âgées américaines ont perdu 1,6 milliard de dollars à cause de fraudes en 2022. Ces escroqueries utilisent des techniques sophistiquées de génération d'intelligence artificielle, imitant la voix de personnes connues des victimes et employant d'autres stratégies. Les victimes sont trompées par des appels téléphoniques imitant la voix de proches, prétendant que ces derniers sont en danger et demandant de l'argent. Une commission du Sénat fédéral appelle à une action fédérale pour renforcer la réglementation des escroqueries générées par l'IA et empêcher les personnes âgées d'être victimes de ces fraudes.

Avec l'essor de l'intelligence artificielle, les fraudeurs utilisent l'IA pour commettre de nouvelles escroqueries. L'autorité de régulation financière nationale a publié un avertissement concernant deux types d'escroqueries à l'IA : la synthèse vocale et le 'deepfake'. La synthèse vocale permet de reproduire la voix d'une autre personne, tandis que le 'deepfake' permet de créer de fausses images du visage d'une personne. Le public est invité à la vigilance et à protéger ses informations personnelles. En cas de suspicion, il est conseillé de contacter la police. Les autorités compétentes doivent renforcer la surveillance et lutter fermement contre ce nouveau type de cybercriminalité.