Le dernier modèle de génération d'images d'OpenAI, 4o, se révèle étonnamment performant pour générer du texte dans les images, notamment pour créer de faux documents, devenant ainsi un nouvel outil apprécié de certains utilisateurs. La multiplication de fausses factures, de fausses ordonnances et de faux passeports est préoccupante.
Sur les réseaux sociaux, Deedy Das, investisseur chez Menlo Ventures, a publié une photo d'une fausse facture, montrant un repas luxueux dans un célèbre steakhouse de San Francisco. Dans son tweet, Das a écrit : « Vous pouvez utiliser 4o pour générer de fausses factures. » Cette déclaration a suscité une attention considérable, car de nombreux processus de vérification dans le monde réel reposent sur des « images réelles » comme preuve, et cela a changé.
Cette fausse facture semble très réaliste au premier abord, avec une liste détaillée de plats, un sous-total et un pourboire correctement calculés. Des utilisateurs ont même retouché les images générées par le modèle en ajoutant des filtres réalistes et des taches de nourriture, créant ainsi un outil parfait pour la fraude.
Avec le développement de la technologie, les capacités de génération d'images d'OpenAI se sont considérablement améliorées. Les modèles précédents produisaient souvent des caractères illisibles et des phrases absurdes lors de la reproduction de lettres, mais 4o a quasiment éliminé ces problèmes. Les utilisateurs peuvent non seulement générer de fausses factures pour des dîners luxueux, mais aussi de fausses ordonnances pour des médicaments contrôlés comme le Zoloft.
Ce phénomène suscite de vives inquiétudes concernant la création de faux documents par l'IA. La capacité de générer de faux documents facilite une série d'activités illégales, notamment la falsification de déclarations d'impôts, de chèques bancaires, de cartes d'identité et d'actes de naissance. Face à cette tendance, on ignore si les méthodes actuelles de détection de documents sont efficaces.
Bien que certaines entreprises d'IA aient commencé à essayer d'utiliser des métadonnées supplémentaires ou des filigranes pour identifier les images générées, ces mesures de protection semblent incapables d'empêcher totalement les fraudes. Selon une enquête de 2015, 85 % des personnes interrogées ont admis avoir menti pour obtenir plus de remboursements. Ces fraudes passent souvent inaperçues en raison d'un manque de contrôle interne et de processus de comptes fournisseurs défectueux. En d'autres termes, à notre époque, il est presque impossible de faire confiance à tout ce que l'on voit sur Internet.
Points clés :
📄 Le nouveau modèle de génération d'images 4o d'OpenAI permet de créer facilement de fausses factures et ordonnances, ce qui est préoccupant.
💻 Les modèles de génération d'images précédents avaient du mal à générer du texte, mais les capacités de 4o sont considérablement améliorées.
🛡️ La capacité de créer de faux documents remet en question l'efficacité des méthodes de détection existantes.