Microsoft a récemment engagé des poursuites judiciaires par le biais de sa division Crimes Numériques (Digital Crimes Unit) pour lutter contre l'utilisation malveillante d'outils d'intelligence artificielle (IA) générative à des fins criminelles. Selon une plainte non publique déposée dans le district est de la Virginie, Microsoft affirme que malgré ses efforts continus pour améliorer la sécurité de ses produits et services d'IA, les cybercriminels innovent constamment pour contourner les mesures de sécurité et créer du contenu malveillant. Microsoft souligne que certains groupes de cybercriminels utilisent l'IA générative pour…

Microsoft a récemment publié un livre blanc analysant en profondeur l'utilisation malveillante de l'intelligence artificielle (IA) générative, notamment pour la fraude, la création de matériel d'abus sexuel sur les enfants, la manipulation électorale et la diffusion non consentie d'images privées. La société souligne que ces problèmes ne sont pas seulement des défis technologiques, mais aussi de graves menaces pour la société. Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjourney. D'après le livre blanc de Microsoft, les criminels utilisent de plus en plus les capacités de l'IA générative pour commettre des actes malveillants. Ces actes incluent l'utilisation d'IA pour générer de fausses...

Selon le rapport de phishing 2023 de SlashNext, les e-mails de phishing malveillants ont augmenté de 1265 % depuis le quatrième trimestre 2022. L'utilisation généralisée de l'intelligence artificielle (IA) générative, comme ChatGPT, pour créer des informations de phishing sophistiquées marque une nouvelle ère de la cybercriminalité. 31 000 attaques de phishing sont enregistrées chaque jour, dont 68 % sont des fraudes par courriel commercial (BEC) basées sur du texte. Une étude d'IBM a révélé que ChatGPT pouvait générer de faux e-mails, soulevant ainsi des préoccupations quant à la lutte contre la fraude par e-mail.