Google a récemment annoncé que son outil de test flou basé sur l'intelligence artificielle, OSS-Fuzz, a réussi à découvrir 26 vulnérabilités dans des bibliothèques de code open source, dont une vulnérabilité de gravité moyenne dans la bibliothèque de chiffrement OpenSSL. Dans un article de blog partagé, l'équipe de sécurité open source de Google a déclaré : « La découverte de ces vulnérabilités marque une nouvelle étape dans la détection automatisée des vulnérabilités : chaque vulnérabilité a été trouvée grâce à des objectifs de test flou générés et améliorés par l'IA. » Note sur l'image : Image générée par IA, fournisseur de services d'autorisation d'images Midjour

Lors de la conférence No Hat sur la sécurité, qui s'est récemment tenue en Italie, la société Protect AI, basée à Seattle, a annoncé le lancement de Vulnhuntr, un outil open source. L'objectif de cet outil est clair : aider les développeurs à détecter les vulnérabilités zero-day dans le code Python grâce au modèle d'IA Claude d'Anthropic. Vulnhuntr fonctionne différemment des outils traditionnels d'analyse statique de code. L'outil ne se contente pas d'analyser des extraits de code ...

Anthropic annonce l'élargissement de son programme de récompense pour les vulnérabilités afin de tester un « système d'atténuation de la sécurité IA nouvelle génération », axé sur l'identification et la défense contre les « attaques de jailbreak universelles ». Une attention particulière est portée aux domaines à haut risque, notamment la défense CBRN et la cybersécurité. Les participants auront un accès anticipé au nouveau système de sécurité pour découvrir des vulnérabilités ou contourner les mesures de sécurité, avec des récompenses pouvant atteindre 15 000 $. Cette initiative vise à améliorer la sécurité des systèmes d'IA en attirant des chercheurs en sécurité pour identifier et corriger les menaces potentielles, établissant ainsi une référence pour la sécurité dans l'industrie de l'IA.

Les systèmes de détection de vulnérabilités logicielles basés sur l'apprentissage profond, véritables 'agents de sécurité' du numérique, identifient efficacement les failles logicielles. Cependant, une étude nommée EaTVul met en lumière un nouveau défi dans ce domaine. EaTVul est une stratégie d'attaque d'évitement innovante qui modifie le code vulnérable pour induire en erreur les systèmes de détection basés sur l'apprentissage profond, avec un taux de réussite allant de 83% à 100%. Son fonctionnement repose sur l'utilisation de machines à vecteurs de support pour identifier les échantillons clés, de mécanismes d'attention pour reconnaître les caractéristiques essentielles, de la génération de données trompeuses par des chatbots IA, et de l'obfuscation.

Microsoft lance un programme de primes pour les vulnérabilités de Bing IA. Les récompenses varient de 2 000 $ à 15 000 $, attirant les chercheurs en sécurité du monde entier. Les vulnérabilités ciblées incluent les injections de prompts et les fausses conversations. Microsoft promeut activement l'expansion de Bing Chat, visant à défier Google dans le domaine de la recherche.

Une récente étude révèle une faille de sécurité dans le générateur d'images Midjourney, susceptible de conduire à la propagation de fausses informations. Des utilisateurs peuvent contourner les restrictions et créer des images politiques agressives, ce qui pose de sérieux problèmes. L'étude a démontré qu'il est facile pour les utilisateurs de contourner les restrictions et de produire des images non conformes. Les utilisateurs peuvent utiliser du code pour contourner les conditions d'utilisation et créer des images sans restriction. Cette découverte soulève des inquiétudes quant à la sécurité des générateurs d'images d'intelligence artificielle.