Récemment, Microsoft a intenté un procès devant le tribunal de district de l'est de la Virginie contre un groupe de hackers, les accusant d'avoir illégalement pénétré dans la plateforme Azure OpenAI et d'avoir utilisé ce service pour générer un grand volume de contenu préjudiciable. Cet événement met en lumière les préoccupations croissantes concernant la sécurité et les risques liés à l'intelligence artificielle.
Selon la plainte de Microsoft, ces hackers, originaires de l'étranger, ont contourné les mesures de sécurité en récupérant des identifiants clients sur des sites web publics. Une fois l'accès aux comptes clients obtenu, ils ont non seulement modifié les fonctionnalités de la plateforme, mais l'ont également revendue à d'autres utilisateurs malveillants, leur fournissant des instructions détaillées sur la manière de générer du contenu illégal à l'aide de ces outils d'IA. Bien que Microsoft n'ait pas révélé la nature exacte du contenu généré par ces hackers, il a déclaré que ce contenu violait gravement les politiques et les conditions d'utilisation de l'entreprise.
Pour faire face à cette faille de sécurité, Microsoft a mis en place plusieurs nouvelles mesures de sécurité visant à renforcer la défense de la plateforme Azure OpenAI et à empêcher que de tels incidents ne se reproduisent. Parallèlement, Microsoft demande au tribunal la saisie des sites web liés aux activités des hackers afin de rassembler des preuves, de poursuivre les responsables et de démanteler les infrastructures soutenant ces activités illégales.
Microsoft souligne que les actions de ces hackers violent plusieurs lois américaines, notamment le Computer Fraud and Abuse Act, le Digital Millennium Copyright Act et les lois fédérales sur le racket. Microsoft espère traduire ces criminels en justice.