Microsoft hat rechtliche Schritte gegen eine Organisation eingeleitet, die beschuldigt wird, absichtlich Tools entwickelt und eingesetzt zu haben, um die Sicherheitsvorkehrungen ihrer Cloud-KI-Produkte zu umgehen. Laut einer Klage, die Microsoft im Dezember letzten Jahres beim US-Bezirksgericht für den Eastern District of Virginia eingereicht hat, soll eine Gruppe von zehn nicht genannten Angeklagten mit gestohlenen Kundenanmeldeinformationen und kundenspezifischer Software in die Azure OpenAI-Dienste eingedrungen sein.
Microsoft wirft den Angeklagten Verstöße gegen den „Computer Fraud and Abuse Act“, den „Digital Millennium Copyright Act“ und das Bundesgesetz gegen Erpressung vor. Sie sollen sich widerrechtlich Zugang zu Microsofts Software und Servern verschafft und diese genutzt haben, um „aggressive“ und „schädliche und illegale Inhalte“ zu erstellen. Microsoft hat keine Einzelheiten zu den erstellten missbräuchlichen Inhalten veröffentlicht.
Das Unternehmen beantragt eine einstweilige Verfügung, „weitere gerechte“ Rechtsmittel und Schadensersatz. Microsoft erklärte in seiner Klage, dass es im Juli 2024 festgestellt habe, dass die Anmeldeinformationen von Kunden mit Zugriff auf den Azure OpenAI-Dienst (insbesondere API-Schlüssel, eindeutige Zeichenfolgen zur Authentifizierung von Anwendungen oder Benutzern) zur Erstellung von Inhalten verwendet wurden, die gegen die akzeptablen Nutzungsbedingungen des Dienstes verstoßen.
Bildquelle: Das Bild wurde mit KI generiert, Bildrechte liegen bei Midjourney.
In der Klage von Microsoft heißt es: „Die genaue Art und Weise, wie die Angeklagten alle API-Schlüssel erlangten, die zur Durchführung der in dieser Klage beschriebenen Handlungen verwendet wurden, ist unklar, aber es scheint, dass die Angeklagten an einem systematischen Muster des API-Schlüsseldiebstahls beteiligt waren, das es ihnen ermöglichte, API-Schlüssel von mehreren Microsoft-Kunden zu stehlen.“
Microsoft wirft den Angeklagten vor, gestohlene API-Schlüssel des Azure OpenAI-Dienstes von US-amerikanischen Kunden für ein „Hacking-as-a-Service“-Programm verwendet zu haben. Laut der Klage erstellten die Angeklagten dafür ein Client-Tool namens de3u sowie Software zur Verarbeitung und Weiterleitung der Kommunikation von de3u an die Microsoft-Systeme.
Microsoft behauptet, dass De3u es Benutzern ermöglichte, mit gestohlenen API-Schlüsseln Bilder mit DALL-E (einem der für Azure OpenAI-Dienst-Kunden verfügbaren OpenAI-Modelle) zu generieren, ohne eigenen Code schreiben zu müssen. Laut der Klage versuchte De3u auch, zu verhindern, dass der Azure OpenAI-Dienst die zur Bilderzeugung verwendeten Eingabeaufforderungen ändert, beispielsweise wenn Text-Eingabeaufforderungen Wörter enthielten, die Microsofts Inhaltsfilter auslösten.
Zum Zeitpunkt der Veröffentlichung war das Repository mit dem de3u-Projektcode, das auf GitHub (einem Unternehmen von Microsoft) gehostet wurde, nicht mehr zugänglich.
In einem Blogbeitrag vom Freitag erklärte Microsoft, dass das Gericht die Beschlagnahme einer Website genehmigt habe, die für die Aktionen der Angeklagten „von entscheidender Bedeutung“ sei. Dies werde es dem Unternehmen ermöglichen, Beweise zu sammeln, die angebliche Monetarisierung des Dienstes der Angeklagten zu entschlüsseln und jede weitere von ihnen entdeckte technische Infrastruktur zu zerstören.
Microsoft gab außerdem an, „Gegenmaßnahmen“ ergriffen zu haben, nannte aber keine Einzelheiten und habe für den Azure OpenAI-Dienst „zusätzliche Sicherheitsmaßnahmen“ aufgrund der beobachteten Aktivitäten hinzugefügt.