マイクロソフトは、同社のクラウドAI製品のセキュリティ対策を回避するツールを故意に開発・使用したとして、ある組織を訴えました。昨年12月、バージニア州東部地区連邦地方裁判所に提起された訴状によると、身元不明の被告10名からなるグループが、盗まれた顧客認証情報とカスタムソフトウェアを使用してAzure OpenAIサービスに侵入したとされています。
マイクロソフトは、被告が「コンピュータ詐欺および濫用法」、「デジタルミレニアム著作権法」、連邦恐喝法に違反し、マイクロソフトのソフトウェアとサーバーに違法にアクセスして使用し、「攻撃的な」そして「有害かつ違法なコンテンツ」を作成する目的で利用したと主張しています。マイクロソフトは、生成された悪用コンテンツに関する具体的な詳細は明らかにしていません。
同社は、差止命令と「その他の衡平法上の」救済、および損害賠償を求めています。マイクロソフトは訴状の中で、2024年7月に、Azure OpenAIサービスの認証情報（特に、アプリケーションやユーザーを認証するために使用される一意の文字列であるAPIキー）を保有する顧客が、同サービスの許容利用規約に違反するコンテンツの生成に使用されていることを発見したと述べています。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
マイクロソフトの訴状には、「被告が本訴状で述べられている不正行為を実行するために使用したすべてのAPIキーを入手した具体的な方法は不明であるが、被告は組織的なAPIキー窃盗に関与しており、複数のマイクロソフト顧客からマイクロソフトAPIキーを窃取することができたように見える」と書かれています。
マイクロソフトは、被告が盗まれた米国顧客のAzure OpenAIサービスAPIキーを利用して、「ハッキング・アズ・ア・サービス」計画を実行したと主張しています。訴状によると、この計画を実行するために、被告はde3uというクライアントツールと、de3uからマイクロソフトシステムへの通信を処理およびルーティングするためのソフトウェアを作成しました。
マイクロソフトによると、De3uはユーザーが盗まれたAPIキーを使用して、独自のコードを記述することなく、DALL-E（Azure OpenAIサービスの顧客が利用できるOpenAIモデルの1つ）で画像を生成することを可能にしました。訴状によると、De3uはまた、画像生成に使用されるプロンプトの変更をAzure OpenAIサービスによって阻止しようともしました。例えば、テキストプロンプトにマイクロソフトのコンテンツフィルタリングをトリガーする単語が含まれている場合などです。
記事執筆時点では、de3uプロジェクトのコードを含むGitHub（マイクロソフト傘下の企業）でホストされているリポジトリにはアクセスできなくなっています。
マイクロソフトは金曜日に発表したブログ記事で、裁判所が被告の行動に「極めて重要」なウェブサイトの差し押さえを許可したと述べています。このウェブサイトにより、同社は証拠を収集し、被告のサービスの収益化方法を解明し、発見されたその他の技術インフラストラクチャを破壊することができます。
マイクロソフトはまた、「対策を講じた」と述べていますが、具体的な内容は明らかにしておらず、観察された活動に対処するためにAzure OpenAIサービスに「追加のセキュリティ対策」を追加したと述べています。
