A Microsoft entrou com uma ação judicial contra uma organização acusada de desenvolver e usar deliberadamente ferramentas para contornar as proteções de segurança de seus produtos de IA em nuvem. De acordo com o processo apresentado em dezembro passado pela Microsoft no Tribunal Distrital dos Estados Unidos para o Distrito Leste da Virgínia, um grupo de 10 réus não identificados supostamente invadiu os serviços Azure OpenAI usando credenciais de clientes roubadas e software personalizado.
A Microsoft acusa os réus de violarem a Lei de Fraude e Abuso de Computador, a Lei de Direitos Autorais do Milênio Digital e leis federais de extorsão, acessando e usando ilegalmente softwares e servidores da Microsoft com o objetivo de criar conteúdo "ofensivo" e "prejudicial e ilegal". A Microsoft não forneceu detalhes específicos sobre o conteúdo abusivo gerado.
A empresa está buscando uma ordem judicial, outras medidas equitativas e indenização por danos. Em sua reclamação, a Microsoft afirma que descobriu em julho de 2024 que as credenciais dos clientes com acesso aos serviços Azure OpenAI (especificamente, chaves de API, strings exclusivas usadas para autenticar aplicativos ou usuários) foram usadas para gerar conteúdo que viola a política de uso aceitável do serviço.
Observação da fonte: A imagem foi gerada por IA, com direitos concedidos pelo provedor Midjourney.
A queixa da Microsoft afirma: "A maneira exata como os réus obtiveram todas as chaves de API usadas para executar as condutas impróprias descritas nesta queixa não está clara, mas parece que os réus se envolveram em um padrão sistemático de roubo de chaves de API, permitindo que eles roubassem chaves de API da Microsoft de vários clientes da Microsoft."
A Microsoft acusa os réus de usar as chaves de API roubadas do serviço Azure OpenAI de clientes americanos para executar um esquema de "hackeamento como serviço". De acordo com a queixa, para executar esse esquema, os réus criaram uma ferramenta de cliente chamada de3u, bem como software para processar e rotear as comunicações de de3u para os sistemas da Microsoft.
A Microsoft afirma que o De3u permitia que os usuários, usando as chaves de API roubadas, gerassem imagens usando o DALL-E (um dos modelos OpenAI disponíveis para os clientes do serviço Azure OpenAI) sem precisar escrever seu próprio código. De acordo com a queixa, o De3u também tentou impedir que o serviço Azure OpenAI modificasse as instruções usadas para gerar imagens, como quando as instruções de texto continham palavras que acionavam os filtros de conteúdo da Microsoft.
No momento da publicação, o repositório que continha o código do projeto de3u hospedado no GitHub (uma empresa da Microsoft) não estava mais acessível.
Em um post de blog publicado na sexta-feira, a Microsoft disse que um tribunal autorizou a apreensão de um site "essencial" para as ações dos réus, o que permitirá que a empresa colete evidências, decifre como o suposto serviço dos réus foi monetizado e interrompa qualquer outra infraestrutura tecnológica que ela descobrir.
A Microsoft também disse que tomou "medidas de contra-ataque", embora não tenha especificado quais, e adicionou "medidas de segurança adicionais" ao serviço Azure OpenAI em resposta às atividades que observou.