Recentemente, a Microsoft entrou com uma ação judicial em um tribunal distrital do leste da Virgínia contra um grupo de hackers, acusando-os de invadir ilegalmente a plataforma Azure OpenAI e usar o serviço para gerar uma grande quantidade de conteúdo prejudicial. Este incidente aumenta a preocupação com a segurança e os riscos na área da inteligência artificial.
De acordo com a ação da Microsoft, esses hackers, de origem estrangeira, conseguiram contornar as proteções de segurança e acessar o sistema Azure OpenAI ao coletar credenciais de clientes em sites públicos. Após obter acesso às contas dos clientes, eles não apenas modificaram as funcionalidades da plataforma, mas também revenderam o acesso a outros usuários maliciosos, fornecendo instruções detalhadas sobre como usar essas ferramentas de IA para gerar conteúdo ilegal. Embora a Microsoft não tenha divulgado a natureza específica do conteúdo gerado pelos hackers, ela afirma que esse conteúdo viola gravemente as políticas e os termos de serviço da empresa.
Em resposta a essa falha de segurança, a Microsoft implementou várias novas medidas de segurança para fortalecer a defesa da plataforma Azure OpenAI e evitar que incidentes semelhantes ocorram novamente. A Microsoft também solicitou ao tribunal, na ação judicial, a apreensão de sites relacionados às operações dos hackers para coletar evidências, rastrear os responsáveis e desmantelar a infraestrutura que suporta atividades ilegais.
A Microsoft afirma que as ações desses hackers violam várias leis dos EUA, incluindo a Lei de Fraude e Abuso de Computadores, a Lei do Milênio Digital sobre Direitos Autorais e a lei federal de extorsão. A Microsoft espera responsabilizar esses criminosos por meio de meios legais.
