Microsoft ha emprendido acciones legales contra una organización acusada de desarrollar y utilizar deliberadamente herramientas para eludir las protecciones de seguridad de sus productos de IA en la nube. Según la demanda presentada en diciembre pasado por Microsoft ante el Tribunal de Distrito de los Estados Unidos para el Distrito Este de Virginia, un grupo de diez acusados no identificados presuntamente utilizó credenciales de clientes robadas y software personalizado para acceder sin autorización a los servicios de Azure OpenAI.
Microsoft acusa a los demandados de violar la Ley de Fraude Informático y Abuso, la Ley de Derechos de Autor del Milenio Digital y las leyes federales de extorsión, accediendo y utilizando ilegalmente el software y los servidores de Microsoft con el propósito de crear contenido "agresivo" y "dañino e ilegal". Microsoft no ha proporcionado detalles específicos sobre el contenido abusivo generado.
La compañía busca una orden judicial, otros recursos equitativos y una indemnización por daños y perjuicios. En su denuncia, Microsoft afirma que en julio de 2024 descubrió que las credenciales de clientes con acceso a los servicios de Azure OpenAI (específicamente, claves API, cadenas únicas que autentican aplicaciones o usuarios) se estaban utilizando para generar contenido que violaba la política de uso aceptable del servicio.
Nota de la fuente: Imagen generada por IA, proveedora Midjourney
La demanda de Microsoft afirma: "La forma precisa en que los demandados obtuvieron todas las claves API utilizadas para llevar a cabo las acciones indebidas descritas en esta demanda no está clara, pero parece que los demandados participaron en un patrón sistemático de robo de claves API, lo que les permitió robar claves API de Microsoft de varios clientes de Microsoft".
Microsoft acusa a los demandados de utilizar las claves API robadas de los servicios Azure OpenAI de clientes estadounidenses para implementar un plan de "hackeo como servicio". Según la demanda, para implementar este plan, los demandados crearon una herramienta de cliente llamada de3u, así como software para procesar y enrutar las comunicaciones de de3u a los sistemas de Microsoft.
Microsoft afirma que De3u permitía a los usuarios, utilizando las claves API robadas, generar imágenes con DALL-E (uno de los modelos OpenAI disponibles para los clientes de los servicios Azure OpenAI) sin necesidad de escribir su propio código. Según la demanda, De3u también intentaba evitar que los servicios de Azure OpenAI modificaran las indicaciones utilizadas para generar imágenes, como cuando las indicaciones de texto contenían palabras que activaban los filtros de contenido de Microsoft.
En el momento de la publicación, el repositorio que contenía el código del proyecto de3u alojado en GitHub (una empresa de Microsoft) ya no está accesible.
En una entrada de blog publicada el viernes, Microsoft declaró que el tribunal le había autorizado a confiscar un sitio web "crucial" para las acciones de los demandados, lo que permitirá a la empresa recopilar pruebas, descifrar cómo se monetizaba el supuesto servicio de los demandados y desmantelar cualquier otra infraestructura tecnológica que haya descubierto.
Microsoft también declaró que ha "tomado medidas", aunque no las especificó, y ha "añadido medidas de seguridad adicionales" a los servicios de Azure OpenAI en respuesta a las actividades observadas.