Meta ha anunciado recientemente que pondrá su modelo de inteligencia artificial de la serie Llama a disposición de las agencias gubernamentales estadounidenses y sus contratistas para apoyar aplicaciones de seguridad nacional.
Esta medida tiene como objetivo contrarrestar las preocupaciones de que la inteligencia artificial "abierta" pueda beneficiar a adversarios extranjeros. En una entrada de blog, Meta declaró: "Nos complace confirmar que Llama estará disponible para las agencias gubernamentales de Estados Unidos, incluidos los proyectos centrados en defensa y seguridad nacional, así como para los socios del sector privado que apoyan estos trabajos."
Para impulsar este proyecto, Meta ha colaborado con varias empresas de renombre, incluyendo Accenture, Amazon Web Services, Andrill, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI y Snowflake. Estas empresas ayudarán a aplicar el modelo Llama a diversas tareas de seguridad nacional.
Por ejemplo, Oracle está utilizando Llama para procesar documentos de mantenimiento de aviones, mientras que Scale AI está ajustando Llama para tareas específicas de seguridad nacional. Lockheed Martin planea proporcionar Llama a sus clientes de defensa para ayudarles a generar código informático, entre otras cosas.
Generalmente, la política de Meta prohíbe a los desarrolladores utilizar Llama en proyectos relacionados con asuntos militares, guerras o espionaje. Sin embargo, en este caso, Meta ha hecho una excepción, permitiendo el uso de Llama a las agencias y contratistas relacionados con el gobierno de Estados Unidos, así como a instituciones similares en el Reino Unido, Canadá, Australia y Nueva Zelanda.
Cabe destacar que recientemente se informó que algunos investigadores relacionados con el Ejército Popular de Liberación de China utilizaron una versión anterior del modelo Llama (Llama2) para desarrollar un chatbot centrado en asuntos militares, diseñado para recopilar y procesar información de inteligencia y ayudar en la toma de decisiones operativas. Meta respondió que el uso del modelo fue "no autorizado" y violó la política de uso aceptable de la empresa. Sin embargo, este incidente ha generado un amplio debate sobre las ventajas y desventajas de la inteligencia artificial abierta.
Con el uso de la inteligencia artificial en la información militar, la vigilancia y el reconocimiento, los riesgos de seguridad están saliendo a la luz. Un estudio del AI Now Institute muestra que los sistemas de inteligencia artificial existentes dependen de datos personales que podrían ser extraídos y utilizados como armas por adversarios. Además, los sistemas de inteligencia artificial presentan problemas de sesgo y alucinaciones, sin soluciones efectivas hasta el momento. Los investigadores recomiendan el desarrollo de sistemas de inteligencia artificial dedicados, aislados de los modelos "comerciales".
Aunque Meta afirma que la IA abierta puede acelerar la investigación en defensa y promover los intereses económicos y de seguridad de Estados Unidos, el ejército estadounidense sigue siendo cauteloso con respecto a la adopción de esta tecnología; hasta la fecha, solo el ejército ha implementado la inteligencia artificial generativa.
Puntos clave:
🌐 Meta pone el modelo Llama a disposición del gobierno estadounidense y los contratistas de defensa para apoyar las aplicaciones de seguridad nacional.
🤝 Varias empresas de renombre colaboran con Meta para impulsar la aplicación del modelo Llama en el ámbito de la defensa.
⚖️ Los riesgos de seguridad de la inteligencia artificial abierta en aplicaciones militares generan debate, y los investigadores abogan por el desarrollo de modelos especializados.
