Meta anunció recientemente el lanzamiento de su último miembro de la familia Llama: Llama 3.370B. Ahmad Al-Dahle, vicepresidente de IA generativa de Meta, compartió la noticia en la plataforma X, destacando que Llama 3.370B muestra una mejora significativa en el rendimiento en comparación con el modelo Llama más grande anterior de Meta, Llama 3.1405B, a un costo considerablemente menor.
Al-Dahle afirmó que, mediante la utilización de las últimas técnicas de entrenamiento, Llama 3.370B no solo mejora el rendimiento, sino que también reduce los costos operativos. Según los resultados de las pruebas de referencia publicadas por Meta, Llama 3.370B supera a Gemini 1.5 Pro de Google, GPT-4 de OpenAI y el recién lanzado Nova Pro de Amazon en varios ámbitos, mostrando un rendimiento especialmente destacado en la prueba MMLU, que evalúa la comprensión del lenguaje del modelo.
El modelo ya está disponible para su descarga desde fuentes como Hugging Face y la plataforma oficial de Llama. Esta iniciativa de Meta busca dominar el campo de la IA a través de modelos "abiertos". Los modelos Llama de Meta se pueden aplicar en diversas situaciones y admiten la comercialización, aunque Meta impone algunas restricciones a ciertos desarrolladores, exigiendo un permiso especial a las plataformas con más de 700 millones de usuarios mensuales. A pesar de esto, Llama ha superado los 650 millones de descargas, lo que demuestra su gran popularidad entre los desarrolladores de IA de todo el mundo.
Para respaldar el entrenamiento de modelos de IA de mayor escala en el futuro, Meta está invirtiendo fuertemente en infraestructura informática. La compañía anunció recientemente la construcción de un centro de datos de IA de 10.000 millones de dólares en Luisiana, el centro de datos de IA más grande de Meta hasta la fecha. Mark Zuckerberg mencionó en una conferencia telefónica sobre los resultados financieros que la capacidad de computación necesaria para entrenar la próxima generación de modelos Llama 4 será 10 veces mayor que la de Llama 3. Meta ya ha adquirido más de 100.000 unidades de clústeres de GPU Nvidia, una cantidad comparable a la de sus competidores como xAI.
Con el creciente costo del entrenamiento de modelos de IA generativa, el gasto de capital de Meta también está aumentando. El gasto de capital del segundo trimestre de 2024 aumentó casi un 33%, alcanzando los 8.500 millones de dólares. Este aumento se debe principalmente a las continuas inversiones de Meta en servidores, centros de datos e infraestructura de red.
