Amazon Web Services (AWS) anuncia la disponibilidad del modelo Llama 3.1 en Amazon Bedrock. Se trata de una serie de modelos de IA avanzados y potentes desarrollados por Meta. La familia Llama 3.1 incluye modelos con 8B, 70B y 405B parámetros, demostrando un rendimiento de vanguardia en una amplia gama de pruebas de referencia de la industria y ofreciendo nuevas capacidades para aplicaciones de IA generativa.
Todos los modelos Llama 3.1 admiten una longitud de contexto de 128K, 16 veces mayor que la de Llama 3, mejorando la capacidad de razonamiento para casos de uso de diálogo multilingüe en ocho idiomas (inglés, alemán, francés, italiano, portugués, hindi, español y tailandés). Los modelos específicos incluyen:
Llama 3.1 405B: Este es el modelo de lenguaje grande más grande disponible públicamente en la actualidad, ideal para aplicaciones empresariales e investigación y desarrollo. Destaca en conocimiento general, generación de textos largos, traducción multilingüe, traducción automática, codificación, matemáticas, uso de herramientas, comprensión contextual mejorada y razonamiento y toma de decisiones avanzados.
Llama 3.1 70B: Adecuado para creación de contenido, IA conversacional, comprensión del lenguaje, investigación y desarrollo y aplicaciones empresariales. Sobresale en resumen y precisión de textos, clasificación de textos, análisis de sentimientos y razonamiento sutil, modelado del lenguaje, sistemas de diálogo, generación de código y seguimiento de instrucciones.
Llama 3.1 8B: Ideal para situaciones con recursos y capacidad de computación limitados. Destaca en resumen de textos, clasificación de textos, análisis de sentimientos y traducción de idiomas con baja latencia.
Meta probó el rendimiento de Llama 3.1 en más de 150 conjuntos de datos de referencia que abarcan una amplia gama de idiomas y realizó extensas evaluaciones humanas. Llama 3.1 superó a Llama 3 en cada categoría principal de pruebas de referencia.
Amazon Bedrock, junto con las funciones de IA responsable de Llama 3.1, ofrece funciones de gestión de datos y evaluación de modelos para ayudar a los usuarios a construir aplicaciones de IA generativa seguras y confiables con confianza.
Amazon Bedrock Guardrails permite a los usuarios crear medidas de protección personalizadas para fomentar interacciones seguras y monitorear y analizar continuamente las entradas de los usuarios y las respuestas del modelo.
Las funciones de evaluación de modelos de Amazon Bedrock permiten a los usuarios seleccionar el mejor modelo Llama a través de evaluaciones automáticas o manuales.