Amazon Web Services (AWS) annonce la disponibilité du modèle Llama 3.1 sur Amazon Bedrock. Il s'agit d'une série de modèles d'IA avancés et puissants développés par Meta. Les modèles Llama 3.1 sont disponibles en trois tailles : 8 milliards, 70 milliards et 405 milliards de paramètres. Ils affichent des performances de pointe sur un large éventail de benchmarks sectoriels et offrent de nouvelles fonctionnalités aux applications d'IA générative.
Tous les modèles Llama 3.1 prennent en charge une longueur de contexte de 128 K, soit 16 fois la capacité de Llama 3. Ils améliorent les capacités de raisonnement pour les cas d'utilisation de dialogue multilingues dans huit langues (anglais, allemand, français, italien, portugais, hindi, espagnol et thaï).
Llama 3.1 405B : Il s'agit du plus grand modèle linguistique de grande taille actuellement disponible publiquement. Il convient aux applications et à la recherche et développement d'entreprises, et excelle particulièrement dans la connaissance générale, la génération de longs textes, la traduction multilingue, la traduction automatique, le codage, les mathématiques, l'utilisation d'outils, la compréhension contextuelle améliorée et le raisonnement et la prise de décision avancés.
Llama 3.1 70B : Adapté à la création de contenu, à l'IA conversationnelle, à la compréhension du langage, à la recherche et développement et aux applications d'entreprise. Il excelle dans la synthèse et la précision des textes, la classification des textes, l'analyse des sentiments, le raisonnement subtil, la modélisation du langage, les systèmes conversationnels, la génération de code et le respect des instructions.
Llama 3.1 8B : Idéal pour les situations où les capacités de calcul et les ressources sont limitées. Il excelle dans la synthèse de texte, la classification de texte, l'analyse des sentiments et la traduction linguistique pour les besoins d'inférence à faible latence.
Meta a testé les performances de Llama 3.1 sur plus de 150 ensembles de données de référence couvrant un large éventail de langues et a effectué de nombreuses évaluations manuelles. Llama 3.1 surpasse Llama 3 dans chaque catégorie principale de référence.
Amazon Bedrock intègre les fonctionnalités d'IA responsable de Llama 3.1, offrant des fonctionnalités de gouvernance des données et d'évaluation des modèles pour aider les utilisateurs à créer en toute confiance des applications d'IA générative sûres et fiables.
Amazon Bedrock Guardrails permet aux utilisateurs de créer des mesures de protection personnalisées pour favoriser les interactions sécurisées et de surveiller et d'analyser en permanence les entrées des utilisateurs et les réponses du modèle.
La fonctionnalité d'évaluation des modèles sur Amazon Bedrock permet aux utilisateurs de sélectionner le meilleur modèle Llama grâce à des évaluations automatiques ou manuelles.