A Amazon Web Services (AWS) anunciou a disponibilidade do modelo Llama 3.1 no Amazon Bedrock, uma série de modelos de IA avançados e poderosos desenvolvidos pelo Meta. Os modelos Llama 3.1 estão disponíveis em três tamanhos: 8B, 70B e 405B parâmetros. Eles demonstram desempenho de ponta em uma ampla gama de benchmarks da indústria e oferecem novas funcionalidades para aplicativos de IA generativa.
Todos os modelos Llama 3.1 suportam um contexto de 128K, 16 vezes maior que o Llama 3, melhorando a capacidade de raciocínio para casos de uso de diálogo multilíngue em oito idiomas (incluindo inglês, alemão, francês, italiano, português, hindi, espanhol e tailandês). Os modelos específicos incluem:
Llama 3.1 405B: Este é o maior modelo de linguagem grande publicamente disponível atualmente, ideal para aplicações empresariais e P&D. É particularmente forte em conhecimento geral, geração de textos longos, tradução multilíngue, tradução automática, codificação, matemática, uso de ferramentas, compreensão de contexto aprimorada e raciocínio e tomada de decisão avançados.
Llama 3.1 70B: Adequado para criação de conteúdo, IA conversacional, compreensão da linguagem, P&D e aplicações empresariais. Destaca-se em resumo de texto e precisão, classificação de texto, análise de sentimentos e raciocínio sutil, modelagem de linguagem, sistemas de diálogo, geração de código e seguimento de instruções.
Llama 3.1 8B: Ideal para cenários com recursos e capacidade computacional limitados. É eficiente em resumo de texto, classificação de texto, análise de sentimentos e tradução de idiomas com requisitos de inferência de baixa latência.
O Meta testou o desempenho do Llama 3.1 em mais de 150 conjuntos de dados de benchmark abrangendo uma ampla gama de idiomas e conduziu extensas avaliações humanas. O Llama 3.1 superou o Llama 3 em cada categoria principal de benchmark.
O Amazon Bedrock combina os recursos de IA responsável do Llama 3.1, oferecendo recursos de governança de dados e avaliação de modelos para ajudar os usuários a construir aplicativos de IA generativa seguros e confiáveis com confiança.
O Amazon Bedrock Guardrails permite que os usuários criem salvaguardas personalizadas para promover interações seguras e monitorar e analisar continuamente as entradas do usuário e as respostas do modelo.
Os recursos de avaliação de modelos do Amazon Bedrock permitem que os usuários selecionem o melhor modelo Llama por meio de avaliações automáticas ou manuais.
