亚马逊云科技宣布在Amazon Bedrock上提供Llama3.1模型，这是Meta开发的先进、强大的AI模型系列。Llama3.1模型包含8B、70B和405B三种参数量的模型，它们在广泛的行业基准测试中展现了最先进的性能，并为生成式AI应用程序提供新功能。

亚马逊

所有Llama3.1模型支持128K的上下文长度，容量是Llama3模型的16倍，针对八种语言（包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语）的多语种对话用例，提高了推理能力。具体模型包括:

  • Llama3.1405B:这是目前公开可用的最大的大型语言模型，适合企业级应用和研发，尤其擅长通用知识、长篇文本生成、多语种翻译、机器翻译、编码、数学、工具使用、增强的上下文理解和高级推理和决策。

  • Llama3.170B:适合内容创作、对话式AI、语言理解、研发和企业应用，擅长文本摘要和准确性、文本分类、情感分析和细微推理、语言建模、对话系统、代码生成和遵循指令。

  • Llama3.18B:适合计算能力和资源有限的情况，擅长低延迟推理需求下的文本摘要、文本分类、情感分析和语言翻译。

Meta在超过150个涵盖广泛语言的基准数据集上测试了Llama3.1的性能，并进行了大量的人工评估。Llama3.1在每个主要基准测试类别中都优于Llama3。

Amazon Bedrock结合Llama3.1的负责任AI功能，提供数据治理和模型评估功能，帮助用户自信地构建安全可靠的生成式AI应用程序。

Amazon Bedrock Guardrails允许用户创建定制的保护措施，促进安全交互，并持续监控和分析用户输入和模型响应。

Amazon Bedrock上的模型评估功能则让用户可以通过自动评估或人工评估，选择最佳Llama模型。