Cloudflare近日宣布，作为Meta公司的首批合作伙伴之一，他们已在Workers AI平台上线了Meta最新发布的Llama3.18B模型。这一举措使得开发者能够在模型发布的第一天就开始使用这一先进的AI工具。
Llama3.1是Meta公司Llama系列模型的最新成员，以其在通用知识、可操控性、数学运算、工具使用和多语言翻译等方面的出色表现而闻名。此次更新的亮点包括:更高的精度:模型采用了bfloat16格式，提升了计算精度。
- 函数调用功能:内置了函数调用（也称为工具调用）能力，允许模型生成结构化的JSON输出，可直接用于各种API。
- 多语言支持:新模型支持8种语言，包括英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语和泰语，大大扩展了应用范围。
Cloudflare强调，他们致力于支持开源社区，并将这一理念延伸到了Workers AI产品中。公司表示，他们的目标是为开发者提供一流的开发体验和工具包，以帮助人们使用开源模型构建应用程序。
值得注意的是，在beta测试期间，开发者可以免费使用Llama3.18B模型。Cloudflare还推出了嵌入式函数调用功能，这使得开发者可以更高效地运行推理任务，减少手动请求的次数。
Cloudflare的这一举措不仅展示了他们对开源AI发展的支持，也为全球开发者提供了更多机会来探索和应用最新的AI技术。随着AI模型不断进化，我们可以期待看到更多创新应用的出现。