近日,SambaNova 和 Hugging Face 联合推出了一新工具,使开发者能够仅需点击一下按钮即可部署类似 ChatGPT 的聊天机器人,极大地缩短了部署时间,从原本的数小时减少到几分钟。

image.png

对于开发者而言,这一过程相当简单,只需访问 SambaNova Cloud 的 API 网站获取访问令牌,接着在 Python 中输入三行代码即可完成部署。

具体操作步骤:首先,开发者需要导入所需的库。代码为:  

```python

import gradio as gr  

import sambanova_gradio  

gr.load ("Meta-Llama-3.1-70B-Instruct-8k", src=sambanova_gradio.registry, accept_token=True).launch ()  

```  

完成以上步骤后,开发者只需点击 “Deploy to Hugging Face” 按钮,并输入 SambaNova 的访问令牌,几秒钟后,功能齐全的 AI 聊天机器人便会在 Hugging Face 的 Spaces 平台上上线。

这一一键式部署的改变,彻底革新了企业 AI 开发的方式。SambaNova 的 ML 增长负责人 Ahsen Khaliq 在接受媒体采访时表示,这种方法可以在不到一分钟的时间内让应用程序运行,相较于传统的 API 部署,节省了大量时间和精力。

新系统不仅支持文本聊天,还可以处理图像,具备文本与图像的多模态聊天功能。开发者可以通过 SambaNova 的云平台访问强大的模型,如 Llama3.2-11B-Vision-Instruct,性能指标显示在无约束硬件上的处理速度可达每秒358个令牌。

在企业 AI 解决方案需求日益增长的背景下,这一工具的推出恰逢其时。尽管 OpenAI 和 Anthropic 等科技巨头在消费者聊天机器人领域占据了较大市场,但 SambaNova 的做法则直接面向开发者,提供高效的企业级工具。

为了鼓励更多的开发者采用这一新工具,SambaNova 和 Hugging Face 将于十二月举办一次黑客马拉松,开发者实际体验的机会。随着企业对快速部署 AI 解决方案的需求增加,这一创新工具将帮助他们更高效地实现 AI 聊天功能。

然而,快速部署也带来了一些挑战。企业在享受技术便利的同时,必须认真思考如何有效利用 AI、解决哪些实际问题,以及如何保护用户隐私和确保负责任的使用。正如 SambaNova 的 Kaizhao Liang 所说,虽然我们简化了部署过程,但真正需要思考的是如何构建能够解决实际问题的工具。

入口:https://cloud.sambanova.ai/

划重点:  

🌟 一键部署:SambaNova 和 Hugging Face 联手推出一键式 AI 聊天机器人部署工具。  

⏱️ 时间缩短:传统部署耗时数小时,新工具可在几分钟内完成。  

🔍 多模态支持:支持文本和图像处理,提升聊天机器人的应用场景。