最新消息!Ollama 0. 2 版本已经发布!据悉,这次更新默认启用了并发功能,让Ollama能够同时处理多个请求,为用户带来更快速的体验。这项更新不仅解锁了并行请求功能,还支持同时加载不同的模型,让Ollama可以更高效地处理各种任务。、

image.png

根据Ollama官方发布的消息,这次更新使得Ollama可以处理多个聊天会话、为团队提供代码完成服务、同时处理文档的不同部分,甚至可以同时运行多个代理。此外,Ollama还支持加载不同的模型,比如检索增强生成(RAG)和代理,让用户可以同时运行大型和小型模型,提高了系统的灵活性和性能。

据悉,这次更新还增加了自动加载和卸载模型的功能,根据请求和GPU内存的使用情况进行动态调整,确保系统运行的稳定性和效率。这一系列的更新,让Ollama变得更加强大和智能,为用户带来更优质的体验。想要体验最新版的Ollama 0. 2 吗?赶快点击链接进行下载吧!

官方下载地址:https://ollama.com/download