张大妈

ollama更新哪些重要功能?

源自UP主:小工蚁创始人

02-16 13:44

Ollama近期发布重大更新,引入云端模型服务和网络搜索功能,结合底层引擎优化,实现了本地与云端算力的无缝融合,显著提升了大模型的部署灵活性。

ollama更新哪些重要功能?智能速览

  • 推出Ollama Cloud服务,支持运行大参数云端模型。

  • 集成MCP工具,提供实时网络搜索API以减少幻觉。

  • 支持本地与云端模型混合调用,实现高效互补。

  • 优化引擎调度,新增对Qwen3架构及CUDA的支持。

ollama更新哪些重要功能?精华内容

Ollama打破本地算力限制,通过云端与搜索功能的引入,重塑了本地大模型的使用体验。

云端模型服务

Ollama Cloud现已开放预览,允许用户利用数据中心级硬件运行本地设备无法承载的大模型。目前支持的云端模型包括qwen3-coder、gpt-oss、deepseek-v3.1等,定价约为每月20美元。

云端模型与本地模型使用体验一致,均兼容标准的Ollama API。用户只需在终端运行带cloud后缀的命令,即可在享受本地隐私保护的同时,获得云端强大的算力支持,实现真正的混合部署。

网络搜索集成

新版本集成了MCP工具,正式推出了Web Search API,能够为模型注入实时网络信息。这一功能有效降低了模型产生幻觉的概率,并提升了回答的准确性。

个人用户可使用慷慨的免费搜索额度,云端用户则享有更高的速率限制。该功能已深度集成至Python和JavaScript库中,开发者通过简单的API Key配置,即可让AI具备联网检索能力。

架构与性能

引擎层面,Ollama改进了模型调度算法,并正式支持Qwen3和BERT架构模型。实测显示,新引擎在多轮交互和工具调用场景下性能表现更佳。

硬件兼容性方面,更新加强了对CUDA 12的支持,修复了新旧显卡驱动冲突导致的检测失败问题。这些底层改进确保了混合部署模式下的稳定运行,无论是CPU还是GPU环境均能受益。

Ollama的此次更新不仅补齐了云端算力和联网能力的短板,更通过混合部署模式为开发者提供了极具性价比的AI解决方案,值得深入体验。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章