Ollama近期发布重大更新,引入云端模型服务和网络搜索功能,结合底层引擎优化,实现了本地与云端算力的无缝融合,显著提升了大模型的部署灵活性。
智能速览
推出Ollama Cloud服务,支持运行大参数云端模型。
集成MCP工具,提供实时网络搜索API以减少幻觉。
支持本地与云端模型混合调用,实现高效互补。
优化引擎调度,新增对Qwen3架构及CUDA的支持。
精华内容
Ollama打破本地算力限制,通过云端与搜索功能的引入,重塑了本地大模型的使用体验。
云端模型服务
Ollama Cloud现已开放预览,允许用户利用数据中心级硬件运行本地设备无法承载的大模型。目前支持的云端模型包括qwen3-coder、gpt-oss、deepseek-v3.1等,定价约为每月20美元。
云端模型与本地模型使用体验一致,均兼容标准的Ollama API。用户只需在终端运行带cloud后缀的命令,即可在享受本地隐私保护的同时,获得云端强大的算力支持,实现真正的混合部署。
网络搜索集成
新版本集成了MCP工具,正式推出了Web Search API,能够为模型注入实时网络信息。这一功能有效降低了模型产生幻觉的概率,并提升了回答的准确性。
个人用户可使用慷慨的免费搜索额度,云端用户则享有更高的速率限制。该功能已深度集成至Python和JavaScript库中,开发者通过简单的API Key配置,即可让AI具备联网检索能力。
架构与性能
引擎层面,Ollama改进了模型调度算法,并正式支持Qwen3和BERT架构模型。实测显示,新引擎在多轮交互和工具调用场景下性能表现更佳。
硬件兼容性方面,更新加强了对CUDA 12的支持,修复了新旧显卡驱动冲突导致的检测失败问题。这些底层改进确保了混合部署模式下的稳定运行,无论是CPU还是GPU环境均能受益。
Ollama的此次更新不仅补齐了云端算力和联网能力的短板,更通过混合部署模式为开发者提供了极具性价比的AI解决方案,值得深入体验。