当前位置:
AIGC文章详情

Ollama、LM Studio、Chatbox都装了?翻完官网和三个平台的讨论,发现它们根本不是一类东西

源自111位全网作者

03:59

最近本地大模型圈有点热闹:Qwen3.8-27B 刚开源就冲上 Ollama 趋势榜第一,LM Studio 家的 Bionic 上周刚加完 Skills,紧接着就更新到了 1.0.9。一波新用户涌进来,问得最多的不是"跑什么模型",而是"装什么软件"。不少人的第一反应是都装上反正不吃亏,但社区早就有人劝退了,B站有支视频标题直接写着"新手真的别三个全装了"。哔哩哔哩

名字比你以为的还多。今天打开 LM Studio 官网下载页,摆着的是三样东西:LM Studio 0.4.21、Bionic,还有一个给服务器用的 llmster,官方对 LM Studio 本体的定位是"在你的电脑上玩转 LLM,既有聊天界面,也提供可编程 API"。LM Studio官网再加上 Ollama 和 Chatbox,新手一上来要面对五个名字。但翻完官方说明和知乎、B站、小红书的讨论,我的结论其实很简单:这五个不是五款互相竞争的产品,本质上只有两种角色。

Ollama、LM Studio、Chatbox都装了?翻完官网和三个平台的讨论,发现它们根本不是一类东西

发动机和方向盘:一句话搞懂两种角色

跑本地大模型这件事,可以拆成两层。一层是真正负责把模型权重加载起来、算出每一个 token 的"发动机",Ollama、LM Studio、llmster 都属于这一层,而且它们用的是同一套底座。知乎上有句话说得很透:Ollama 和 LM Studio 本质都是基于 llama.cpp 的。知乎这决定了一个很重要的事实:这几款工具的推理速度差距很小,快不快主要看你的硬件和模型量化档位,不是看你装了哪个。

另一层是负责跟你打交道的"方向盘"——聊天界面、文档和代码工作区。LM Studio 自带的聊天界面、Chatbox、Bionic 都属于这一层。Chatbox 是最典型的"纯方向盘",它自己不运行任何模型,得连上模型服务才能用。哔哩哔哩不少人装完 Chatbox 发现不能聊天,原因几乎都是没装发动机。Bionic 稍微特殊:它长着一副"干正事"的 Agent 工作区样子,但官方明确写了它由 LM Studio 的运行时驱动,底层还是 MLX 和 llama.cpp。LM Studio官网所以它可以理解成:LM Studio 的发动机,加了一个 Agent 车壳。

五个名字,逐个说清

LM Studio(当前版本 0.4.21):一体机。图形界面里搜模型、一键下载、调参数、直接聊天,同时还能开一个本地 API 服务给别的软件调用。对不想碰命令行的人来说,这是折腾成本最低的起点。

Bionic:Agent 新人。7 月 16 日正式发布,官方发布博客的开场白是"这是 LM Studio 进化史上最大的一步",Bionic 是一个为开源模型而生的 AI Agent。LM Studio官网它主打让本地模型写文档、写代码、做自动化,还带完全本地运行的实时语音转写。更新节奏快得吓人:8 月 17 日刚加上 Skills,官方说法是"教 Bionic 学会可重复执行的技能"。LM Studio官网8 月 18 日就又推了 1.0.9 修复版。小红书有用户专门澄清过最容易产生的误会:Bionic 不是 LM Studio 改名,是一款独立的 App,两个要分开装。

Ollama、LM Studio、Chatbox都装了?翻完官网和三个平台的讨论,发现它们根本不是一类东西

Ollama:为被调用而生的后台服务。Ollama 官网对自己的定位很直白:你可以用 Ollama CLI 启动 Agent,也可以让各种编辑器和框架通过 Ollama 的 API 接入。Ollama官网它没有花哨界面,强项是生态和稳定——各种第三方软件接本地模型时,默认先找 Ollama。知乎上那个"为什么都在用ollama而lmstudio却更少人使用?"的问题,评论区盖了 81 层楼,争的就是这个生态位。

Chatbox:只管聊天的客户端。它负责聊天体验和多设备同步,发动机得靠 Ollama 或 LM Studio 提供。

llmster:不是给普通用户的。这是 LM Studio 从 0.4.0 开始拆出来的无界面守护进程,官方的说法是:它就是 LM Studio 桌面版的核心,只是打包成了不依赖图形界面的服务器原生形态。LM Studio官网面向服务器、云实例和 CI 场景,桌面用户知道有这东西就行。

按目的选,别多装

你的需求

装这个就够

只想离线和大模型聊天,不想折腾

LM Studio 一个

想把模型接进别的软件(聊天客户端、笔记、自动化脚本)

Ollama,聊天体验有要求再加 Chatbox

想让本地 AI 干正事:写文档、写代码、做 PPT

Bionic

已经有发动机,想要更好的聊天体验/多设备

只加 Chatbox

部署到服务器、CI

llmster

最常见的一种浪费,是 LM Studio 和 Ollama 一起装。它俩都是发动机,互相能干的活(提供本地 API)基本重叠,而模型目录互不相通——同一个模型在两边各下一次,磁盘就占双份。以这周最火的 Qwen3.8-27B 为例,Ollama 上默认版本标注就是 18GB、256K 上下文。Ollama官网下两遍就是 36GB,够心疼的。

Ollama、LM Studio、Chatbox都装了?翻完官网和三个平台的讨论,发现它们根本不是一类东西

社区踩过的坑,你别再踩

速度跟装哪个软件没关系。底座都是 llama.cpp,差别在体验不在快慢。微博上有开发者晒过实测,用最新版 llama.cpp 直接跑 Qwen3.8-27B 的 Q8 量化,干到 76 t/s,还留了句"跑生产不要用 lmstudio"——那是追求极限性能、愿意啃命令行的玩法,普通用户看界面顺眼选工具就行。

"AI 电脑"的 NPU,暂时指望不上。不少人冲着 AI PC 的 NPU 去买,以为能给本地大模型加速。现实很骨感:截至今年 3 月,知乎还有回答说得直白,NPU 在应用层面还是个"美丽小废物",LM Studio、Ollama 都不支持所谓的 NPU。知乎选硬件看显存和内存,别为 NPU 多花钱。

接第三方工具报错,先换发动机再怀疑自己。有知乎用户抓包对比过 OpenAI 和 LM Studio 的接口响应,发现 LM Studio 的实现并不标准。知乎某些软件连不上未必是你操作的问题,换 Ollama 的接口试试再排查。另外有人说同一个模型在两个软件里效果不一样,先别急着站队——大概率是两边下载的量化版本、默认参数不一致,把版本对齐再比。

模型文件别乱搬,大版本更新前留个心眼。社区里有人实测过,LM Studio 在线下载的模型没问题,但从网站手动下载再复制到模型目录,加载时经常会崩溃。知乎优先用软件内下载。还有 B站评论区反复出现的血泪反馈:LM Studio 每次版本更新完,本地模型目录会被清空,一直有人在反馈,也不知道最新版修复没有。哔哩哔哩花一下午下的模型,大更新前最好备个份。

16G 内存先别碰 27B。上面那个默认版本 18GB 的 Qwen3.8-27B,光模型就超过了 16G 内存机器的上限。先从 Qwen3.8-9B 这个量级上手,跑通了、确认有需求了,再考虑往上加。

最后

只想聊天装 LM Studio,接软件装 Ollama,让 AI 干活装 Bionic,体验不够加 Chatbox——本地大模型工具名字再多,角色只有两种:发动机和方向盘,想清楚自己缺的是哪个,就不会多装。接下来值得盯两个信号:Bionic 的 Skills 生态能不能在发布一个月后真正长起来,以及 LM Studio 和 Bionic 这套"双 App"路线会不会合并,这两个变化都会直接改写今天的选择答案,有进展我们随时跟进。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章