这周本地大模型圈,绕不开一个新名字:Unsloth Desktop。
不熟悉 Unsloth 的先补个背景:这团队是做模型微调框架起家的,官方宣传"训练速度比常规快 2 倍、省 70% 显存",它家出的 GGUF 量化版本也早就是社区主流选择之一——8 月中旬有人单卡 5090 跑 DeepSeek-V4-Flash 正式版,用的就是 Unsloth 的 UD-IQ3_XXS 量化版。哔哩哔哩哔哩哔哩8 月 11 日英伟达宣布和 vLLM、Ollama、llama.cpp、LM Studio、Unsloth 一起合作 Nemotron 项目时,它也在名单里。知乎所以这不是什么小作坊入场。
然后看这周的时间线。8 月 13 日,Unsloth Desktop 的介绍视频被搬上 B 站。哔哩哔哩8 月 17 日,知乎出现资讯,说它"直接和 Ollama、LM Studio 抢占本地 AI 模型推理市场"。知乎8 月 19 日,B 站一条《Unsloth Desktop 横空出世,4 个理由让我彻底放弃 LM Studio》的视频,上线不到一天,1700+ 播放、66 收藏、19 条评论。哔哩哔哩
宣传点确实诱人:免费、开源,Windows、macOS、Linux 三平台全支持,把推理、微调训练、Agent 工具链塞进一个桌面应用,还能跑 LLM、扩散图像/视频、MLX、GGUF 和音频模型——一个应用包圆所有本地 AI。知乎哔哩哔哩

但我把 B 站、知乎、小红书的评论区翻了一遍之后,发现实际情况和视频标题差得有点远。
先泼冷水:Beta 版的三笔账
第一笔是安装门槛。那条"放弃 LM Studio"视频的评论区,热评几乎被安装问题承包了:有人说"desktop 直接装,卡死在下载环节",UP 主现身说法"吃我 3.4G 流量";有人说下载网络"比 lm 还差",还有人直接"压根安装不了"——楼里的回复基本指向同一个原因:首次安装要拉一堆环境依赖,网络环境不过关就得上梯子。哔哩哔哩对国内用户来说,这不是小坑,是入场券。
第二笔是功能过剩。评论区有用户说得直白:"那玩意功能太多了根本看不过来,我就只是需要一个简单功能全的推理框架。"还有人补刀:"微调不是人人都需要的功能。"这话不好听,但很真实——对只想要个聊天框的人来说,多出来的每个功能都是多余的复杂。
第三笔是本地化。有持续关注的用户反馈,这应用早前的版本中文支持就有问题,后来韩文也出过问题,“毕竟不是长处”。
再说真的好的一面
底层不糊弄。评论区多位用户确认,Unsloth Desktop 的推理底层走的是 llama.cpp——这意味着它的推理速度下限就是当前本地推理的第一梯队,不是套了个慢壳子。有人的原话是:“llama.cpp 的底层,应该目前最快的吧”。哔哩哔哩(这是社区观点,不是官方数据,但方向上没争议。)
功能是真的全。按知乎 8 月 17 日的资讯,它支持图像、视频、语音各类模型,能根据本地设备情况推荐最合适的模型;通过 Unsloth Start 可以把 Claude Code、Codex 这类 AI 编程智能体接到本地模型上;还内置网页搜索、代码执行、工具调用——Python 和 Bash 命令放在沙箱里跑,工具调用失败会自动修复,官方宣称能把工具调用准确率提高 50%。知乎

模型格式支持也比 Ollama 宽。Ollama 是今年 4 月的 0.19 版本才正式支持 Apple 的 MLX 框架,Unsloth Desktop 上来就是 GGUF、MLX、扩散、音频一起端。小红书
但要不要换,得先想明白一件事
这三个工具根本不在同一个维度上,平铺对比本身就是个伪命题。
知乎上有个 58 万浏览的回答把这事说透了:Ollama 是引擎,LM Studio 是应用。知乎
Ollama:MIT 开源,GitHub 约 17.8 万星,最新版本 v0.32.9 在 8 月 11 日还在更新。它装完没有图形界面,你得到的是一条命令和一个本地 API 服务。它的真实身份是本地模型生态的后端底座——接编辑器、接脚本、接 RAG 知识库、给别的程序当 API,全靠它。教程里"都在推 Ollama",推的其实是这个被所有人依赖的接口。
LM Studio:闭源,但 2025 年 7 月起个人和商用都免费,下载模型不用账号。模型市场、聊天框、量化版本选择、显存占用预估全在一个窗口里,适合不碰命令行的终端用户。
顺带还有两位:Open WebUI(约 14.9 万星)是第三类,自建网页界面,本身不跑模型,得接在 Ollama 这类 API 上;Jan 是第四类,Apache 2.0 开源的 GUI,Windows 安装包只有 55MB。

那 Unsloth Desktop 算什么?从功能组合看,它是第五类:工作台。它不满足于"把模型跑起来",而是想把微调、Agent、多模态创作全装进一个应用里。
所以"Unsloth Desktop 对比 LM Studio、要不要放弃 Ollama"这种问法本身就不成立。真正的问题是:你需要的是工作台,还是引擎,还是一个安安静静跑模型的窗口?
三类人,三个结论
第一类:本地微调党——值得第一时间试。 如果你一直想玩 LoRA 微调,之前被 Unsloth 的命令行和环境配置劝退,那桌面版等于把门槛拆了,这是它家老本行,Ollama 和 LM Studio 压根没有这个功能,没有可比性。
第二类:Agent 玩家和多模态玩家——可以试,但别卸载现役工具。 你想把本地模型接给 Claude Code、Codex 当编程后端,或者想在本地跑图像、视频、音频模型,Unsloth Desktop 目前整合度最高。但 Beta 版的安装和网络问题是真实存在的,建议保留现有 Ollama 或 LM Studio,双装并行,等正式版稳定再谈迁移。

第三类:普通聊天和 RAG 用户——别换。 你的用法就是聊天、写作、挂个本地知识库,那最稳的组合没变:纯聊天用 LM Studio,要给别的工具当后端用 Ollama。功能多对你来说等于 bug 多、占盘大、出问题没处查。而且 Ollama 自己进化得很快——4 月加 MLX,8 月中旬还在发新版,没必要现在换枪。
真要上手,这份避坑清单先收好
磁盘留足。安装包下载就 3.4G,再加上模型文件,系统盘紧张的先挪位置;
网络先过关。首次安装要拉大量依赖,下载卡死、安装失败,先解决网络再怀疑工具;
别急着替换。Beta 阶段随时可能改交互和模型目录结构,把它当"第二方案"并行用,别当"唯一方案";
端口别裸奔。8 月中旬知乎有安全实测:Ollama 默认无认证,公网一暴露攻击面全开。知乎本地推理工具都一样,只在本机用;要局域网共享,先把认证配好。
最后说两个值得盯的信号
一是 Unsloth Desktop 的迭代速度。官方中文文档已经上线(unsloth.ai/docs/zh/desktop)。{{{CUSTOM_HTML_TAG_14}}}社区反馈的安装问题集中在这一周,大概率会被快速修复。值不值得正式迁移,看它接下来一两个版本。
二是整个生态都在"工作台化":LM Studio 7 月推出了独立的 Agent 产品 Bionic,Ollama 一路在加 MLX、联网搜索。只会"跑模型"的工具会越来越少,本地大模型的工具选择题,正在从"哪个能跑起来"变成"哪个干活链路顺"。
工具战争刚开始,不用急着站队。你已经在用 Unsloth Desktop 了?评论区聊聊你踩的坑。