「彻底放弃LM Studio」刷屏一周:翻完四个平台的讨论,劝你换Unsloth前先想清楚

源自121位全网作者

08:48

上周三,一条叫《Unsloth Desktop 横空出世,4 个理由让我彻底放弃 LM Studio》的视频冲上 B 站,三千多播放、133 个收藏,评论区吵得挺热闹。哔哩哔哩这波节奏的源头只有一件事:8 月 11 日,本地大模型圈的老熟人 Unsloth 正式推出了原生桌面应用 Unsloth Desktop,免费、开源,Windows、macOS、Linux 三端都有安装包,官方定位就是直接和 Ollama、LM Studio 抢本地推理这块地盘。知乎

不熟 Unsloth 的先补个课:它大概是开源大模型圈最勤快的存在,几乎每个开源模型发布后,它都能在第一时间拿出不同精度的量化版本。这支团队靠微调框架起家,官方口径是训练速度提升 2 倍、显存占用减少 70%,这次等于把推理、Agent 工具链和训练全塞进了一个桌面应用里。微博

「彻底放弃LM Studio」刷屏一周:翻完四个平台的讨论,劝你换Unsloth前先想清楚

功能清单确实给得足:聊天、联网搜索、Deep Research、RAG、MCP、Python/Bash 沙箱、OpenAI 兼容 API,全塞在同一个客户端里。官网的宣传语写得很直白:在 Unsloth Desktop 里直接获得无限制、私密且免费的联网搜索。Unsloth官网

「彻底放弃LM Studio」刷屏一周:翻完四个平台的讨论,劝你换Unsloth前先想清楚

老本行也没丢:数据导入、无代码训练、训练监控、导出 GGUF,都能在客户端里完成,甚至连图像和视频生成也塞了进去。最出圈的新玩法有两个:一是 self-healing tool call,模型把工具调用格式写坏了,它会自动修复重试,而不是让整条任务链直接断掉,官方口径是工具调用准确率最高提升 50%,注意这是厂商数据,不等于每个模型都能稳定吃到这个提升。小红书二是把本地模型直接接给 Claude Code、Codex 这类编码代理,命令行一条 unsloth start claude 就能跑,还能把本地小模型挂成 subagent 干批量读文件、整理日志的杂活,把云端额度留给更难的推理。

看到这个阵容,你应该能理解为什么有人喊「放弃 LM Studio」了。但我把 B 站、小红书、知乎、微博的讨论翻了一遍,发现舆论分裂得厉害,而且好几条关键论据经不起细看。

传播最广的一条是「速度碾压」:有用户说 5090 跑 qwen3.8-27b,LM Studio 里只有 60 t/s,换到 Unsloth 里同样的设置能上 100 t/s。哔哩哔哩这条评论很抓眼球,但注意两点:这是单个用户的体感,不是控制变量实测,连他自己都说「也不知是有黑科技还是偷偷阉割了什么地方」;同一周还有位做生产部署的微博用户晒出另一组数字——用最新版 llama.cpp 调参后,qwen3.8-27b 的 Q8 量化在 Windows 上跑 76 t/s+,他的结论更狠:跑生产一定要用最新版 llama.cpp,不要用 lmstudio。微博60、76、100,三个数字来自三套量化、三种上下文、两种软件外加裸 llama.cpp,谁也说服不了谁,拿这种孤证做迁移决策,跟看历史业绩买基金差不多。

再看版本进度,这事更需要冷静:GitHub 的发布列表里,8 月 11 日的首发条目还叫 Introducing Unsloth Desktop,到 8 月 20 日已经迭代到 v0.1.801-beta,新加了自动上下文压缩预览和局域网远程访问。GitHub平均一天多一个 beta 版本,功能冲得很猛,但也意味着你装的每一天都可能遇到新 bug。连看好它功能清单的小红书博主都特意提醒:先别把 LM Studio、Ollama 全卸了,CPU 目前主要只支持聊天和 Data Recipes,开启搜索、代码执行和工具修复还会增加延迟。小红书

还有一个容易被忽略的门槛:安装和网络。视频评论区里不少人卡在第一步,有人 desktop 直接装、卡死在下载环节,也有人压根安装不了,第一次安装依赖多、需要稳定的网络环境。哔哩哔哩模型下载同理,评论区里已经有人指路魔搭社区,国内直接下,不用硬磕 Hugging Face。

不过最核心的问题还是需求。B 站评论区两种声音都很真实:有人觉得微调不是人人都需要的功能,也有人说得更直接——那玩意功能太多了根本看不过来,我就只是需要一个简单功能全的推理框架。哔哩哔哩

小红书上一位折腾了半个月又换回 LM Studio 的用户,可能把这事说得最透。他当初离开,是被新推理框架的峰值速度吸引,结果被各种不稳定折腾到疲惫,最后的结论是:对天天要用的本地 AI,性能的上限,远没有稳定性的下限重要。小红书这恰好是 LM Studio 这些年攒下的基本盘:下载模型、聊天、调两个参数,它未必最炫,但下限足够稳。

那到底要不要换?我的判断按四类人拆开说。

纯聊天、推理党:不用换。你的需求 LM Studio 已经接得很稳,Unsloth 的「all in one」对你是过剩功能,beta 风险却是实打实的成本。

本地 Agent 玩家,想把本地模型接进 Claude Code、Codex:值得并行一试。沙箱、self-healing tool call、unsloth start claude 这些确实是 LM Studio 现在没有的东西,但请保留 LM Studio 当退路,新工具翻车时你才有得退。

「彻底放弃LM Studio」刷屏一周:翻完四个平台的讨论,劝你换Unsloth前先想清楚

想微调模型的:Unsloth 是这个领域的真行家,Desktop 把训练门槛拉低了一大截,值得一试。但训练是重活,beta 版上跑到一半出错的风险要自己掂量,重要数据集先备份。

生产环境:别动。真要榨性能,生产用户指的方向是最新版 llama.cpp,而不是再换一个 GUI。

最后留三个值得继续盯的信号。一是 Unsloth Desktop 什么时候出稳定版,按现在这个迭代速度,可能不会太远。二是它会不会补上 macOS 的 MLX 后端,评论区有 Mac 用户说得很直白,mac 上推理首选还是 mlx。哔哩哔哩三是 LM Studio 会怎么接招,Bionic 一直在更新,7 月底刚把月之暗面 2.8 万亿参数的 Kimi K3 接了进去,还公布了云端按 Token 计费的方案。微博

「彻底放弃LM Studio」刷屏一周:翻完四个平台的讨论,劝你换Unsloth前先想清楚

本地大模型这个圈子,太久没出现过能打的挑战者了,这是好事。但「好事」和「现在就换」是两回事。让 beta 的子弹再飞一会儿,等稳定版和社区实测数据齐了再决定,不亏。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章