11月21日凌晨,本地党的群聊又炸了:Mira Murati(前OpenAI CTO)的Thinking Machines开源了Inkling 2 Mini,口号是那句大家都听麻了的话——“26B,笔记本就能跑”。被"手机能跑30B"教育过一轮的人,第一反应大概率是:这句话掺了多少水?小红书
这波官方把"能跑"和"坑"都写得挺坦白,坑甚至就写在模型卡里。
这是个什么模型
总参数26.4B,每个token只激活3.4B——但中间12层对每个token循环跑3遍,算上循环等效激活5.4B、计算深度到48层。物理24层的MoE,每次从128个专家里选8个;文本+图像输入,标称最高1M上下文。哔哩哔哩微博

对本地党最关键的是前20层原生4-bit(NVFP4)训练,后4层MXFP8。意思是官方发布即量化,你下到的就是低比特版本,不用第三方量化再赌掉点。主权重单文件19.53GB,整仓约20GB,Apache 2.0协议,研究和商用都不设门槛。小红书
跑分确实猛
按官方模型卡的横评,100B以下开源模型里:DeepSWE v1.1拿到48.2%(同场Qwen3.8-27B是42.2%)、SWE-bench Verified 79.2%(仅bash)、Vibe Code Bench 77.9%,编程和Agent榜基本第一。AA Index 20.1,与Qwen3.8-27B持平。斯坦福Hazy Research和Scaling Intelligence Lab在DGX Spark上测的每瓦智能得分0.703,明显高于同场的Qwen3.6-35B-A3B(0.430)。官方演示也有戏:飞行模式、一台M5 Pro 48GB笔记本,几分钟搭出能玩的3D飞行模拟器。哔哩哔哩小红书小红书

但Limitations那段比跑分表值钱
官方在模型卡里自曝的三件事,值得逐条看:
循环只提升多步推理和长文检索,不会凭空多出闭卷记忆——AA-Omniscience事实性掉了8.6分;
能力发挥高度依赖外部搜索和工具调用;
多轮复杂约束遵循MultiChallenge 50.0%、ComplexConstraints v1.1 33.4%,都低于Qwen3.8-27B。哔哩哔哩
翻译成人话:把它当会提前想几步的编程和Agent工具,别当翻起来更快的百科。主用事实问答、长文档带一堆格式约束的,别急着换。

"笔记本能跑"的真实门槛
官方口径是32GB及以上内存的Mac,Ollama、Exo Labs、Unsloth的GGUF量化发布当天就有;NVIDIA这边主打DGX Spark。Unsloth随后放出更小口径的量化,社区传16GB内存也能塞——这是社区声音,还没有公开实测背书,别当官方门槛。小红书小红书
B站讨论区点赞最高的一条问得很实在:普通笔记本跑起来到底几个tok/s?官方跑分表里真没这行。3.4B激活听着省,但算上循环,等效规模到了5.4B,省下来的内存够不够换回速度,只能等第三方实测。

谁今天就可以拉一份
拿本地模型写代码、跑Agent、配搜索和工具的:值得今天装,20GB包+Apache 2.0,试错成本是近半年最低的一档;
8GB/16GB内存或指望它答事实题的:先看两天实测再动手;
在用Qwen3.8-27B干复杂约束文档的:原地不动。
"19.5GB=笔记本能跑"这话你确实听过很多次。这次不一样,官方自己先把短板写了,还写在了跑分旁边。速度那行空白,等实测来填。
当前文章无评论,是时候发表评论了