Copilot官宣跑本地模型、Win11直接开GGUF:刚放弃Copilot+PC的微软改了路线,Ollama党切还是等,一次拆清

源自23位全网作者

20:22

10 月第一周,微软连着打出三张牌:9 月 30 日,Surface 业务副总裁在骁龙峰会亲口确认 Copilot+PC 标识不再使用;10 月 8 日发布会宣布 GitHub Copilot 本月底前支持本地模型推理、端云自动切换;10 月 9 日,Win11 的 AI 框架实验性支持 GGUF 与 ONNX 原生本地推理。对一直靠 Ollama+第三方插件把本地模型接进编辑器的人来说,这不是"系统更聪明了"的新闻,而是一次工具账本的翻转:该切、该等,还是别动。知乎微博知乎

一、一周三件事,先把"真能用的"和"还没影的"分开

时间

发生了什么

现在的真实状态

9 月 30 日

Surface 高管确认 Surface Pro/Laptop 不再叫 Copilot+PC,NPU≥40TOPS+16GB 内存+24H2 那套认证规则作废

已确认,官方采访

10 月 8 日

发布会宣布 Copilot 引入"端云混合推理":后台协调器在云端模型和本地模型之间自动选;Surface Laptop Ultra 本地推理吞吐量"最高" 63 tok/s

官宣,本月底前才上线,你手上还没有

10 月 8 日(同日)

GitHub Copilot CLI 已能从正在运行的 Ollama 中发现受支持的本地模型,检查提供方和地址后可加入并切换

今天就能用,但模型要自己装,且需支持工具调用+流式输出

10 月 9 日

Win11 AI 框架实验性支持 GGUF 与 ONNX 原生本地推理

实验性,离"开箱即用"还有一段

先给结论:“本地推理进入 Windows"是一条分四档的时间线,不要把"月底前"当成"已到账”。 真正立刻能吃到的,只有 Copilot CLI 接 Ollama 这一口。知乎

Copilot官宣跑本地模型、Win11直接开GGUF:刚放弃Copilot+PC的微软改了路线,Ollama党切还是等,一次拆清

二、为什么突然转向:Copilot+PC 的死和 GGUF 的转正,是同一本账

微软 2024 年给 Copilot+PC 立的规矩,本质是用 NPU 当门票卖硬件溢价。三年后这盘账算崩了:招牌功能 Recall 因隐私争议胎死腹中;NPU 成了英特尔和 AMD 新处理器的标配,溢价卖不动;Windows Latest 今年 7 月的报道显示,推出三年后 Microsoft 365 Copilot 的使用率仍低于 4.5%,每周打开的用户只有 1%。知乎

而真正卡本地模型体验的从来不是 NPU,是内存和显存。这也是过去两个月大家排队算内存账的原因。知乎

所以这次"拥抱"GGUF 不是微软突然热爱开源:NPU 故事卖不动了,云端 token 成本还在烧(6 月就有微软考虑往 Copilot 里塞更便宜的模型压推理成本的消息)。"混合推理"对消费者是隐私和免费的卖点,对微软是降本和留存的工具。 看懂这一层,你才不会把它读成"本地 AI 时代来了",而是读成"本地模型第一次成为大厂成本结构里的正式组件"——这才是这篇内容真正的增量。微博

三、先泼三盆冷水,再谈值不值

第一盆:63 tok/s 不是你的机器。 那是 Surface Laptop Ultra 顶配设备的官方"最高"值。有用户实测在 M5 上跑 Gemma4 26B A4B,纯生成 30-35 tok/s,而 Agent 型任务会被 prefill 拖垮——上下文越长首字越慢。中端独显或 32GB 内存的 Windows 机器跑 20B+ 级模型,数字只会更保守。短问答和长上下文编码是两个世界,别拿发布会峰值预估你的工位机。IT之家微博

第二盆:选本地模型 ≠ 离线。 GitHub 的说明写得很清楚:选择本地模型不会自动开启离线模式,也不会自动关闭遥测;仓库内容在哪些步骤发出去,取决于提供方配置、联网工具和其他服务。处理敏感代码前,先把数据流查一遍——这是企业用户最容易踩的坑,也是社区讨论里最少被提起的一条。知乎

Copilot官宣跑本地模型、Win11直接开GGUF:刚放弃Copilot+PC的微软改了路线,Ollama党切还是等,一次拆清

第三盆:“Win11 支持 GGUF” ≠ 你现在就能通过系统跑 llama.cpp 的模型。 知乎上 6800 多次围观的技术分析讲得很直白:这波等于"钦点"了 llama.cpp,而它只有 Vulkan 后端、连 DX12 后端都没做;微软走自家 API 接入,大概率是为将来换回自己的框架留后手。ONNX 的"通用"要各家后端跟进才有性能,历史经验是慢半拍。等 Insiders 实装、芯片与模型清单公布之前,这条利好只能算预收款。知乎知乎

四、对号入座:切、等、还是别动

  • 已经在用 Copilot CLI 或 VS Code 接本地 API 的人:切。 这是今天就能吃到的部分,成本接近零:把支持工具调用+流式输出的 MoE 小模型挂进去,补全、解释函数、写边界测试这类小任务走本地,复杂跨模块修改仍留给云端。同一个入口按任务分模型,省的是等待和积分。

  • 有 12-16GB 显存或 32GB 内存 Windows 机、还在自己搭环境观望的人:等到月底。 盯三件事:混合推理在哪个渠道先上线、你的芯片型号在不在支持列表、路由策略能不能手动指定"哪些任务走本地"。能手动调,插件方案就可以退役;只能全自动黑盒,Ollama+第三方工具链仍是主力。

  • 拿 NPU 办公本、指望"系统自带本地模型"免 token 的人:别急。 NPU 已经不是认证门票,实验性支持不等于可用。这类机器现在跑本地大模型的第一瓶颈仍是内存容量,不是框架。

  • 准备为"这次更新"换机的人:尤其别。 这波是软件路线变化,够不够用还是显存和内存的账——上一波为 816B 冲动上两台 Mac Studio 的教训还热乎着,别为月底一个还没推送的更新动预算。

五、"本地不划算"的老共识,现在怎么算

社区流传很广的判断是:大部分人本地跑模型经济上不划算,自己跑的意义就两条——用无限制模型、数据完全留在本地,说白了是买"自由"。这条共识没有被这次更新推翻,但被改写了半格:如果 Copilot 的路由能把一部分小任务分给本地,云端 token 消耗会实打实降下来——小红书"本地部署到底比 API 省钱吗"那篇 109 赞、73 条评论的拉扯,正在从"二选一"变成"混搭"。有用户的混合方案甚至不是为省钱:48GB 内存旧机器常驻一个 35B MoE,专门处理合同、薪酬、源码这类不能出机器的任务。但也别高估本地这一半:prefill 瓶颈说明重活仍要丢云端。这次决策的正确问法不是"要不要用本地替代云端",而是"本地的口子值多少"。微博小红书知乎

Copilot官宣跑本地模型、Win11直接开GGUF:刚放弃Copilot+PC的微软改了路线,Ollama党切还是等,一次拆清

六、本周动作 + 月底观察清单

现在可以做:

  1. 用 Copilot CLI 的话,确认本机 Ollama 里有支持工具调用+流式输出的模型,先挂进去只跑补全和解释类小任务。

  2. 涉及公司代码,先在团队内讲清楚"本地≠离线",把遥测和提供方白名单检查完再上路。

月底盯这几个信号,缺一个都别急着下结论:

  • 混合推理是否真的推送到了 VS Code / Copilot 应用,先走 Insiders 还是正式版;

  • 官方支持的芯片与模型清单里,有没有你那台;

  • 本地/云端路由能否手动干预,还是纯黑盒自动;

  • Win11 的 GGUF 支持何时从"实验性"转正,接口是否开放第三方模型导入;

  • 各家开源模型发布时是否同步首发 GGUF 权重——那才是"官方路线=生态标准"的真正信号。

微软绕了三年,终于承认本地推理的入场券不是 NPU 而是内存和开源格式。对 Ollama 党,这是好消息;对准备掏钱换机的人,这是"再等等"的坏消息。你现在给 Copilot 挂了本地模型吗?最想丢给本地跑的是什么任务?如果 63 tok/s 是微软给出的上限,你能接受的本地最低速度是多少——评论区报一下你的配置和数字。

内容由AI生成

精选参考来源

1. 【GitHub Copilot 不再纯云端 AI 模型:Surface Laptop Ultra 本地推理吞吐量最高每秒 63 词元】太平洋时间 10 月 7 日上午 10 点(北京时间 10 月 8 日凌晨 1 点)在美国旧金山举办的发布会中,微软宣布 GitHub Copilot 将在本月底前支持本地 AI 模型推理,开发者可在云端模型与设备端模型之间自……

2. 在今天的Windows与Surface发布会上,微软正式公布了Windows全新的“混合智能”(Hybrid Intelligence)发展路线,计划让AI模型能够根据不同任务的需求,在本地计算与云端

3. 吹了两年半的Copilot+PC,还是被微软放弃了

4. 微软升级Win11AI框架支持GGUF与ONNX本地推理,意味着什么?

5. GitHub Copilot 将支持本地 AI 模型推理,会带来哪些改变?

6. 微软升级Win11AI框架支持GGUF与ONNX本地推理,意味着什么?

7. 对大部分人来说,本地运行大模型从经济上讲都是不划算的

8. 本地部署大模型,真的比API更省钱吗?

9. PerplexityComputer推出混合推理功能,本地与云端任务分配如何兼顾隐私与效率?

10. VSCode Insider 接入本地模型 OpenAI 兼容 API 实测

11. 大模型告别信仰时代:微软省钱账本上的DeepSeek

12. 【2026最新】Ollama下载+安装+本地模型部署+避坑指南一篇搞定

13. 私人电脑本地部署大模型,再把大模型装进WorkBuddy中,一次部署,长期免费使用,还可以共享

1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章