阿里Qwen3.6开源：35B智能体模型，消费级显卡就能跑

近期，阿里通义千问团队开源了Qwen3.6系列的第一个模型——Qwen3.6-35B-A3B（在阿里云上称为Qwen3.6-Flash）。这一举动在开发者社区引发了广泛关注，因为它在模型能力和部署门槛之间提供了一个引人注目的新选项。

核心特性：350亿参数，30亿激活

Qwen3.6-35B-A3B最核心的特点是其采用的混合专家（MoE）架构。简单来说，可以想象一个公司有多个专家部门，但每次处理任务时，只会调用与该任务最相关的几个部门来工作，其他部门则处于待命状态。这款模型总参数量为350亿，但在实际进行推理计算时，仅激活其中的30亿参数。这种“稀疏激活”的设计旨在兼顾大模型所具备的丰富知识和能力，同时大幅降低实际运行时的算力消耗和推理延迟，实现“用更少的资源干更多的活”。

此外，模型在底层架构上也进行了优化，例如采用Gated DeltaNet与标准注意力交替堆叠的混合注意力机制，以提升处理长文本序列的效率和能力。该模型原生支持262K（约26万）token的上下文窗口，并通过Apache 2.0许可证完全开源。

能力表现：主打智能体编程与多模态

根据官方公布的数据和社区测试，Qwen3.6-35B-A3B在多个基准测试中表现出色。例如，在代码能力测试SWE-bench上得分73.4，在终端操作能力测试Terminal-Bench 2.0上得分51.5，多模态理解能力MMMU得分81.7，部分指标甚至超过了前代更大规模的模型或其他同类开源模型。

官方将其定位为“智能体编程”（Agentic Coding）模型，强调其在处理真实世界开发工作流中的实用性，如工具调用、仓库级代码理解和持续迭代等。同时，它是一款原生的多模态模型，能统一处理文本和视觉信息，这使得它在理解UI截图、识别图表、处理前端视觉任务等方面比纯文本模型更具优势。

模型还提供了一些实用的功能。它默认启用“思维模式”（Thinking Mode），在输出最终答案前会先生成一段推理过程，方便用户理解其决策逻辑。这一功能也可以通过参数关闭，以适应需要简洁快速回答的场景。同时，新增的`preserve_thinking`功能可以在多轮对话中保留历史思维链，这对于需要连续决策的复杂Agent任务尤为重要，可以提升任务执行的一致性并减少重复推理。

部署门槛：消费级硬件即可运行

Qwen3.6-35B-A3B的一大亮点在于其对消费级硬件的友好性。经过Q4_K_M量化后，模型文件大小约为21GB。这意味着，拥有24GB显存的台式机（如RTX 3090、RTX 4090）或拥有32GB及以上统一内存的苹果Mac电脑，就可以在本地流畅运行该模型。这大大降低了开发者和AI爱好者体验和使用先进大模型的硬件门槛。

根据网友实测，在RTX 4090上，其输出速度可达100 tokens/s以上，带来了接近商业API的流畅体验。

对于普通用户，目前主流的本地部署方式主要有两种：

1. Ollama：这是一个流行的本地大模型管理工具，支持Windows和Mac。用户只需通过一行简单的命令（如 `ollama run qwen3.6:35b-a3b`）即可自动完成下载和部署，非常便捷。

2. LM Studio：提供纯图形化界面，对新手更为友好。用户可以在软件内搜索模型名称，选择合适的量化版本下载并加载使用。

用户反馈与社区观点

从用户的实际测试和反馈来看，Qwen3.6-35B-A3B的表现在多个方面得到了肯定。首先是其“快”的特性，得益于MoE架构，模型的响应速度和生成速度都非常出色，尤其适合本地部署场景。其次是其在Agent场景下的价值，更强的指令遵循和工具调用能力，使其成为构建本地智能体的有力工具。

当然，社区的反馈也并非全是赞誉，其中也包含一些理性的讨论和期待。有用户认为，虽然MoE模型在推理效率上优势明显，但在微调和与现有推理引擎（如vLLM）的适配上可能比传统的稠密模型更复杂，需要社区生态进一步成熟。同时，量化版本虽然降低了部署门槛，但在处理极其复杂的任务时，与全精度版本相比仍存在一定的性能差距。

此外，还有一部分开发者表示，他们更期待阿里开源Qwen3.6系列的稠密模型（如可能存在的27B版本），因为稠密模型在某些特定任务微调和生态兼容性上更具优势。一些用户也对该模型在阿里云百炼平台上的API定价表示了关注。

总结

阿里开源的Qwen3.6-35B-A3B模型，是当前开源社区一个极具竞争力的选项。它的价值不仅在于优秀的性能跑分，更在于它通过创新的MoE架构，在模型能力和部署成本之间找到了一个有效的平衡点，让更多开发者和普通用户能够在消费级硬件上运行一个接近闭源水平的、以智能体编程为核心的多模态大模型。虽然在生态适配和模型选择上仍有一些讨论空间，但它无疑为本地AI应用的发展和普及注入了新的活力。