什么值得买App下载 App ›
连续签到专享现金活动

国内首个能“干活”的大模型开源!百亿参数仅需15GB显存,24G显卡本地跑Agent

大模型现在能帮你干活了,不只是聊天。9月17日,中国电信星辰通用AI实验室开源了Xing4.0-29B-A4B,这是国内首个基于国产算力和框架训练、面向复杂工程任务深度优化的百亿参数大模型。它的核心定位不是问答,而是"执行"——理解任务目标、自主规划步骤、调用工具、把活干完。这种从"会回答"到"会做事"的转变,正是当前大模型产业化的重要方向。对于想在大模型浪潮中找落地场景的开发者,或者希望把AI能力引入企业内网的团队,这个模型值得了解一下。12
这模型到底强在哪?
Xing4.0-29B-A4B采用MoE(混合专家)架构,总参数290亿,但每次激活只有40亿。这意味着它在保持高性能的同时,运行效率大幅提升——就像一家公司只叫相关专家上岗,不用的不加班。原生支持25.6万token上下文,可扩展至51.2万,对需要理解大量背景信息的任务特别有用,比如接手离职员工留下的复杂项目、跨文件规划出差、处理跨模块代码Bug等。32
从官方公布的跑分数据看,SWE-bench Verified得分75.0,Terminal-Bench 2.1得分57.5,均超过同尺寸竞品。在SuperCLUE智能体能力评测中,该模型以93.52分位列第三,与两款头部Qwen模型的差距不足1分。编程相关测试成绩与Qwen3.6-35B-A3B接近,部分Agent测试还更靠前。值得注意的是,它是真正的"全栈国产"——从训练芯片昇腾到国产框架,完整链路都完成了国产化适配。34
普通显卡能跑得动吗?
这是很多开发者最关心的问题。通过4-bit量化,模型显存占用降至约15GB,比FP16省约75%。一张24GB显存的RTX 3090或RTX 4090,就能本地部署长上下文任务。沐曦股份同步宣布,曦云C系列GPU率先完成Day 0适配,实现"上线即适配"。对于想在个人设备上跑Agent应用的开发者,硬件门槛已经大幅降低。34
llama.cpp社区几乎在模型发布同时就提供了支持,包括GGUF转换、IQ4_NL量化、CPU/GPU后端、MTP支持等。实测单张RTX 3090 24GB上,生成速度约151.7 tok/s,提示处理约5213 tok/s。官方提供了OpenAI和Anthropic两套兼容接口,可直接接入Claude Code等主流Agent框架。56
适合谁来用?
从模型定位和能力来看,Xing4.0-29B-A4B主要面向几类场景。代码开发是核心场景——它能接手复杂项目、处理跨模块Bug、按照标准工程流程推进任务。数据分析与办公自动化是另一大方向,用户提出目标后,Agent可自主读取文件、分析数据、调用工具并生成结果。私有化部署能力让它适合对数据安全有要求的企业内网场景,数据不出本地或企业内网。71
对于个人开发者,想在本地环境体验轻量级Agent能力,一张消费级显卡加量化模型就能跑起来。对于企业团队,开源路线加上对主流训练框架(LLaMA-Factory、MindFormers)和推理框架(vLLM、SGLang)的全面兼容,降低了二次开发和集成门槛。模型已上线Hugging Face、GitHub、Gitee、魔搭、魔乐等开源社区,可直接获取。41
总的来看,Xing4.0-29B-A4B在百亿参数级别中展现了不错的智能体能力,跑分表现与头部Qwen模型差距很小,全栈国产化的背景让它在特定场景下有独特优势。如果你的需求是本地跑Agent、写代码、私有部署,同时对数据合规有要求,这个模型值得试用;如果追求的是超大规模模型的通用对话能力,可能还需要考虑其他选项。模型已开源,开发者可直接从各大开源社区获取并体验。

评论

评论区空态插画

当前文章无评论,是时候发表评论了