9月17日晚上17:38,正点原子官方账号在B站发布了新品——RK1828 M.2高性能AI算力模组,宣传语相当直接:“告别云端高额Token费”。 20TOPS算力,端侧大模型、工业视觉、本地AI部署,开箱即用。哔哩哔哩
一个印象里还在"手把手教你点灯"的STM32一哥,现在开始卖端侧AI算力卡了。评论区比发布内容本身更有意思:有人问"什么时候能跑千问27B",有人说"4B模型还是稍微弱了点",有人直接泼冷水"算力太低了没啥用",还有人追问"接Codex写代码效果怎么样,中小项目搞得定吗"。哔哩哔哩
这篇就把三个问题掰开说清楚:这块卡到底是什么、跑模型的真实水位在哪、什么人值得掏钱什么人不用蹲。
一、先把"算力模组"祛魅:它不是显卡,也不能单用
RK1828本身是瑞芯微的AI协处理器,2025年7月17日瑞芯微第九届开发者大会上,与RK1820一起作为公司首颗端侧AI大模型协处理器发布,官方定位"业内首款3D堆叠封装AI协处理器"。 规格上,计算层是2×4多核Mesh结构,上面叠1~2层DRAM存储层;瑞芯微公布RK1820配备2.5GB、RK1828提升到5GB的片内高带宽DRAM,算力都是20TOPS档位,相比RK3588带宽提升约30倍,支持W4A16等大模型数据格式,可满足本地部署3B、7B级模型及多模态需求。微博知乎
注意关键词:协处理器。WAIC2026上瑞芯微工程师的说法很直白,“你可以把它当成一个NPU,需要搭配主控来用,RK3588+RK1828是我们的黄金组合”。 第三方UP主Dominick大明的正点原子RK1828开箱视频评论区里,就有观众直接问"这个1828能单独用的吗"——不能。它是M.2形态,靠PCIe挂在主控板上,自己没有CPU,离了宿主它就是一块砖。知乎哔哩哔哩
正点原子这次做的事,是把这颗芯片做成标准M.2模组,配好文档——语雀上的RK1828算力模组资料今年7月就已经出现在第三方开箱的置顶链接里。哔哩哔哩
发布视频标题里那句"补齐Linux端侧AI短板",说的就是他们手里RK3568、RK3588、刚发布没多久的T153这些Linux板子——RK3588内置NPU只有6TOPS档位,此前这些板子跑不了大参数模型;而这块模组要发挥算力,还取决于具体板子上有没有可用的PCIe通道M.2槽。微博
二、20TOPS的真实水位:卡在带宽,不卡在"算力数字"
评论区"算力太低了没啥用"的说法,混淆了两件事。大模型推理是内存带宽的活,不是纯算力的活。 云端GPU跑推理时大量时间其实在等数据搬运,瑞芯微选3D堆叠DRAM就是冲着这个瓶颈去的——高带宽片内内存,才是这颗20TOPS芯片敢喊"端侧大模型"的底气。
各家实测/宣称的数据拼起来,水位大致是这样:
单卡文本生成:迅为公开的数据显示Qwen2.5-3B输出破百Token/s,Qwen3-8B稳定53+ Token/s(厂商实测,性能模式下)。哔哩哔哩
模型容量:眺望电子把RK1828和Hailo-8、DEEPX DX-M1、爱芯元智AX-M1四款主流M.2算力卡在RK3588平台上逐一调通后给的结论是——Qwen2.5-7B int4量化约3.5GB,RK1828是四款里唯一有官方背书能跑7B的。知乎
视觉理解:瑞芯微官方在德国嵌入式展演示过RK3588+RK1828基于Qwen3-VL-2B的多路视频分析方案,可同时支持4路视频并发分析,响应最快仅需0.5秒。微博
向上堆:7月瑞芯微预告了RK182X SDK 1.1.0版本升级,核心是多卡级联推理,可适配Gemma4-12B及Qwen3.5-9B量级。 9月,飞凌嵌入式宣布4卡级联在端侧跑通27B/31B大模型,爱派派智能科技发布了4卡本地跑通Qwen3.8-27B的完整部署方案。微博知乎知乎
所以"能不能跑满血DeepSeek"这个问题有了明确答案:单卡跑的是3B~8B量化档位的"干活模型",写摘要、答文档、做视频结构化分析够用;想要27B级中文综合能力,你得插四张卡+一台RK3588级主控,成本直接×4。问"接Codex写代码"的朋友,建议先认清目标模型规模再下单。
另外两个社区里的冷判断也值得记录。大明视频评论区有人说:“在等1860,1828的架构还是老了点,不支持多核推理这点是硬伤”。 而瑞芯微路线图上的解法确实是下一代:RK1860算力提到64TOPS,可支持最高13B参数模型,有2.5GB、5GB、10GB不同存储版本,再往后还有250TOPS的RK1899规划,发布时间尚未公布。 也就是说,现在上车买的是这一代的性价比窗口。哔哩哔哩知乎
三、插之前,三个硬性前提
别被"插上就变AI超算"的营销话术带节奏,实际部署的坑基本集中在这三处:
主控必须支持。 你的板子/主机得有PCIe通道的M.2槽,且跑的是带RKNN3 SDK的Linux系统。迅为的演示方案就是算力卡搭配自家iTOP-3588/3576开发板,PCIe连接,RKNN3 SDK跑通模型部署。正点原子生态里对应的同样是RK3588这类带PCIe M.2扩展的主控板,具体到你的那块板子有没有引出可用的PCIe通道,下单前对着接口表核一遍;迅为、创龙、Firefly也都出了同款芯片的卡或套件——不是只能配原子家,但得是带PCIe主控的平台。哔哩哔哩
供电和上电顺序。 参与RK182X应用测试的工程师明确提醒:RK1828需要外部12V供电,上电顺序是先RK1828、再RK3588。普通M.2槽给不了这个电,很多"插上没识别"的死在这里。知乎
环境不是装完就好。 创龙的部署实操从转接板拨码开关配置讲起,然后是匹配Linux 5.10/6.1版本的系统镜像制作,再到把Qwen2.5-7B模型转成RKNN3格式加载运行,每一步都有坑位记录;所谓"开箱即用"指的是跑官方demo固件,自己换模型仍然要过转换这一关。知乎
四、"省Token费"这笔账,怎么算才对
正点原子这次的卖点把目标人群指得很准:已经在用云端API、月账单被高频调用撑起来的人——文档问答、客服机器人、监控分析这类重复调用场景,模型跑在本地后Token成本归零,数据还不用出域,这是工业客户的真实刚需。但两个前置成本别忽略:
硬件总账:模组之外,主控板、12V供电、散热都要算,而且今年不止AI硬件在涨。大明评论区那句很实在:“大概多少米,可惜现在内存暴涨,不然3000内应该能拿下”——存储涨价把整套端侧AI平台的落地成本水涨了一截。哔哩哔哩
回本周期:如果你的调用量只是偶尔问几句话,云端API一个月可能都花不到10块钱,这套硬件永远回不了本。只有高频调用、离线刚需、或数据敏感这三类场景,这笔账才成立。
按人群给结论:
建议买:手里已有RK3588级开发板/工控机、要做本地大模型+多路视觉demo的学习党和方案商;拿正点原子板子打电赛、做毕设、想把"端侧AI"写进简历的——教程生态是它相对迅为、创龙们的老本行优势;
可以等:想要单卡大参数模型体验的,等RK1860;以及想让首批用户把SDK适配和文档坑填完再上车的观望党——发布视频评论区已经有人吐槽"3588开发板的文档和教程资料都太少了",原子家Linux线的资料厚度历来不如STM32线,第三方UP主反而在出保姆级教程;
别碰:指望它跑满血DeepSeek、当迷你ChatGPT本体的;手上只有树莓派、老主板没有PCIe M.2槽的;以及只做视觉检测追求极致功耗的——合众恒跃的选型建议很直接:“如果只跑小模型(1B以内)或传统CV算法,单RK3576足够,成本更低”,而Hailo-8走的是2.5W档的纯视觉低功耗路线,各家M.2算力卡的路线差异比想象中大。哔哩哔哩
五、值得继续盯的信号
这块模组本身大概率不是终点,而是一个信号:卖教程、卖板子、卖工具的正点原子,正在把产品线从"教你入门嵌入式"推向"陪你做完一个AI产品"。 判断后续价值,看四件事:
模组正式售价和首批实装反馈——发布当天官方视频简介里没有统一公开报价,以店铺页为准;
原子会不会把"手把手教你学RK1828"排进更新计划——评论区那句"3588开发板的文档和教程资料都太少了",恰恰是它Linux产品族一直欠的债,也是老用户真正付溢价的理由。哔哩哔哩
RKNN3 SDK的版本演进节奏——瑞芯微已明确RK182X会沿"加存储容量、升制程、优化与主SoC互联、提计算单元效率"四个方向迭代。知乎
RK1860的发布时间表,决定这张卡保值多久。
至于"STM32一哥卖AI算力卡"是不是跨界翻车——从瑞芯微把RK1828定位成"黄金组合"副卡、各家板厂集体跟进推出算力卡来看,方向没赌错。真正的问题从来不是"该不该买这块卡",而是你的场景里,有没有一个值得它插上去跑的模型。