打开B站NAS区,一半视频在聊AI:极空间上线Zeno,一句话让NAS整理照片;零刻把358H塞进四盘位,主打本地AI加百帧3A;飞牛官方也给系统装上了CLI,让AI直接操作NAS。知乎哔哩哔哩哔哩哔哩
手里还是N5105的老玩家坐不住了:要不要加内存、换U、上显卡?先别急。"NAS跑AI"其实是三档完全不同的事,花的钱差远了。
第一档:搜文件,26MB就够
最实用的AI不是聊天,是语义搜索:记不清文件名,只记得"去年那份装修预算文档",也能搜出来。
UP主犽可在只有3.8G内存的NAS上实测:先试了个3亿参数的embedding模型,常驻1GB内存,索引时CPU打满、swap抖动,直接超时删掉;换成26MB的bge-small-zh-v1.5(q8量化),15个片段41秒建完索引,一次检索1.9秒,全程离线,一个字不往外发。哔哩哔哩

选型线很直白:内存2G以下走云端接口,2~8G用26MB小模型,16G以上再考虑1GB+大模型。代价:它是检索模型不是聊天模型,上下文写死512 token(约五百字),长文档得切段建索引。品牌机拿它当卖点(绿联全局搜索、极空间整合搜索),老机器自己就能跑。哔哩哔哩哔哩哔哩
第二档:语音助手、AI管家,大模型在云端
想让小爱音箱变聪明、让AI帮你管NAS?本地不用跑大模型。哔哩哔哩知乎
UP主锤无双的开源项目"无双小爱同学"跑在群晖上,SPK套件或Docker安装:对话转给豆包云端API,还是小爱原声播报;网易云歌单同步到NAS,语音点播。但作者提醒:逆向接口不稳定、平台改版随时失效,还有封号风险,建议用小号。哔哩哔哩GitHub
知乎玩家青峰聊架构更彻底:工控机跑Hermes Agent,NAS只放资料和成果,大模型全走API,不添置新硬件,新增开支只有模型调用费。飞牛官方CLI也是这个思路:OAuth授权、14大模块、200多项原子能力,AI动嘴,NAS动手。这一档,老机器完全够格。知乎哔哩哔哩

第三档:真·本地大模型,能跑≠能用
非要离线跑大模型?开源引擎Colibri用"流式读":MoE模型的专家层放硬盘、用到哪个读哪个,纯CPU无显卡也能跑Qwen3.6-35B。ZAIHOUSE博客
但UP主ZAIHOUSE在绿联N5105+16G内存的NAS上实测:模型23GB,10GB内存才够启动,首token等了108秒,一次问答14分40秒。能跑和能用,是两回事。想要流畅的本地AI,那是358H、铭凡N5 MAX这类新硬件的战场,预算另算。ZAIHOUSE博客哔哩哔哩哔哩哔哩

顺序别搞反
先想清楚要AI干什么,再决定花不花钱:搜文件、整理照片,小模型就够;语音助手、AI管家,云端API加老机器;只有"必须离线聊大模型"这一条,才值得升级硬件。别为用不上的能力,交AI焦虑税。
当前文章无评论,是时候发表评论了