华硕NUC15 Pro+通过96GB超大内存,将mini PC转化为本地运行大语言模型的利器。它利用内存充当核显“显存”,在0.6L机身内实现百亿级模型的私有化部署,为个人AI应用和边缘计算提供了低延迟、高安全的新可能。
智能速览
96GB内存可分配超80GB充当“显存”
实测成功本地运行1200亿参数大模型
满载功耗76W,核心温度97度,噪音控制优秀
内置酷睿Ultra9处理器,集成NPU单元
机身仅0.6升,接口丰富支持雷电4和四屏输出
精华内容
这台NUC的真正魅力,在于其独特的硬件配置如何解锁AI计算的全新场景。通过将海量内存分配给核显,它挑战了传统AI部署对昂贵专业显卡的依赖。
暴力配置与设计
核心配置搭载英特尔第二代酷睿Ultra9 285H处理器,集成拥有128EU的Arc140T核显,在Int8精度下算力达77TOPS,同时内置一颗11TOPS算力的NPU。最引人注目的是其96GB DDR5内存配置,通过堆叠式SODIMM插槽实现,为AI应用提供了巨大空间。
机身设计紧凑,体积仅约0.6L,采用银亮色铝合金外壳,顶盖为复合材料以保证信号穿透与隔热。内部结构清晰,固态与内存均为快拆设计,方便用户升级。原装美光3500 1TB固态读写性能不俗,并预留一个2242硬盘位。接口方面,提供了2个雷电4、3个USB-A、2个HDMI 2.1和2.5G网口,扩展能力强大。
散热与噪音表现
散热系统采用了三根热管搭配铜合金鳍片,并使用一枚来自奇宏的台式机级别离心风扇进行散热,最大功率为5W。在单烤FurMark测试中,CPU功耗稳定在76W左右,核心温度达到97度,性能释放基本到位。
虽然温度较高,但其噪音控制表现优秀。在满载状态下,人位听到的风噪仅为38分贝,在办公室环境中几乎感觉不到它的存在,实现了性能与静音的良好平衡。
本地大模型实战
通过将高达80GB以上的内存分配给核显作为“显存”,这台NUC成功运行了拥有1170亿参数的GPT-OSS-120B模型。虽然受限于算力,Token生成速率仅为6.22 tok/s,但它验证了小型设备运行超大规模模型的可行性,实现了从0到1的突破。
切换到更实用的模型,如20亿参数的Qwen-20B,生成速率提升至11.7 tok/s,应对日常需求已足够。而70亿参数的Qwen-70B模型在处理特定任务时,其速度甚至快于GPT-20B,充分展示了其在中文环境下兼顾效率与性能的优势。
边缘计算新思路
这台设备的应用完美诠释了边缘计算的特点:低延时、省带宽、高安全。数据在本地处理,无需联网,既保护了隐私又避免了网络延迟。它为个人开发者、小型企业提供了低成本构建私有化AI服务的可能,无需依赖昂贵的云端算力或专业显卡。
这种“内存即显存”的模式,也预示着未来硬件市场的新趋势。当内存能够承担显存的角色,其成本优势将推动AI应用的普及。这不仅是一款mini PC,更是一种对未来个人计算形态的探索。