【SPT】ASUS华硕 NUC15 Pro+:边缘计算新玩法,小铝盒,大能量!

源自UP主:SPlusTech

01-23 11:36

华硕NUC15 Pro+通过96GB超大内存,将mini PC转化为本地运行大语言模型的利器。它利用内存充当核显“显存”,在0.6L机身内实现百亿级模型的私有化部署,为个人AI应用和边缘计算提供了低延迟、高安全的新可能。

【SPT】ASUS华硕 NUC15 Pro+:边缘计算新玩法,小铝盒,大能量!智能速览

  • 96GB内存可分配超80GB充当“显存”

  • 实测成功本地运行1200亿参数大模型

  • 满载功耗76W,核心温度97度,噪音控制优秀

  • 内置酷睿Ultra9处理器,集成NPU单元

  • 机身仅0.6升,接口丰富支持雷电4和四屏输出

【SPT】ASUS华硕 NUC15 Pro+:边缘计算新玩法,小铝盒,大能量!精华内容

这台NUC的真正魅力,在于其独特的硬件配置如何解锁AI计算的全新场景。通过将海量内存分配给核显,它挑战了传统AI部署对昂贵专业显卡的依赖。

暴力配置与设计

核心配置搭载英特尔第二代酷睿Ultra9 285H处理器,集成拥有128EU的Arc140T核显,在Int8精度下算力达77TOPS,同时内置一颗11TOPS算力的NPU。最引人注目的是其96GB DDR5内存配置,通过堆叠式SODIMM插槽实现,为AI应用提供了巨大空间。

机身设计紧凑,体积仅约0.6L,采用银亮色铝合金外壳,顶盖为复合材料以保证信号穿透与隔热。内部结构清晰,固态与内存均为快拆设计,方便用户升级。原装美光3500 1TB固态读写性能不俗,并预留一个2242硬盘位。接口方面,提供了2个雷电4、3个USB-A、2个HDMI 2.1和2.5G网口,扩展能力强大。

散热与噪音表现

散热系统采用了三根热管搭配铜合金鳍片,并使用一枚来自奇宏的台式机级别离心风扇进行散热,最大功率为5W。在单烤FurMark测试中,CPU功耗稳定在76W左右,核心温度达到97度,性能释放基本到位。

虽然温度较高,但其噪音控制表现优秀。在满载状态下,人位听到的风噪仅为38分贝,在办公室环境中几乎感觉不到它的存在,实现了性能与静音的良好平衡。

本地大模型实战

通过将高达80GB以上的内存分配给核显作为“显存”,这台NUC成功运行了拥有1170亿参数的GPT-OSS-120B模型。虽然受限于算力,Token生成速率仅为6.22 tok/s,但它验证了小型设备运行超大规模模型的可行性,实现了从0到1的突破。

切换到更实用的模型,如20亿参数的Qwen-20B,生成速率提升至11.7 tok/s,应对日常需求已足够。而70亿参数的Qwen-70B模型在处理特定任务时,其速度甚至快于GPT-20B,充分展示了其在中文环境下兼顾效率与性能的优势。

边缘计算新思路

这台设备的应用完美诠释了边缘计算的特点:低延时、省带宽、高安全。数据在本地处理,无需联网,既保护了隐私又避免了网络延迟。它为个人开发者、小型企业提供了低成本构建私有化AI服务的可能,无需依赖昂贵的云端算力或专业显卡。

这种“内存即显存”的模式,也预示着未来硬件市场的新趋势。当内存能够承担显存的角色,其成本优势将推动AI应用的普及。这不仅是一款mini PC,更是一种对未来个人计算形态的探索。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章