张大妈

树莓派推出全新本地运行生成式AI扩展板:配备8GB内存 40TOPS算力

源自今日头条:cnBeta

01-17 15:48

树莓派推出AI HAT+ 2扩展板,号称让单板电脑也能本地运行生成式AI。然而,科技博主的实测数据却揭示了其性能与定位的矛盾。这份深度分析将帮你拨开营销迷雾,看清这130美元的硬件究竟是物有所值,还是特定场景下的鸡肋。

树莓派推出全新本地运行生成式AI扩展板:配备8GB内存 40TOPS算力智能速览

  • 树莓派发布AI HAT+ 2扩展板,售价130美元,为Pi 5提供40TOPS本地AI算力。

  • 板载8GB内存,支持运行Llama、DeepSeek等小型生成式AI模型。

  • 实测显示,8GB内存的Pi 5整机性能可能优于加装AI HAT+ 2的组合。

  • 性能差异主要源于AI HAT+ 2约3瓦的功耗限制,远低于Pi 5主板的10瓦。

  • 该扩展板更适用于特定场景下的专用AI任务,而非通用升级方案。

树莓派推出全新本地运行生成式AI扩展板:配备8GB内存 40TOPS算力精华内容

树莓派新推出的AI扩展板让本地运行生成式AI成为可能,但硬件升级是否真能带来体验飞跃?通过实测数据与对比,揭示其真实性能表现与适用场景。

硬件规格升级

树莓派基金会发布了专为Raspberry Pi 5设计的AI扩展板AI HAT+ 2。其核心升级在于集成了Hailo 10H芯片,可提供40 TOPS的AI运算性能,并板载了8GB内存,售价130美元。与前代产品不同,板载内存使其能够直接在本地运行轻量级的生成式AI模型,如Llama 3.2、DeepSeek-R1-Distill及Qwen系列。

官方演示展示了其在场景理解(如对摄像头画面进行描述和问答)和本地多语言处理(如法语到英语翻译)方面的能力。该扩展板的设计初衷是将AI推理负载从主板的Arm CPU上卸载,让主机能更专注地处理其他任务。

实测性能反差

然而,理想很丰满,现实很骨感。科技博主Jeff Geerling的独立测试带来了一个出人意料的结果:在多款受支持的模型上,一台配备8GB内存的独立Raspberry Pi 5,其整体性能表现反而优于接入AI HAT+ 2后的组合。这一结果直接挑战了AI HAT+ 2作为性能升级方案的核心价值,让用户对其实际效果产生了疑问。

功耗限制瓶颈

造成性能反差的根本原因,在于功耗限制。Geerling指出,Raspberry Pi 5主板本身可以在约10瓦的功率下运行,而AI HAT+ 2扩展板的功耗则被严格限制在约3瓦范围内。这个巨大的功耗差距严重束缚了Hailo 10H芯片的性能发挥,导致其算力无法完全释放,最终在综合表现上输给了功耗更高、运行更自由的单主板方案。

精准定位选择

基于实测结论,AI HAT+ 2的定位并非面向所有用户的通用升级路径。Geerling认为,对于那些需要灵活运行不同模型、追求更高速度的用户而言,直接购买拥有16GB内存的高配版Raspberry Pi 5是更具优势的选择,其8GB额外内存带来的灵活性远超AI HAT+ 2。因此,AI HAT+ 2更适合作为特定AI应用场景下的专用加速器,而非普适性的性能补丁。

AI HAT+ 2的推出展示了树莓派在边缘AI领域的持续探索,但其性能和性价比争议也提醒我们,硬件升级需结合实际需求与限制综合判断。对于大多数用户,高配版Pi 5或许是更灵活、高效的选择。在未来,边缘设备的AI运算能力将如何突破功耗与散热的瓶颈?

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章