对于追求本地部署70B级别大模型的用户而言,显存容量始终是核心瓶颈。NVIDIA最新推出的Jetson Thor开发板提供了高达128GB的统一内存,且价格相较同类旗舰产品Spark便宜1000美元。这次实测将检验其作为本地AI计算新选择的实际性能与性价比,尤其关注其在与主流设备对比中的表现。
智能速览
NVIDIA Jetson Thor配备128GB海量统一内存。
其价格比同类产品NVIDIA Spark低1000美元。
评测将Mac Mini M4 Pro作为参照对象进行对比。
实测显示Thor运行功耗仅为30W级别。
通过Mistral与Llama 3 70B模型进行了跑分测试。
尽管主攻自动驾驶,但其在运行LLM任务时表现出色。
NVIDIA Jetson Thor的出现,为需要大显存的AI本地化应用提供了一个极具竞争力的新方案,尤其以其低功耗和价格优势挑战了现有市场格局。它究竟是专业领域的利器,还是普通开发者的福音,其实际表现和应用前景值得期待。这一选择是否会改变未来AI硬件的配置思路?
当前文章无评论,是时候发表评论了