当前位置：
AIGC文章详情

张大妈

英伟达发布LPU推理芯片：破解万亿参数模型推理瓶颈

源自新浪微博：梁赛

03-19 13:30

精选参考来源

英伟达刚刚发布LPU英伟达的新武器：LPU推理芯片去年12月，英伟达花200亿美元把Groq收了，看中的就是他们的LPU（Language Processing Unit）技术。核心价值：GPU擅长训练，但推理有瓶颈（延迟高、能耗大）LPU专门优化推理流水线，和GPU配合干活解决了"低延迟"和"高吞吐"不能兼得的老问题NVIDIA Groq 3 LPX的硬指标：每兆瓦推理吞吐量提升35倍万亿参数模型营收潜力提升10倍256个LPU处理器/机架128GB片上SRAM + 640TB/s带宽全液冷设计，无缝集成到Vera Rubin AI工厂工作原理：LPU和Vera Rubin GPU协同计算，每一层每个token都一起算，大幅提升解码性能。多个LPU可以像一个巨型处理器一样工作，实现确定性推理加速。适用场景：万亿参数模型 + 百万token上下文。这是之前GPU单打独斗做不到的。产能：目前三星代工，下一代可能转台积电。未来GPU（Feynman架构）可能直接整合Groq处理器。上市时间：今年下半年。

梁赛 2026-03-17

来自新浪微博
内容由AI生成
0
0
扫一下，分享更方便，购买更轻松
0评论

当前文章无评论，是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
查看更多
相关兴趣推荐

已收藏
去我的收藏夹