张大妈

超级ai芯片:推理性能的 "绝对王者"

源自公众号:SoC芯片

01-18 17:01

Cerebras WSE-3 芯片以整块晶圆为单一处理器的颠覆性设计,从根本上重构了 AI 芯片的性能边界。它通过消除多芯片互联带来的延迟与带宽瓶颈,为大模型推理和科学计算提供了极致算力,展现了超越传统 GPU 集群的全新可能性。

超级ai芯片:推理性能的 智能速览

  • 晶圆级集成方案,面积是 H100 的 56 倍,集成 4 万亿晶体管。

  • 通过微核设计等方案,实现了高达 100 倍的缺陷容忍度。

  • 片内带宽达 21PB/s,是 H100 的 6268 倍,实现核心间零延迟通信。

  • 44GB 片上 SRAM 配合统一地址空间,彻底消除“内存墙”与数据搬运延迟。

  • 大模型推理速度是 GPU 系统的 15 倍,能效比提升 8.9 倍。

超级ai芯片:推理性能的 精华内容

Cerebras WSE-3 的技术优势贯穿芯片制造、架构设计到应用落地的全链路,其核心逻辑在于让数据“不动”,而让计算单元“移动”。

晶圆级集成

WSE-3 采用了颠覆性的晶圆级集成方案,将一整块 300mm 晶圆打造为单一处理器。其芯片面积高达 46,225mm²,是英伟达 H100 的 56 倍;集成了 4 万亿个晶体管,数量是 H100 的 52 倍以上。这种规模优势使其搭载了 90 万个 AI 计算核心,远超传统 GPU 的数千核心。通过将所有计算与存储单元集成于同一硅片,WSE-3 实现了片内零延迟通信,数据传输速度相较于传统多芯片互联系统提升了 2500 倍,从根本上消除了“芯片墙”。

良率与互联

晶圆级集成的最大挑战是良率,WSE-3 通过三大创新方案解决了这一难题。首先是微核设计,每个计算核心仅 0.05mm²,单个缺陷的影响被降至最低。其次是瓦片式架构,晶圆被划分为独立功能区,可自动隔离故障。最后是动态路由技术,实时绕开缺陷核心,确保了 93% 的硅面积利用率,缺陷容忍度比传统 GPU 高出 100 倍。在互联方面,WSE-3 的片内全域互联网络提供了高达 21PB/s 的带宽,是 H100 的 6268 倍,配合无中心化的四邻互联设计,实现了数据在片内的“流动式处理”。

存储与能效

在存储架构上,WSE-3 革命性地消除了“内存墙”。其 44GB 的片上 SRAM 采用统一地址空间,供 90 万个核心共享,实现了权重的完全驻留和单周期访问,消除了传统系统中权重加载的延迟和功耗。这种数据本地化处理方式,使得稀疏神经网络的处理能效比达到 H100 的 8.9 倍。在实际推理任务中,WSE-3 的整体功耗仅为等效 GPU 系统的六分之一,显著降低了大规模部署的运营成本和能耗,能效优势极为突出。

应用性能

凭借架构上的全面优势,WSE-3 在 AI 应用中展现了“绝对王者”的性能。在大模型推理任务中,其响应速度是 GPU 系统的 15 倍,GPT-OSS 120B 模型可达到每秒 2000+ tokens 的生成速度,远超 GPU 系统的 50-200 tokens/s。这种性能使其能够支持编程、医疗诊断等需要实时交互的高价值场景。同时,WSE-3 能够直接处理高达 24 万亿参数的模型,无需复杂的分布式训练策略,并在碳捕获模拟等科学计算任务中,比 H100 快 210 倍。

Cerebras WSE-3 通过“数据不动,计算移动”的核心理念,成功绕开了传统芯片架构的性能瓶颈。它不仅是在硬件指标上实现了超越,更代表了一种面向未来的计算范式。随着大模型参数规模的持续攀升,这种晶圆级计算方案能否成为解决算力饥渴的关键路径,值得整个行业持续关注与探讨。

内容由AI生成
1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章