OpenAI第一颗芯片跑起来了,旁边站的不是英伟达

OpenAI第一颗芯片跑起来了,旁边站的不是英伟达

2026-10-04 10:20:17 0点赞 0收藏 0评论

10月2日,OpenAI 把自家第一颗芯片的部署细节放了出来:Jalapeño ASIC 已经在内部跑起来,跟它搭伙的是一台装了 1.5TB 内存的 AMD EPYC Turin 主机。

负责这件事的是 OpenAI 副总裁兼硬件主管理查德·何(Richard Ho)。他给出的理由只有两个字:务实。原话是 AMD 的 Turin 性能够用、合作伙伴熟悉这套平台、能加快部署;而英伟达今年新推的 Vera CPU,成熟度上"略显落后"。

一台主机 CPU 的选择,为什么值得单独拿出来讲。因为过去两年,大家习惯性盯的是单颗芯片的峰值算力;这次 OpenAI 给出的答案,落在另一套坐标上:成熟度、可交付、控得住风险。

OpenAI第一颗芯片跑起来了,旁边站的不是英伟达

Jalapeño 到底是什么

先讲清楚这颗芯片的定位,很多讨论在这里就跑偏了。

它是一颗 ASIC,也就是专门为某一类任务定制的芯片,由 OpenAI 和博通共同开发、走台积电 3nm 工艺,方向明确写在名字旁边:面向 LLM 的推理加速。它不训练模型,只负责把已经训练好的模型高效地跑起来。

OpenAI 此前公布过的首秀数据是:跑 DeepSeek R1 时,每瓦 AI 吞吐量是英伟达 GB300 的 1.7 倍,延迟也更低。这里要提醒一句,这是 OpenAI 自己公布的口径,不是第三方评测,读的时候要带上这个前提。

它凭什么省电,道理不复杂。GPU 像一辆什么路都能开的越野车,通用意味着要预留大量用不上的电路;ASIC 是把最常见的几种弯道、坡度直接浇筑成专用路面,跑起来轻松,代价是换一条新路就得重新施工。所以 ASIC 只在"任务形状足够稳定"的地方划算——推理恰好就是这种活。

为什么配的不是英伟达的 CPU

一颗加速卡自己跑不起来。它得跟 CPU、内存、网络、散热组成整机,主机 CPU 负责数据搬运、请求调度、系统管理这些配套工作。OpenAI 挑主机搭档时,选的不是"最强",是"最稳"。

Turin 已经在大量服务器上跑了很久,合作厂商经验足,部署能按周算;Vera 更新,但刚进入市场。把全新加速卡和全新主机平台叠在一起,等于同时押两个不确定项。理查德·何的说法是,Jalapeño 从设计阶段就定了两条原则:去风险和快速落地。性能指标和成本可以激进,平台选择必须落在成熟的工程框架里。

它说明了一件更大的事

AI 基础设施的竞争,正在从"峰值性能"转向"系统匹配"。

过去几年比的是一颗芯片能跑多快;现在比的是芯片、主机、内存、网络、散热这一整套能不能最快装起来、最省地跑下去。对做 AI 应用的团队来说,这是个可借鉴的工程习惯:关键路径上,"选一个已经被验证过的组件"往往比"选一个参数更漂亮的组件"更值钱。参数差 10% 能补,交付晚一个季度补不回来。

三个容易看错的地方

常见说法一:自研芯片成了,英伟达要凉。 有一定道理:OpenAI 确实在把一部分推理负载从通用加速卡上搬走。但它解释不了全部:Jalapeño 只做推理,训练侧仍是另一套体系;而且目前只在内部使用,官方明确说暂无对外销售计划。更准确的理解是,头部公司把"能自己定的部分"自己定掉,把"必须外购的部分"继续外购——不是替代,是分工再切一刀。

常见说法二:选 AMD 是因为 AMD 更强。 有一定道理:AMD 这两年在服务器 CPU 上的推进确实扎实。但它解释不了全部:这次的权重压在成熟度和交付速度上,而不是跑分。更准确的理解是,这是一次工程上的求稳,不是性能榜单的更替。

常见说法三:芯片自研了,用起来就该更便宜。 有一定道理:单位推理成本下降,最终会反映到 API 价格上。但它解释不了全部:成本传导需要规模,内部部署的体量还不够大;ASIC 又只覆盖它被设计出来的那部分工作。更准确的理解是,短期内先受益的是 OpenAI 自己,不是用户的账单。

往下的看点

Jalapeño 只在 OpenAI 内部用,官方留了口子:未来资源允许,不排除推到更广的场景。这句话值得记下来——它决定了这颗芯片是"自家省钱工具",还是"对外卖的产品"。

还有一点:ASIC 的软肋是模型结构变了怎么办。专用路面的代价,就是路改了要重新浇筑。所以接下来真正要看的不是它这次跑赢多少,而是下一代模型出来时,它能不能用最小的改动跟上。

工程世界里,能把不确定性摁在设计阶段的人,通常笑得更久。这次 OpenAI 摁掉的,是主机 CPU 这一项。

如果觉得今天这篇有启发,点个在看,顺手转发给需要的朋友;想第一时间收到推送,可以星标我⭐。

关注我,每天陪你聪明看世界 —— 看懂热搜,玩懂AI。

作者提示含AI生成内容。作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章
0
扫一下,分享更方便,购买更轻松