当工程师拒绝更聪明的模型:AI推理大战,OpenAI换了一把&
人工智能推理市场正经历一场深刻的范式转变,开发者对于交互速度的需求已超越对模型智能的追求。这一市场偏好的逆转,促使OpenAI与边缘芯片公司Cerebras达成巨额合作,通过巨额算力采购锁定极速推理能力,试图重塑大模型的交互体验标准。
01市场偏好:用钱包投票的“速度溢价”
推理市场的竞争维度正在重构,吞吐量与交互性成为核心权衡指标。行业数据显示,开发者群体已出现明显的“降智提速”倾向。SemiAnalysis团队的支出行为极具代表性:其80%的AI支出集中在Anthropic的Opus 4.6快速模式上,该模式以6倍的价格溢价换取了约2.5倍的交互速度。
产品选择偏好
坚守旧版
支持极速交互模式
部分工程师拒绝升级新版以保留速度优势
团队主要支出集中点


放弃升级
虽然具备更高智能水平
新版本不支持快速交互模式
因延迟问题被部分用户边缘化
然而,快速模式近期出现性能退化。数据显示,Opus 4.6快速模式的交互速度从早期的超过100 tps降至约70 tps,加速比由2.5倍缩水至1.75倍。这种不稳定性进一步推动了市场对新硬件架构的迫切需求。
02核心交易:OpenAI的豪赌与绑定
面对市场对速度的极度渴求,OpenAI选择通过重金投资芯片产能来解决问题。根据披露的S-1文件,OpenAI与Cerebras签署了主关系协议(MRA),其规模与深度在行业内极为罕见。
| 合作维度 | 具体条款/数据 | 商业影响 |
|---|---|---|
| 算力采购规模 | 初始承诺750兆瓦,潜在扩展至2吉瓦 | 覆盖2026-2028年,奠定Cerebras增长基石 |
| 剩余履约义务 | 截至2025年底达246亿美元 | 为CerebrasIPO提供估值支撑 |
| 资本结构关系 | 10亿美元营运资金贷款(年利率6%) | 若以算力偿还可豁免利息,降低现金流压力 |
| 股权绑定 | 持有3344.5万股认股权证,持股比例约12% | 深度利益绑定,OpenAI拥有极高话语权 |
OpenAI与Cerebras交易核心条款解析
这笔交易旨在让OpenAI的GPT-5.3-Codex-Spark模型在Cerebras硬件上实现每用户每秒2000个token的生成速度,这一指标远超基于HBM的GPU集群。但这也意味着Cerebras的增长前景与单一客户高度绑定,执行风险集中。
03技术解析:晶圆级芯片的架构突围与困境
Cerebras的核心技术WSE-3试图通过突破光刻机单次曝光的物理极限,将整张晶圆做成一块芯片。其架构逻辑在于用极高的内存带宽换取极低的访存延迟,但这同时也带来了显著的物理与成本挑战。
- 架构优势:带宽暴力美学
WSE-3集成44GB SRAM,提供21PB/s的内存带宽,比HBM高出数千倍。这一特性使其在小批量、低算术强度的解码场景下,能充分发挥理论算力。 - 算力注水:Feldman公式争议
WSE-3的实际稠密FP16算力仅为15.625 PFLOPS,与官方宣传的125 PFLOPS相差8倍。这一差距源于8:1的非结构化稀疏假设,被业界质疑为营销数学。 - 致命短板:岛屿问题
受限于晶圆均匀步进曝光机制,WSE-3仅提供150GB/s的片外带宽,仅为英伟达Blackwell单GPU带宽的六分之一。这种“岛屿问题”严重限制了其服务超大模型的能力。
04未来展望:SRAM极限与智能追赶
Cerebras面临的结构性挑战在于SRAM密度的物理扩展极限。从台积电N5到N3E节点,SRAM单元面积几乎停止缩减,这意味着未来提升容量的唯一路径是牺牲计算面积。相比之下,英伟达等竞争对手可通过混合键合技术在Z轴方向叠加存储,路线图更具灵活性。
OpenAI在Cerebras上运行的GPT-5.3-Codex-Spark实际上是一个经过蒸馏的小型模型,参数量仅为原版的十分之一。这笔交易的终极变量在于算法进步的速度:如果120B参数模型能在一年内达到当前的GPT-5.5智能水平,OpenAI将把选择权转化为实际采购。届时,“以前沿智能换极速token”的价值主张将决定这场推理战争的胜负。
当前文章无评论,是时候发表评论了