这两天如果你关注LLM推理相关的内容，大概率被"OpenAI掀桌""碾压英伟达GB300""性能104倍"这类标题轰炸过。对懂tokens/s和每瓦吞吐的人来说，这串数字既让人兴奋又让人发懵——兴奋是因为OpenAI第一次拿自研芯片的成绩单直面英伟达，发懵是因为这些数字明眼一看就知道口径并不相同。
今天把Jalapeño（西班牙语"墨西哥辣椒"）这份首发实测跑分拆开讲：哪些数字扎实，哪些是统计口径的魔法，哪些地方还缺数据。看完你可以直接站队。
先看看发生了什么
8月25日，OpenAI在Hot Chips 2026上公布了首颗自研AI推理芯片Jalapeño的首批性能测试结果。DeepTech深科技这颗芯片与博通联合开发，从初始设计到完成流片大约只用了9个月。测试用的是SemiAnalysis的公开基准套件InferenceX，对比对象是英伟达GB200和GB300 STP系统，测了GPT-OSS 120B、DeepSeek R1 670B和万亿参数的Kimi K2.5三款模型。额定功耗700W，实测持续功耗没超过550W。据彭博8月25日报道，OpenAI表示Jalapeño在单位功耗可处理的AI工作量和响应速度两项关键指标上均领先英伟达GB300。华尔街见闻
第一套口径：能效与速度，这组数字比较扎实
先看峰值每千瓦吞吐，这是本次发布里最扎实的一组数。峰值吞吐量场景下，Jalapeño每瓦可完成的AI任务量达到参考商用推理系统的1.5-1.9倍。芯东西拆到每个模型：GPT-OSS 120B对比GB200，8.54万对4.5万 tokens/s/kW，约1.9倍；DeepSeek R1对比GB300，1.96万对1.18万，约1.7倍；Kimi K2.5为1.82万对1.19万，约1.5倍。模型越大优势越小，但全线领先。
比吞吐更值得注意的是速度：三款模型的单用户生成速度分别是1459对535、700对169、694对182 tokens/s，也就是2.7倍、4.1倍、3.8倍，端到端延迟整体缩减41%-72%。Kimi的最低端到端延迟1.56秒，GB300要5.31秒——这是用户在对话里能直接感知到的差距。还有一个细节：功耗口径按额定功耗统一归一，Jalapeño按700W，GB200和GB300分别按1200W和1400W，而Jalapeño实测连550W都没跑到，所以这个优势不是靠压低功耗刷出来的。
第二套口径：104倍的真相
刷屏最狠的"104倍"，其实来自另一套口径。OpenAI还设计了一个对比：让两套系统保持相同的单用户生成速度，再比能同时承载多少推理任务。以DeepSeek R1为例，当两边都维持约169 tokens/s的单用户速度时，Jalapeño每千瓦可以处理约1.23万 tokens/s，而GB300约为118——按这一口径，差距变成了104.3倍。另外两款模型，GPT-OSS是53.7倍，Kimi是56.1倍。芯东西但注意：这组数字并不意味着Jalapeño的芯片计算性能本身比GB300高104倍。DeepTech深科技它反映的是并发承载能力——在保住每个用户体验速度不降的前提下，能同时接住多少请求。
翻译得更直白一点：第一套口径比的是"每升油能拉多少吨货"，第二套口径比的是"大家保持同样车速时，一家物流公司能多派多少车"。104倍说明的是这颗芯片在低延迟约束下特别能扛并发，正好对准智能体这类交互式业务。所以下次再看到"碾压104倍"的标题，你可以自己补上坐标：能效1.5-1.9倍是芯片级能力，并发承载最高104倍是特定约束下的系统级优势，两码事。
三点冷静
第一，这全是OpenAI自报数据。此次公开的主要性能数据由OpenAI提供，SemiAnalysis只是现场见证了InferenceX的运行，并未独立完成全部测试。DeepTech深科技方向大概率不假，但在独立第三方复测出来之前，数字都值得再看一眼。
第二，测试场景非常有限。目前公开的结果主要来自约8k输入、1k输出的单轮推理场景，长上下文、多轮对话、真实的智能体工作负载都还没有数据——而后者恰恰是OpenAI最想证明自己的场景。
第三，单芯片规格不占优，时间也还早。无论是HBM容量还是峰值算力，Jalapeño都没有压过当前的英伟达旗舰GB300，更不用说即将量产的Rubin。未尽研究目前测试用的还是A0工程片，下一代B0已进入制造阶段，采用台积电N3P工艺，MXFP4理论算力13.4 PFLOPS。DeepTech深科技第一代Jalapeño要到2026年底前才会部署进OpenAI自有基础设施。
产能和供应端还有两道坎。知乎上有人一针见血：英伟达几乎大包圆台积电的产能，芯片设计出来能不能拿到足够产能还是未知数。知乎供给侧同样不算乐观，HBM4供应和规模化部署的问题也被摆到了台前。半导体产业纵横这两道坎不解决，跑分再漂亮也还停留在实验室阶段。
三类人，三种值得盯的信号
如果你是普通用户或API开发者：别等芯片，看价格。Jalapeño先供OpenAI自家服务，推理成本若真降下来，最先出现的信号会是API降价、速率上限放宽或免费额度变大方。盯OpenAI的定价页，比盯芯片发布会实在。
如果你是推理工程师：有两个工程细节值得深挖。一是prefill和decode由同一套加速器完成，没走PD分离路线，而是把模型状态（含生成回复必需的KV缓存）显式固定在本地存储，再按推理阶段动态调配算力、内存和网络资源。芯东西二是软件迁移效率：借助Codex和GPT-Astra，外部模型的移植优化只用了约两个月，AI生成的kernel比人类专家手写版本快1.5-1.8倍。DeepTech深科技这套范式如果成立，CUDA生态的护城河被侵蚀的速度会比想象中快。
如果你是行业观察者：盯"客户造芯"会不会成为趋势。OpenAI年化营收已经突破400亿美元，比2025年底翻了一倍。半山观思这个营收体量下，自研芯片不是技术问题而是成本问题。讽刺的细节是：就在不到两周前，英伟达刚宣布为OpenAI数据中心提供最高1050亿美元融资支持。半导体产业纵横最大的客户拿着你的钱造替代你的芯片，这个剧本在算力市场才刚刚开始。
一句话总结
1.5-1.9倍的能效优势是扎实的实测数据，104倍是并发承载口径而不是算力倍率，而它能不能真正改变格局，要看B0量产和年底部署的兑现。想持续跟进的话，记好三个坐标：短期看独立第三方复测，中期看OpenAI自家推理成本的兑现，长期看头部模型公司自研芯片会不会成为趋势。
