什么值得买App下载 App ›
连续签到专享现金活动

OpenAI内部大消息!AI推理成本直接砍半,GPU需求从数万块暴跌至数百块,价格战要来了

OpenAI工程师近日向内部透露,通过系统底层优化技术,已将AI模型推理成本削减50%以上。这一方案率先落地于ChatGPT未登录访客场景:峰值时段所需英伟达GPU从数万块骤降至仅数百块,硬件利用率提升数倍。OpenAI并未更换新芯片或调整模型架构,而是通过提升现有服务器资源利用率实现降本,节省下的成本可用于下调API定价或提升用户调用限额。12
降本技术路径:四项主流优化叠加
OpenAI尚未公开本次效率提升的具体技术细节,业内推测主要涉及四项手段。模型量化将高精度参数压缩为低精度表示,显著减少显存占用和计算量;键值缓存让模型复用已计算的上下文信息,避免重复运算;请求批量处理将多个用户查询打包统一应答,提升GPU利用率;智能路由则将简单请求自动分流至轻量化模型,仅在必要时调用完整大模型。这四类技术均属行业通用方向,但OpenAI将其整合为协同体系,实现超越单点优化的叠加效果。1
旗舰模型登场:性能更强、定价腰斩
成本优势正转化为定价竞争力。OpenAI最新旗舰模型GPT-5.6 Sol在Terminal-Bench 2.1基准测试中得分91.9%,超越Anthropic的Claude Mythos 5,但输入定价仅为竞品Claude Fable 5的一半:输入5美元/百万token,输出30美元/百万token。对比同期Claude Fable 5输入10美元、输出50美元的定价,差距一目了然。23
  • 主流大模型API价格对比:GPT-5.6 Sol:输入$5/百万token,输出$30/百万token;Claude Fable 5:输入$10/百万token,输出$50/百万token;GPT-4.1 nano:输入$0.10/百万token,输出$0.40/百万token;Claude Haiku 4.5:输入$1/百万token,输出$5/百万token
  • OpenAI毛利率走势:2025年Q1:33% → 2026年Q1:39% → 2026年目标:52%
对竞争对手意味着什么
Anthropic正面临直接压力。其Claude Fable 5定价为GPT-5.6 Sol的两倍,性能却略逊一筹,此前已因模型定价偏高饱受争议。行业推测,DeepSeek、谷歌Gemini等厂商也将被迫加速推理效率优化,以应对这轮成本冲击。中国AI市场日均Token调用量已突破140万亿,OpenAI若进一步压低价格,将加剧这片市场的竞争烈度。14
自研芯片已在路上。OpenAI同时在联合博通开发代号为"Jalapeño"的专用推理芯片,针对大模型推理从零设计,预计同等算力下可再降约50%成本。若软硬件两条路径相继落地,OpenAI对英伟达GPU的依赖将进一步削弱,同时为API定价打开更大下行空间。5
OpenAI将此方案视为核心机密,实施严格内部访问控制以防技术外泄。目前尚未公布该优化方案面向所有用户开放的时间表,也未披露完整技术白皮书。6

评论

评论区空态插画

当前文章无评论,是时候发表评论了