最强AI开始自己卷自己:成本直降20%,OpenAI让整个行业睡不着觉
OpenAI悄悄干了件让整个行业睡不着觉的事:让最强模型GPT-5.6 Sol去优化它自己的运行效率。结果,服务成本直接砍掉两成,token生成速度还快了15%以上。这不是在实验室里跑Demo,而是每天承载十亿级请求的生产系统在跑。换句话说,最贵的AI基础设施,自己动手把自己省成了更便宜的版本。1
先说清楚,这次优化的三块硬骨头
第一块是负载均衡。说白了就是别让某些显卡忙到冒烟,另几张却在等活。GPT-5.6 Sol接入了真实生产流量数据,能揪出以前被忽视的硬件分配不均,测试新路由策略,动态分配请求到不同地域、不同硬件上。2
第二块是GPU内核重写。这是最见真章的部分。GPT-5.6 Sol学会了Triton和Gluon两种GPU编程语言,能直接改写生产环境里的底层内核代码。它专门去找那些能预先算好、能跳过、能并行的操作单元,从底层架构上把效率抠出来。OpenAI还验证了每行代码的数学正确性,确保优化不引入bug。1
第三块是推测性解码。这项技术靠一个小模型先"抢答"、大模型负责验收。答对了,一次就能多输出好几个字,省掉传统一个字一个字生成的等待时间。GPT-5.6 Sol针对draft模型跑了数百次架构实验,自己设计、自己训练、自己盯着硬件故障,过去工程师手工调参要几个月,现在模型把这个循环压到极短。3
三个环节抠下来,数字出来了:服务成本降20%,token生成效率涨15%以上。这不是某个环节的单点突破,而是从流量调度、内核执行到推理输出的全链路优化。OpenAI内部数据显示,优化后GPU利用率显著提升,相同硬件能承接更多请求。4
这背后透出的信号,比省多少钱更重要
OpenAI自己说了,GPT-5.6 Sol在RSI Index(自我改进能力评估)上比前代提升16.2分。这意味着什么?模型不仅能回答问题,还能自主识别瓶颈、自主写代码优化、自主验证结果。优化飞轮已经开始转起来了——越优化越便宜,越便宜越能大规模部署,越大规模部署又产生更多数据进一步优化。4
OpenAI总裁Greg Brockman的原话更直白:"让GPT-5.6 Sol去提升生产服务效率,正是它又强又便宜的原因之一。"换句话说,这个模型不只是能帮你干活,它还能把自己的干活成本越砍越低。3
普通开发者能学到什么
对普通开发者来说,这件事最大的启发可能不是技术细节,而是选对模型规格比选最强模型更划算。GPT-5.6家族有三个版本:Sol(旗舰版,复杂推理用)、Terra(均衡版,日常办公用)、Luna(速度最快,简单任务用)。简单任务用旗舰版,不只是浪费,更是把省下来的钱直接烧给不需要的算力。5
OpenAI自己的数据也印证了这点:精简系统提示词后,评分提升10%到15%,token消耗减少将近一半,API费用最多能省67%。提示词不是越长越详细越好,推理强度也不是越高越强——用对档位,才是真正的效率杠杆。6
- 难题选Sol:深度研究、复杂代码、逻辑推演用旗舰版,一分钱一分货
- 日常选Terra:办公、分析、写作、常规开发用均衡版,成本大约是旗舰的一半
- 轻量选Luna:简单问答、改写、摘要用速度版,响应最快成本最低
AI基础设施开始自己优化自己,这件事本身就是一个信号。省下的20%成本不是终点,而是起点。当优化飞轮转起来,后续的迭代只会越来越快、越来越便宜。开发者和企业要做的,不是观望,而是尽快摸清自己的能力边界——什么任务用什么规格,把每一分钱都花在刀刃上。
当前文章无评论,是时候发表评论了