GPT-6本月空降弃用旧底座,从聊天转向全自动执行
源自9位全网作者
07-09 18:32
精选参考来源
1
桥水基金在 Mira Murati(OpenAI 前 CTO)新公司 Thinking Machines 平台上发的 Technical Report。拿 Qwen3-235B 做私有化微调,在金融文档筛选和央行报告解读上直接落地。结果挺硬核:定制模型 Accuracy 直接拉到 84.7%(错误率比最强闭源 GPT-5、Claude 4.8 模型低 29.8%),Inference Cost 暴降 13.8倍。背后是高敏感数据:Open-weight 是唯一解:敏感的金融核心数据,机构不可能天天往别人的云端送。国内 Qwen 系列长文本和微调上限足够高,成了华尔街追求 ROI 的完美底座。Data Engine 是核心壁垒:他们砍掉了外包的脏数据,只拿 Hard Cases 让内部顶尖投资经理(领域专家)二次清洗。用高成本的“专家品味”洗出干净数据,才带高了模型天花板。训练 Recipe 调优:交错批处理 (Interleaved Batching):多任务训练按循环顺序交错,Accuracy 提了 12.1%。CIPOS Loss + 非对称裁剪:换掉标准重要性采样,对策略偏离做非对称约束,又顶上去 10.1%。优秀教师政策蒸馏 (OPD):每 20 步动态用验证集表现最好的 Checkpoint 当 Teacher,再刷了 3.1% 的点。通用模型的边际效应在特定高壁垒业务上是在递减的。最近看到的一个趋势:用“顶级开源底座 + 极致干净的专家数据 + 针对性的微调工程”去卷出高性价比的垂直智能。@sgl_project @vllm_project 队伍都创办公司那融资是这个趋势标志性的事件
2
GPT-5.6 发布,新一代模型,真的来了。
全部
来源
来源
内容由AI生成
0
0
0评论
当前文章无评论,是时候发表评论了
提示信息
取消
确认
评论举报
最新文章
热门文章
-
秋天泡果酒,42度就够0 0
-
懂车帝刹车断裂视频下架,尊界一夜反转131 932 -
移动8元卡,实现6G流量,老用户20G+,30分钟通话60 177 -
1612牛就断了!三台百万尊界刹车全断,断的是踏板也是信任105 669 -
全网掀起踩刹车大赛!小米6月直播意外火了,连续50次刹停117 560
已收藏
去我的收藏夹