『比肩Opus5.5是别人加的戏』和『390是三项到90的线』都是真的:Coder390刷屏头4天,我把模型卡的16行三联、3组官方投机吞吐和19组社区自报摆进同一张表——换主编程模型前,先对完档位、速度、复发这三本账

源自153位全网作者

07:28

10月8日凌晨,一个 3683 粉的 B站UP主 Merkyor,把他"赛博治疗"系列的完结篇挂上了 ModelScope:基于官方 Qwen3.8-27B 做多轮 SFT+RLOO 后训练,模型全名六十多个字符——

Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2

随后四天,这个名字被拆开做成各家标题,最响的一版是 7456 播放的《比肩 Opus5.5、GPT-6 Astra!》。10月10日,作者本人在那条视频评论区贴出命名图例:名字后面跟的是教师模型名单,不是比肩成绩。 社区跟着补了 20 个赞:“人家作者本人在B站有视频,人家本人都不敢这么吹。”哔哩哔哩

这波真正值得摆一张表的,不是"27B 封神",而是三本账:档位账、速度账、复发账。先把"390"是什么说清楚——它不是型号,是目标分数线:GPQA、MMLU、LCB 三项都到 90,名字里的 Coder 指代码强化。 拆法是 178/198、450/500、90/100,静态 FP8 档,三项依次 89.9、90.0、90.0。口径全在卡上:两张 RTX PRO 6000、每卡并发 8、上下文 100K、生成上限 94,208、DFlash2 草稿、SGLang,全量套题,空答记错、失败样本留在分母里。哔哩哔哩

项目

原版 Qwen3.8-27B(FP8)

Coder390(静态 FP8)

GPQA

177/198

178/198

MMLU

444/500

450/500

LCB

83/100

90/100

LCB 94K 截断(写满上限)

13

3

LCB 空答(没产出代码)

13

3

LCB 思考 P90(token)

94,208(顶格)

43,992

GPQA 思考 P90(token)

50,577

26,431

『比肩Opus5.5是别人加的戏』和『390是三项到90的线』都是真的:Coder390刷屏头4天,我把模型卡的16行三联、3组官方投机吞吐和19组社区自报摆进同一张表——换主编程模型前,先对完档位、速度、复发这三本账

原版的病不是笨,是停不下来——卡上写得很直白:模型在局部已经有答案之后,仍用 Wait / Actually 把同一套推导反复再推,直到写满上下文、最终答案为空。 评论区 11 赞的具象版是:“前端改一个按钮的位置,给我思考了整整 7 分钟。“Coder390 的 RLOO 只喂了 172 组、1376 条轨迹(正确 859、错误 517、空答 68),奖励表里"空答 −1.0、写到 94K 还有选项字母 −0.9、短且对 +1.05”,就是奔着这个病去的。另一条必须记账:三联目前只有作者自测,没有第三方做过全量复现,评论区"数据太少”(3 赞)、“Q2 不会是过拟合吧”(3 赞)的质疑,暂时没人能证伪。魔搭社区

档位账:15 档分数全放出来,但"大"不等于"强"

卡上一共 16 行成绩(原版+15 个精度档),尺寸、BPW、三联分数全公开:

档位

包大小

GPQA/MMLU/LCB

BF16

51.8 GiB

178 / 446 / 90

静态 FP8

31.4 GiB

178 / 450 / 90

INT8 W8A8

28.3 GiB

175 / 450 / 91

GGUF Q8_0

27.1 GiB

171 / 443 / 90

NVFP4 混合

22.1 GiB

172 / 442 / 88

GGUF Q6_K

21.6 GiB

174 / 448 / 91

NVFP4 W4A16

19.2 GiB

170 / 439 / 91

GGUF Q4 LynnStyle

18.3 GiB

175 / 448 / 89

INT4 W4A16

18.1 GiB

177 / 446 / 87

NVFP4 W4A4

19.2 GiB

167 / 440 / 92

GGUF Q3 LynnStyle

16.1 GiB

173 / 449 / 92

GGUF Q2 LynnStyle

12.4 GiB

177 / 433 / 90

『比肩Opus5.5是别人加的戏』和『390是三项到90的线』都是真的:Coder390刷屏头4天,我把模型卡的16行三联、3组官方投机吞吐和19组社区自报摆进同一张表——换主编程模型前,先对完档位、速度、复发这三本账

三个规律,都是反直觉的:

  1. 大位宽不保强。27.1GiB 的 Q8_0 考出 GPQA 171、28.3GiB 的 INT8 考出 175,都不如 12.4GiB 的 Q2(177)。有评论说"Q3 比 Q4 分数高,不敢相信"——在卡上这是常态,档间差距全在 ±4 分级别。

  2. 每一档保的东西不一样。NVFP4 W4A4 的 LCB 干到 92、全场最高,代价是 GPQA 167 全场最低;Q2 的 GPQA 平原版,但 MMLU 433 掉了 11 分——代码被保住了,常识先交出去。实测党已经撞上:“问一首歌的信息,常识完全走偏了。”

  3. 口径没你想的统一。16 行里原版/FP8 行是双卡 C8,NVFP4、NInfer、INT8/INT4 是单卡 C8,GGUF 行是单卡 C4,NInfer 两档还沿用 10-05 旧成绩、GGUF 分数测于内置 MTP 之前。拿 ±4 分跨档较真的,先去看每段的口径行。

入门门槛作者自己写了:配套 Lynn 桌面 Agent 的本地档规则是低于 14GiB 禁装,16GB 推 Q2,24GB 及以上推 Q3;N 卡看单卡显存,不叠加多卡、不用系统内存顶。引擎互斥也要记:`.ninfer` 只有官方 NInfer 引擎能加载,SGLang/vLLM/llama.cpp 都不认;INT8 档只走 vLLM;DFlash2 草稿只在 SGLang 验证过。

速度账:官方 45.6→180.3,社区自报 20→400,都不是假的

作者实测(单张 RTX PRO 6000 Blackwell、32K 上下文、单请求):不开投机 45.6 t/s,MTP 91.1,DFlash2 180.3——两种投机互斥,且 C1–C16 每一档 DFlash2 都压 MTP。卡上附的 Q8MTP 短跑里,NInfer 下 Q2 能到 211.7。社区 9 组自报速度,落差巨大但都能对上账:

『比肩Opus5.5是别人加的戏』和『390是三项到90的线』都是真的:Coder390刷屏头4天,我把模型卡的16行三联、3组官方投机吞吐和19组社区自报摆进同一张表——换主编程模型前,先对完档位、速度、复发这三本账

自报口径

t/s

16G 卡 ninfer+DFlash2(AI观模者,23 赞)

250+,MTP 约 150

3080 16G 笔记本(未注明引擎)

176(存疑)

W4A4-W8A8、262K 上下文、nvfp4 KV

163

5090D+32G、W8A8、256K+MTP

均 150,预填充 3xxx–5xxx

16G 卡 kvmem-llama.cpp、256K

100+

AMD 卡、自制内核

峰值 100,长散文 60+

16G 卡跑 Coder390 vs strata+Flash-Next

30–40 vs 50–70

双 2080Ti 22G NVLink、FP8

20(原版同条件 50)

4070S Ti 16G、llama.cpp、8K 上下文

不到 20

规律一句话:凡是 100+ 的,要么开了投机(MTP/DFlash2),要么走了 kvmem/NInfer 卸载;凡是 30 以下的,基本是 llama.cpp 不开投机的裸跑。 抄作业前核对三样:引擎、开没开投机、上下文长度。同一条视频下 4070S Ti 党 8K 上下文跑不满 20 t/s、转头用 35B MoE 跑到 50 的自报(7 赞),跟 250+ 的并不矛盾——付的不是同一本账。哔哩哔哩

复发账:雷霆思考对半砍,但没根治

FP8/BF16 档上,LCB 的 94K 截断从 13 降到 2–4,治疗是真有效。 但低档和真任务里,10 组社区质量自报把另外三面的镜子立起来了。魔搭社区

Q2 档复发:2080Ti 22G 党 Q2 跑"鹈鹕骑车"画图测试,3 次里 2 次雷霆思考、150K 上下文写满(2 赞);另一位 Q2 写俄罗斯方块,追加一句"平滑下落加重力"后直接思考 64K 字符不动笔。

Agent 工具面变脆:DeepSeek Harness 用户换模后工具调用报错明显变多——写错文件路径、old_string 对不上、重试烧 token;但做几万到几十万字文档核校的用户报告"没发现幻觉,只有格式错误",还带复核脚本。

专项不等于全能:高中数学联赛 A 卷实测,原版错一道小题、Coder390 Q2 错最后一道大题,但只花四分之一时间(3 赞);沙漠输油经典题 INT4 档直接输出 200 升。正向样本也有:Q6_K 一句话打砖块"产品级交付、远超越原版"(8 赞),Q6 长文档分析"思考长度刚刚好"(8 赞),llama.cpp Q4"比 swift 快而且准"。

最硬的对照组:xhigh 鹈鹕测试(q4km+MTP3)的评测人说思考确实降一半,但细节不如原版 UD 量化,“追求绝对质量慎用”——然后"继续滚回去用原版了"。

对完账,谁现在动手、谁再等等

适合换:16–24G 单卡、主力是写代码/长文档、能接受 llama.cpp 或 NInfer 的党——16G 下 Q2(12.4GiB)、24G 下 Q3/Q4,Lynn 一键最省事;手里是 48G+ 或双 Pro6000 级别、会用 SGLang 的,直接静态 FP8+DFlash2,180 t/s 那行才是官方口径。装 Windows 整合包的,先读三条坑:路径必须是纯 ASCII(中文路径会报 invalid UTF-8 byte)、exe 和 9 个 DLL 不能拆(拆了静默退出)、别拿官方原包 GGUF 直接喂 ninfer(内置 MTP 头有 5 个 q4_0 张量该引擎不认,整合包作者重编码修过)。哔哩哔哩

再等等:显存低于 14GiB 的(官方禁装,别顶);主要干常识问答、多工具 Agent 的(等第三方全量复现和 Q2 复发问题的后续);已经在 strata+Flash-Next 里的——“回不去 27B”(88 赞)和"编程 27B 比 Flash 稳"是同一场争论的两组真数字,按任务类型选,别按赞数选。

继续观察:置顶热评 398 赞写的是"我的优化办法是睡觉,等睡醒了,说不定 qwen4 27B 就来了"——治疗系现在是和官方迭代抢时间;三联第三方复现、Q2 档长任务复发率、以及 Qwen 官方要不要收编这套"停不下来"的解法(7 赞评论已在喊话),是下一个周期的三个信号位。

这场刷屏的真相不是又一台"单卡干翻满血"的机器,而是一个 3683 粉的UP主,把本地编程党最疼的三种病——7 分钟思考、94K 空代码、百题 13 空答——连同 16 行分数、19 组真人数字和全部口径细节,钉在了同一个评论区里。账已经摆完,剩下的是你对自己的卡、自己的任务拍板。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章