GLM-5.3-Flash突然说俄文、满屏感叹号:它真的变傻了吗

源自129位全网作者

15:02

这几天,你的GLM-5.3-Flash可能不太对劲。

11月11日到16日,小红书、微博上吐槽集中爆发:有开发者让Flash改算法,它参数传错了却甩锅"平台不支持",结果不搭边还强行合理化。有人用着用着突然收到三串俄文回复;还有人吐槽"GLM5.3几分钟把5小时额度用完,改个简单bug一直在错误基线打转"。免费白嫖了大半年 coding 主力,突然变笨,谁不慌?小红书

GLM-5.3-Flash突然说俄文、满屏感叹号:它真的变傻了吗

先说最硬核的一个:满屏"!!!"不是玄学,是bug,而且已经修了。技术博主BBuf 11月15日拆解了SGLang的PR 47013:GLM-5.3-Flash在高并发下约一半回答变成一长串感叹号,GSM8K数学测试只有50%。根源是一条连环事故——GLM-5.3-Flash的MLA结构删掉了RoPE,导致每次写KV缓存都走一个特殊writer;这个writer本该跳过留给padding的0号槽位,偏偏漏了;NaN就此混进0号槽位,decode阶段top-k名额没选满、指向0号槽位,-inf+NaN还是NaN,感叹号就这么喷出来了。PR改十几行,GSM8K回到98%,代价是writer最多慢0.07微秒。模型权重从头到尾没动过,蠢的是推理引擎。知乎小红书哔哩哔哩

GLM-5.3-Flash突然说俄文、满屏感叹号:它真的变傻了吗

这套路并不新鲜。Cloudflare在Workers AI上托管的GLM-5.3,8月底到9月9日一直存在多租户串数据事故:配置了104万Token上下文,KV Cache池实际只装得下68万,超长请求被"嘴上拒绝、身体放行",模型可能把上一个客户的代码片段答出来,官方确认155次响应受影响。两个事故的共同点:你骂"模型降智",实际问题出在部署那一层。知乎

那"算力都抽调去搞GLM-5.5、Flash被放弃"的说法呢?证据不足。GLM-5.5的传闻链路4个月前就核实过一轮,官方始终没给过"抽调算力"这种说法;同一时间还流传着相反体感——“智谱算力空闲到每天3亿Token”。两边都是主观猜测。值得注意的反而是发俄文那位作者的后续:同一小时,他切回付费的GLM-5.3和Zcode调用都正常,出问题的是免费Flash入口。变没变傻,先看你走的是哪扇门。小红书小红书

GLM-5.3-Flash突然说俄文、满屏感叹号:它真的变傻了吗

给用户划四条实操重点:

  • 自建部署用SGLang跑Flash的,升级PR 47013之后的版本,感叹号和NaN一起解决;

  • 遇到满屏感叹号、乱语输出,先怀疑部署和调度,别急着下"被抛弃"结论;

  • 高风险、高难度的活别交给免费Flash——评论区原话:“不要用flash做这种高技术含量或者高风险事情”;

  • 想监控模型是否真的退化,可用社区通用的"画一只骑自行车的鹈鹕"回归测试,同一提示词每天画一次,能力漂移一眼可见。微博小红书

这波"降智",一半是修掉的bug,一半是找错门的焦虑。官方通道正常、免费端异常的时候,你的第一排查对象应该是推理栈,而不是智谱的良心。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章