智谱GLM-5.3-FlashX发布,推理速度提升5倍,定价同步上涨2.5倍
智谱刚推出了新模型 GLM-5.3-FlashX,最大的变化就是快——推理速度最高飙到了 200 tokens/s,比之前的 GLM-5.3-Flash 快了 5 倍。不过速度提上来了,价格也跟着涨,新版本的定价比原版贵了 2.5 倍。加钱提速,明码标价,开发者现在得按需选择了。
怎么突然快这么多?
一个才上线三周的模型,怎么突然能快 5 倍?智谱首席科学家唐杰披露了背后的硬核操作:GLM-5.3 驱动的 Infra Agent,直接参与搭建并优化了这套推理系统。说白了,就是 AI 开始给自己干活了,它优化了自己赖以运行的系统,让推理更快、成本更低。不到两周时间,端到端吞吐量就提升到了初始的 3.2 倍。这形成了一个有点“套娃”的闭环:GLM 优化运行 GLM 的系统,被优化后的系统又继续承载新的 GLM。
一个才上线三周的模型,怎么突然能快 5 倍?智谱首席科学家唐杰披露了背后的硬核操作:GLM-5.3 驱动的 Infra Agent,直接参与搭建并优化了这套推理系统。说白了,就是 AI 开始给自己干活了,它优化了自己赖以运行的系统,让推理更快、成本更低。不到两周时间,端到端吞吐量就提升到了初始的 3.2 倍。这形成了一个有点“套娃”的闭环:GLM 优化运行 GLM 的系统,被优化后的系统又继续承载新的 GLM。
开发者该用哪个?
面对 Flash 和 FlashX,选择界限很清晰。如果对响应速度要求极高、需要处理高并发场景,FlashX 的 200 tokens/s 绝对能拉满体验;如果对速度没那么敏感,原来的 Flash 依然是性价比之王。更有意思的是,智谱又玩起了匿名测试的套路,新代号 Union Alpha 的模型刚上线,免费开放一周,容量几乎不限量,性能逼近 GPT-6 Astra,预期定价只有它的四分之一,而且承诺不用你的数据训练模型,有白嫖名额不妨先去试试。
面对 Flash 和 FlashX,选择界限很清晰。如果对响应速度要求极高、需要处理高并发场景,FlashX 的 200 tokens/s 绝对能拉满体验;如果对速度没那么敏感,原来的 Flash 依然是性价比之王。更有意思的是,智谱又玩起了匿名测试的套路,新代号 Union Alpha 的模型刚上线,免费开放一周,容量几乎不限量,性能逼近 GPT-6 Astra,预期定价只有它的四分之一,而且承诺不用你的数据训练模型,有白嫖名额不妨先去试试。
历史事件回溯
当前事件
智谱发布GLM-4系列大模型
- 核心能力:全面对标GPT-4,逻辑推理与代码能力大幅提升
- 上下文长度:支持128K长文本上下文
- 开源情况:开源GLM-4-9B等轻量级版本
2023年10月
智谱发布ChatGLM3系列模型
- 核心能力:原生支持工具调用、代码执行与Agent规划
- 上下文长度:支持32K上下文窗口
- 开源情况:开源ChatGLM3-6B基础模型
2023年6月
智谱发布ChatGLM2系列模型
- 核心能力:性能大幅提升,更长上下文,推理更高效
- 上下文长度:提供32K长上下文版本
- 开源情况:开源ChatGLM2-6B模型

当前文章无评论,是时候发表评论了