GPU算力强成这样大模型推理还是慢？这项无损加速技术让速度直接翻倍
06-30 18:56
精选参考来源
精选参考来源
1. 推测解码（Speculative Decoding）深度解析
知乎 2026-05-26 00:00:00
2. 推测解码：让大模型推理快3倍的小聪明
微信公众号 2026-06-13 00:00:00
3. 简单聊聊：推测解码技术，大幅提升AI大模型本地部署推理效率
微信公众号 2026-01-31 00:00:00
4. 推理速度再突破：DFlash 并行推测解码，LLM 吞吐量提升 4 倍以上
微信公众号 2026-06-23 00:00:00
5. 从暴力堆算力到系统级调优：推测性解码的双线突破
微信公众号 2026-05-07 00:00:00
6. vllm推测代码横测
微信公众号 2026-04-24 00:00:00
7. 大模型提速的秘诀，推测解码技术，本地加速500token/s
今日头条 2026-06-12 00:00:00
8. 推测就是你所需要的一切！
微信公众号 2026-06-25 00:00:00
9. SpecKV: 自适应推测解码的压缩感知 Gamma 选择
微信公众号 2026-05-06 00:00:00
10. JetFlow：突破推测解码天花板，清华团队提出并行树草稿框架
微信公众号 2026-06-19 00:00:00
11. 推测解码技术内幕：Gemini 3 Pro镜像如何在办公问答中实现毫秒级响应 - 哔哩哔哩
哔哩哔哩 2026-04-22 00:00:00
12. DeepSeek 发布 DSpark：推测解码如何让大模型推理速度再翻倍？
微信公众号 2026-06-29 00:00:00
13. 我手测了推测解码：a=3.5 还是输了
微信公众号 2026-06-29 00:00:00
14. 今日焦点：推测解码的成年礼
微信公众号 2026-06-26 00:00:00
15. llama.cpp接入MTP推测解码！3090实测最高2.44倍暴涨
今日头条 2026-05-19 00:00:00
16. 拆解DeepSeek DSpark：支撑其推理加速的底层技术——推测解码
微信公众号 2026-06-28 00:00:00
17. 推测解码能给普通用户带来什么好处
新浪财经 2026-06-28 00:00:00
18. SOAR 周冠军笔记09 | 香草小张： LK^λ 损失与推测解码接受率提升
微信公众号 2026-05-17 00:00:00
19. ICLR25 oral：LLM同时拥有推测解码+级联路由
知乎 2026-03-13 00:00:00
20. 【TLT论文解析】驯服长尾：强化学习训练中的自适应推测解码
微信公众号 2026-06-08 00:00:00
21. ICLR 2026 — FLy: 一种用于推测解码的新范式 - 哔哩哔哩
哔哩哔哩 2026-05-07 00:00:00
已收藏
去我的收藏夹