DeepSeek开源全栈推理组件,V4推理成本减半吞吐翻倍

源自26位全网作者

06-27 22:10

内容由AI生成

精选参考来源

1. 【#DeepSeekV4Pro大幅领先其他开源模型#】4月24日, DeepSeek全新系列模型DeepSeek-V4 的预览版本正式上线并同步开源,据介绍DeepSeek-V4 拥有百万字超长上下文,在 Agent 能力、世界知识和推理性能上均实现国内与开源领域的领先。模型按大小分为两个版本deepseek-v4-pro 和deepseek-v4-flash,其中DeepSeek-V4-Pro在 Agentic Coding 评测中,已达到当前开源模型最佳水平,并在其他 Agent 相关评测中同样表现优异;在世界知识测评中,大幅领先其他开源模型,仅稍逊于顶尖闭源模型 Gemini-Pro-3.1;在数学、STEM、竞赛型代码的测评中,DeepSeek-V4-Pro 超越当前所有已公开评测的开源模型,取得了比肩世界顶级闭源模型的优异成绩。(密度新闻)#DeepSeekV4深度适配国产算力##DeepSeek v4 百万上下文#

2. DeepSeek-V4正式上线:开源双版本+1M上下文,Pro版对标Opus,Flash版省钱神器

3. DeepSeek V4震撼发布!实现全球开源领先

4. 为什么DeepSeek V4这么强?它到底更新了啥?

5. 「Github一周热点119期」生产级Agent技能包、苹果容器工具、NVIDIA物理AI世界模型、开源客服平台和全球公开IPTV播放列表

6. 第一时间,寒武纪原生适配DeepSeek-V4!两大国产之光再次强强联合

7. 刚刚!DeepSeek开源高性能GPU算子库TileKernels

8. 黄仁勋最怕中国AI的事 DeepSeek刚刚做到了 黄仁勋最害怕事还是发生了:DeepSeek V4发布,华为昇腾超节点深度适配,全球AI圈等待已久的大事落定,聊一聊背后的三大核心真相 #ai #deepseek v4 #deepseek #黄仁勋 #梁文锋

9. #DeepSeek降价# AI大模型界的多多来了!今日,腾讯云发布调价公告,旗下DeepSeek-V4系列两款大模型将于次日起下调调用价格,调价范围涵盖推理输入、推理输出、缓存命中三类计费项目。定价细则显示,DeepSeek-V4-Pro推理输入、输出资费统一下降75%,缓存命中资费降幅97.5%;DeepSeek-V4-Flash仅下调缓存命中费用,降价幅度90%。

10. 云涨 Token 涨,DeepSeek 偏降价?其他的企业集体上调 AI 算力价格,行业 Token 成本普涨之际,DeepSeek V4 却逆势降价,V4-Flash 输出价低至 2 元 / 百万 Token,仅为竞品的 1/40,上演价格反向操作,DeepSeek的底气在哪里?系统方面,DeepSeek通过稀疏注意力革命,在同样是百万 Token 场景下,推理算力需求降至前代 10%-27%,KV Cache 占用仅 7%-10%,这就让长文本成本不升反降。V4-Pro 1.6T 参数仅激活 49B,V4-Flash 284B 参数仅激活 13B,避免 全参数计算浪费,算力利用率拉满。小模型继承大模型能力,推理成本再降 50%。在硬件方面,DeepSeek 率先全栈适配华为昇腾 950,从 CUDA 迁移至 CANN 框架。国产芯片单卡推理性能为英伟达 H20 的 2.87 倍,采购成本更低。芯模协同优化,训练推理成本较海外方案降低 70%-85%,直接对冲云厂商涨价影响。市场方面,2026 年是AI智能体落地元年,Token 消耗呈指数级增长,低成本是规模化关键。DeepSeek 采用了V4-Flash 低价走量,V4-Pro 走高端市场的市场价格策略。开源吸引开发者,降低企业落地门槛,是能够快速抢占市场份额的。DeepSeek 逆势降价,是国产 AI 摆脱海外依赖、靠技术定义成本的里程碑。这场降价,本质是国产 AI 的成本革命与话语权争夺。

11. #DeepSeekV4还有多远#之前V4一直传4月发布,现在专家模式直接用上疑似V4雏形的MoE新架构,主打深度推理解决复杂问题,和快速模式做了明确场景分层。 看DeepSeek最近节奏:1月Engram条件记忆、2月DualPath推理框架,3月还搞了V4 Lite测试,3月底宕机就是在做算力扩容。种种迹象表明V4大概率4月中下旬登场,会补齐多模态短板,整合双模式优势。

12. 刚刚,DeepSeek官方正式发布DeepSeek-V4,这个版本主打100万token超长上下文,Agent、知识、推理国内开源领先~分为两个版本:DeepSeek‑V4‑Pro:1.6T参数/激活49B,专家模式,性能比肩GPT‑5.4、Claude‑Opus、Gemini,推理/知识/代码开源第一 。DeepSeek‑V4‑Flash:284B参数/激活13B,快速模式,推理接近Pro,更快更便宜,简单Agent任务持平Pro。定价方面:Pro更贵、Flash平价;Pro下半年算力扩容后预计会大幅降价~

13. Xiaomi MiMo-V2.5-Pro 的 UltraSpeed 模式,在通用 GPU 上将万亿参数模型的生成速度首次突破 1000 tokens/s!从4月份MiMo-V2.5-Pro跻身全球开源并列第一,5月宣布推理优化实现全面调价,再到如今刷新全球最快推理速度,小米MiMo一个半月三次关键突破,推理工程能力真正跻身全球第一梯队,加油!

14. DeepSeek V4 + Open WebUI + Hermes = 我帮你搭的私人AI员工!

15. 本地运行大模型推理经常需要复杂配置,llama.cpp 通用性强但针对性不足,各种框架兼容性问题层出不穷,调试优化耗时费力。ds4 把 DeepSeek V4 Flash 的本地推理优化到极致,提供了专为 Apple Silicon 的高性能 Metal 推理引擎。不仅支持 100 万 token 超长上下文、高质量思考模式,还提供磁盘 KV 缓存持久化、OpenAI/Anthropic 兼容 API,甚至 2bit 量化在 128GB MacBook 上流畅运行。GitHub:github.com/antirez/ds4主要功能:- Metal 专用 DeepSeek V4 Flash 推理引擎,M3 Max 达 84 t/s;- 100 万 token 上下文窗口 + 超压缩 KV 缓存,支持磁盘持久化;- 兼容 OpenAI/Anthropic API,支持工具调用和 SSE 流式输出;- 2bit/4bit 特殊量化,128GB RAM MacBook 即可运行 284B 参数模型;- 多种思考模式(normal/max),思考长度随问题复杂度自适应;- CLI 交互 + Server 模式,完美适配 coding agent(如 opencode、Pi)。支持 macOS(Metal),make 编译后即可运行,适合开发者、研究者和 AI 爱好者。#DeepSeek##本地大模型##AppleSilicon#

16. Claude 被开源了?Qwythos-9B 突然发布!无审查、104万上下文、4GB 显存可跑!附本地部署 | 零度解说

17. DeepSeek V4 预览版本上线并同步开源,哪些亮点值得关注?

18. DeepSeek V4 预览版本上线并同步开源,哪些亮点值得关注?

19. DeepSeek连开两源:FlashMLA+DeepEP让推理成本砍半

20. DeepGEMM:DeepSeek开源的GPU内核利器,LLM推理加速的秘密武器

21. LLM 推理提速神器!DeepSeek开源 TileKernels,GPU性能逼近极限

22. DeepSeek新论文剧透V4新框架,用闲置网卡加速智能体推理性能,打破PD分离瓶颈

23. 吞吐量提1.96倍 DeepSeek双路径架构 破解大模型推理瓶颈

24. 宝塔推理模组首批支持DeepSeek‑V4,新一代开源大模型推理进入产业落地期

25. vLLM 登顶 Artificial Analysis 推理榜:DeepSeek V3.2 / MiniMax-M2.5 / Qwen 3.5 397B

26. 释放 H200 全部潜力:DeepSeek-V3.2 推理性能提升 161% 的优化秘籍

1
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章