DeepSeek开源昇腾组件实测:换国产芯片跑模型,适配成本降到什么水平

源自155位全网作者

09-30 23:35

内容由AI生成

精选参考来源

1. DeepSeek开源昇腾基础组件,联手华为优化128卡超节点_中华网

2. DeepSeek加速向华为靠拢-36氪

3. DeepSeek官方开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态 – 量子位

4. 3款AI办公工具实测:豆包、DeepSeek、千问怎么选?

5. 昇腾910B上部署DeepSeek V4-Flash的一些实战思考

6. 主流大模型能力边界:混元、GPT-4o、Claude3.5、Llama3、Qwen、DeepSeek横向对比22.6-腾讯云开发者社区-腾讯云

7. DeepSeek适配华为昇腾,国产AI算力生态迎来关键转折点

8. 别急着买电脑本地部署模型!新手先用API入门

9. IT九熙的微博

10. DeepSeek开源昇腾基础组件,与昇腾共建高效易用的AI芯片软件生态__财经头条__新浪财经

11. DeepSeek开源华为昇腾全套组件,国产AI底层工具链实现平替|DeepGEMM|DeepEP|FlashMLA|英伟达|通信_新浪新闻

12. 哪个品牌语音助手最智能?文心一言用“不瞎编”拿下第一+FAQ|指令|DeepSeek|百度|免费|数据_新浪新闻

13. 一图懂哪款AI大模型最适合你——国内五大主流通用大模型对比_DeepSeek_文心一_星火

14. 彭博社报道(真假难辨),DeepSeek据称已向华为订购16万颗昇腾950DT芯片,每颗昇腾950DT芯片的售价约为11.1万元人民币,用于其位于内蒙古的新建1GW数据中心。阿里巴巴、字节跳动和腾讯已对华晶片下达大规模订单,总量达数十万枚。 昇腾依托达芬奇架构、灵衢互联与CANN全栈体系,在国内大规模AI推理集群具备显著优势。 短板集中在CANN生态成熟度不足,先进制程、HBM产能存在供给约束。 当前国内格局:昇腾主打推理算力替代,与英伟达形成训推混合部署,领先国内其他AI芯片厂商。

15. Deepseek 再次做到了不可能的事

16. 上一期证明这台 M5 Ultra 什么都跑得动,这一期回答「到底哪个大模型配当主力」。\n选型标准就两条:公开评论较热,加上能在这台 256G 上流畅跑起来。跳过没参考价值的短问答,直奔高上下文,分档实测 87 例:\n· 大海捞针:字符档 8K128K × 5 位置、token 档 64K256K × 3 位置\n· 多步 Agent 三步链:查报价 → 查信用 → 算总账\n· 关键解释:DeepSeek 为什么只能用 2.4bit 极限量化(4bit 要磁盘缓存,速度没法用)\n· 速度分两档、读入/生成/首字三项分开看:\n 128K 字符:Flash-Next 读入 3487 · 生成 103 tok/s 全场最快\n 256K token:Flash-Next 读入 2904 · 生成 69,另两家读入 760 多、生成三四十\n· 功耗:待机 20~29W · 满载 319W\n结论不是谁强谁弱,是看内存:96G 选 27B,256G 上 Flash-Next,要 1M 窗口才用 DeepSeek。失败案例全保留,原始 JSONL 逐条可回溯。\n完整实测表格见置顶评论。\n#MacStudio、 #M5Ultra、 #本地大模型、 #DeepSeek、 #Qwen、

17. 每个 token,只要 890 字节|DeepSeek-V4.1-Flash 怎么压缩 KV Cache【论文精讲】

18. DeepSeek 桌面版悄悄上线:安装教程 + 3 个办公技巧

19. DeepSeek落子乌兰察布, AI进入物理基建时代

20. 本地部署DeepSeek没那么难 硬件要求+完整安装流程,小白友好教程

21. DeepSeek适配华为昇腾,国产AI算力生态迎来关键转折点

22. 昇腾910B上部署DeepSeek V4-Flash的一些实战思考

23. DeepSeek V4部署实践:昇腾910B vs H100推理性能对比 — 基于MoE架构的多卡推理优化与选型指南_架构_安易算力-DeepSeek技术社区

24. 昇腾NPU多机部署DeepSeek-R1:从零到推理的实践与避坑指南-CSDN博客

25. DeepSeek开源昇腾版“AI工具箱”:从TileLang到通信库,国产算力生态再进一步

26. 60%用户已装插件,DeepSeek Harness的“一切皆插件”进入第二阶段

27. 朋友一句话点醒我:DeepSeek这4个功能,很多人一个都没用过

28. 朋友点我手机3下,我才发现DeepSeek白用了

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章