科大讯飞刘庆峰:华为昇腾910B是主流

源自小红薯:山椒树下

01-22 14:21

面对外部技术限制和巨大的算力代差,国产大模型如何突围?这场演讲揭示了真实的技术挑战与解题思路,核心在于算法创新与生态共建,而非单纯硬件追赶,为理解国产AI的现状与未来提供了独特的视角。

科大讯飞刘庆峰:华为昇腾910B是主流智能速览

  • 华为昇腾910B是目前国内唯一成功迁移千亿大模型的国产芯片。

  • 国产算力生态缺失是最大挑战,初期模型训练效率仅达英伟达的25%。

  • 科大讯飞与华为联合优化,将模型训练效率从20%提升至95%。

  • 基于国产算力训练出293B参数MOE模型,可在单台服务器部署。

  • 掌握底座模型能力,是未来在垂直行业实现全球领先的关键。

科大讯飞刘庆峰:华为昇腾910B是主流精华内容

面对算力代差与生态短板,国产大模型如何破局?答案并非单纯堆砌硬件,而是在算法创新与生态共建中寻求突围。

算力现状与挑战

华为昇腾910B在算力(313T)和带宽(392G)上接近美国限售的A800芯片,成为国内唯一正式支持千亿级大模型训练的国产芯片。但与英伟达已迭代数代的H100、B100相比,910B仍落后一到两代。真正的挑战在于,如何在有限算力下,通过更少的数据和更小的模型,实现与国际顶尖水平对标。

生态共建与效率攻坚

国产算力最大的短板是生态。早期,在昇腾910B上训练模型效率只有英伟达平台的20%-30%,训练周期和成本成倍增长。为此,科大讯飞与华为组建特战队联合攻关,针对GPT框架进行深度优化,将快思考模型的训练效率从25%提升至95%。面对2025年深度思考模型带来的新挑战,他们再次将效率从30%以下优化至84%。

MOE模型的破局

MOE(专家模型)架构为国产算力带来新机遇。然而初期在国产芯片上效率仅为英伟达的30%,一个原本耗时一个月的模型训练需要拖长到四到五个月。通过持续的算子优化,讯飞成功在国产算力上训练出拥有293B参数的MOE模型,参数量仅为行业主流的一半甚至更小,但性能强大。

单机部署与行业领先

这款293B的MOE模型实现了技术突破,成为国内首个将训练与推理整合、可在单台昇腾服务器上部署的深度推理模型。这标志着国产大模型掌握了核心技术底座。凭借这一基础,未来可快速在汽车、机器人、教育、医疗等垂直领域打造行业模型,目标不再是追赶对标,而是实现全球领先。

在国产算力的征途上,硬件追赶只是起点,算法优化与生态构建才是决胜的关键。从昇腾910B的效率提升到单机部署的MOE模型,我们看到了一条可行的技术路径。未来,当这套自主可控的底座在千行百业落地生根,真正的竞争优势才会显现。

科大讯飞刘庆峰:华为昇腾910B是主流关键评论

  • 网友就华为GPU的FP32精度使用提出技术性质疑。

  • 有观点指出,科大讯飞此前使用的服务器账号仍是英伟达H100和A100芯片,与当前说法存在矛盾。

  • 部分评论认为,此类发展依赖国家补贴,本质上是“花国家的钱补贴华为”。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章