面对外部技术限制和巨大的算力代差,国产大模型如何突围?这场演讲揭示了真实的技术挑战与解题思路,核心在于算法创新与生态共建,而非单纯硬件追赶,为理解国产AI的现状与未来提供了独特的视角。
智能速览
华为昇腾910B是目前国内唯一成功迁移千亿大模型的国产芯片。
国产算力生态缺失是最大挑战,初期模型训练效率仅达英伟达的25%。
科大讯飞与华为联合优化,将模型训练效率从20%提升至95%。
基于国产算力训练出293B参数MOE模型,可在单台服务器部署。
掌握底座模型能力,是未来在垂直行业实现全球领先的关键。
精华内容
面对算力代差与生态短板,国产大模型如何破局?答案并非单纯堆砌硬件,而是在算法创新与生态共建中寻求突围。
算力现状与挑战
华为昇腾910B在算力(313T)和带宽(392G)上接近美国限售的A800芯片,成为国内唯一正式支持千亿级大模型训练的国产芯片。但与英伟达已迭代数代的H100、B100相比,910B仍落后一到两代。真正的挑战在于,如何在有限算力下,通过更少的数据和更小的模型,实现与国际顶尖水平对标。
生态共建与效率攻坚
国产算力最大的短板是生态。早期,在昇腾910B上训练模型效率只有英伟达平台的20%-30%,训练周期和成本成倍增长。为此,科大讯飞与华为组建特战队联合攻关,针对GPT框架进行深度优化,将快思考模型的训练效率从25%提升至95%。面对2025年深度思考模型带来的新挑战,他们再次将效率从30%以下优化至84%。
MOE模型的破局
MOE(专家模型)架构为国产算力带来新机遇。然而初期在国产芯片上效率仅为英伟达的30%,一个原本耗时一个月的模型训练需要拖长到四到五个月。通过持续的算子优化,讯飞成功在国产算力上训练出拥有293B参数的MOE模型,参数量仅为行业主流的一半甚至更小,但性能强大。
单机部署与行业领先
这款293B的MOE模型实现了技术突破,成为国内首个将训练与推理整合、可在单台昇腾服务器上部署的深度推理模型。这标志着国产大模型掌握了核心技术底座。凭借这一基础,未来可快速在汽车、机器人、教育、医疗等垂直领域打造行业模型,目标不再是追赶对标,而是实现全球领先。
在国产算力的征途上,硬件追赶只是起点,算法优化与生态构建才是决胜的关键。从昇腾910B的效率提升到单机部署的MOE模型,我们看到了一条可行的技术路径。未来,当这套自主可控的底座在千行百业落地生根,真正的竞争优势才会显现。
关键评论
网友就华为GPU的FP32精度使用提出技术性质疑。
有观点指出,科大讯飞此前使用的服务器账号仍是英伟达H100和A100芯片,与当前说法存在矛盾。
部分评论认为,此类发展依赖国家补贴,本质上是“花国家的钱补贴华为”。