别再说华为芯片不行！份额已超英伟达

华为昇腾的份额已经悄悄地超过了英伟达, 灵衢互联更加打算把百万颗芯片拧到一块儿去变成一台巨型计算机, 这一招棋子比大家想象得还要深远得多。

份额反转不是吹出来的

徐直军没有公布具体的具体数字, 他只是说在那些能够统计到的数据里面, 昇腾已经超过了英伟达, 这个限定词本身的含义就是说明实际存在的差距, 可能还要变得更大一些, 因为关于英伟达在中国市场的真实的份额, 外界本身就算不清楚。

华为能够超越, 绝对不是在一夜之间就突然发生的。从通信领域, 一直到IT领域, 再至于现在的AI算力领域, 在长达十几年的时间里, 一直都在不断地增加产能。

徐直军曾经表示过, 目前的供应数量已经到达了非常可观的规模, 可是想要做到根据需求来决定供应多少这件事, 这并不取决于华为这一家公司单方面的能力如何, 而是需要整个中国产业界共同参与和决定的。

灵衢把几公里外的芯片拧成一台机器

对于NVLink技术而言, 它仅仅负责处理机柜内部的数据通信, 而各个机柜之间的连接则是依靠以太网来实现的, 这使得其传输速度存在极大的差距, 两者相差了好几个数量级, 因此在扩展性能方面有着明显的瓶颈和上限。

华为推出的灵衢解决方案采用的是统一的协议标准, 无论是在机柜内部还是在不同机柜之间，甚至是在园区内以及跨区域的场景中, 都能保持传输速率的一致性, 尽管在物理距离上已经拉开了几公里的间隔, 但在逻辑层面, 它们却被视为同一台计算机在进行运作。

其实, 这套东西并不是在受到制裁之后才开始研发的。早在之前, 华为就已经正式立项了。当时他们判断说, 如果想要支撑起大规模的算力和推理任务, 就必须更换底层架构。

正因为如此, UB被划归到了计算部门去负责, 而不是放在网络部门里面。这么做的主要目的, 就是为了同时攻克高速传输、低时延以及统一协议这三个难点。

950DT明年开始扛训练大梁

华为方面和各个模型制作厂家进行了非常多且频繁的交流与沟通, 经过一系列测试之后所得到的反馈结果表明, 950DT在进行训练任务时的实际表现是非常不错的。徐直军做出了一项预判, 那就是从明年这一年起, 绝大部分大规模的模型训练工作将会集中在950DT这个超节点之上去执行。

然而, 尽管硬件表现良好, 但是在软件生态建设以及编程范式这两个具体方面, 仍然存在许多需要完善的地方, 这也成为了众多模型制作厂家现阶段集中呼吁要求重点改进的核心方向所在。

在两年之前的时段之内, 整个学术界的研究工作都是建立在CUDA这个平台之上的状态。PyTorch结合CUDA被视为一种默认的、标准的搭配方式。而相比之下, 昇腾软件层面所面临的障碍是非常巨大的, 程度非常深。

现在情况出现了变化, 新型的编译器语言正在逐步地起到平衡各种壁垒的作用。前沿实验室内部的编程风格正在发生转向, 开始趋向于使用超大规模的内核来进行开发操作。这种变化导致了对CUDA的依赖程度呈现出下降的趋势。

中美AI节奏根本不对等

徐直军指出一个让人心里很不是滋味的事实, 中国的大模型几乎是全部都采用了开源的模式, 所以发展到了什么样的程度是清清楚楚明白的, 而在美国那边, 顶尖的厂商拥有的算力是非常强的, 至于到底训练到了多大规模的模型, 外面的人是一点都不知道的, 只有他们自己是心里有数的。

在未来两年的时间段里, 中国预计将会涌现出大约6到7个前沿实验室, 这些机构的目标全部都指向了去训练拥有10万亿参数到40万亿参数量级这样规模的基础模型。

与此同时, 美国的厂商那边正在呼吁要稍微放缓一下节奏, 面对这个情况, 徐直军的回答显得非常直白和直接, 他表达的意思是说, 只有当中国真正感受到了那种特定的风险来临的时候, 才会有可能跟美国那些头部大厂产生同样的感觉, 所以现在的情况是不得不加快脚步往前推进。

电力和产能是绕不过的硬墙

对于单个园区来说, 电力输送的设计工作是一个具体的事项。在这个基础上, 二十万颗芯片的数量被视为了一个保守的计算数值。在全球范围内的产业界中, 大家并没有预先为人工智能这种像浪潮一样突然产生的巨大增长情况去做好准备。

同时, 供应和需求之间的平衡状态还需要叠加诸如共封装光学技术与近光互连技术等多种技术变数在内的影响。因此, 整体发展的节奏是非常难以进行精确预测的。

华为自身同时从事光器件的生产, 并且也制造光模块, 此外还研发昇腾芯片, 因此, 它在NPO技术与CPO技术之间进行了抉择, 最终确定了采用NPO方案, 徐直军曾指出, 若从工程实施、成本控制、后期维护以及良品率等多个角度来看, 在相当长的一段时间内, NPO都是最合理的选择, 所以Hi-ONE内置光源这一方案将会很快实现量产。