一项名为CUDA-L2的开源AI系统，通过结合大模型与强化学习，在英伟达GPU上自动寻优矩阵乘法核心，其性能首次超越了英伟达官方的闭源库cuBLAS。这项技术突破有望直接提升大模型运行效率，对打破行业技术壁垒具有重要意义。
智能速览
CUDA-L2在A100 GPU上比英伟达cuBLAS快19%至26%。
系统利用AI模型和强化学习，自动搜索最优程序实现方案。
矩阵乘法性能提升将成比例加快大模型的运行效率。
成果已开源，旨在推动工业界实际应用并打破技术壁垒。
精华内容
矩阵乘法是AI计算的基石，其优化难度极高。那么，一个AI系统是如何实现超越顶尖人工优化的呢？
AI计算的基石
矩阵乘法是AI模型中最基础且最耗时的计算操作，几乎构成了所有智能计算的基石，从图像生成到语言理解都离不开它。然而，在GPU上高效执行这一操作极具挑战，需要工程师针对不同硬件和问题规模进行复杂且耗时的手动调整，以合理分配计算任务并优化数据流。
这项工作的核心难点在于，如何充分利用GPU上成千上万的计算核心，并让数据在高速但有限的内存间高效流转，不同规模的矩阵需要完全不同的优化策略。这长期是顶级工程师的专属领域。
AI担当设计师
CUDA-L2系统引入了一个全新的设计师：一个经过海量代码训练的大模型。该模型本身就具备丰富的编程知识，但要成为优化大师，还需强化学习的训练。
系统不会直接教授模型如何编写，而是设定一个以实际运行速度为目标的奖励机制。模型尝试生成不同的计算程序，系统通过实际运行来打分，运行越快分数越高，反之则扣分。经过数百万次的尝试，模型逐渐摸索出编写超高速矩阵乘法程序的秘诀，甚至能根据硬件性能报告进行微调。
超越与开源的意义
在A100高性能GPU上的系统性评测中，CUDA-L2生成的程序比英伟达官方的cuBLAS库快19%，在模拟真实服务器环境中优势扩大至26%。
这一性能提升的直接影响是巨大的。大模型超过一半的GPU计算时间都消耗在矩阵乘法上，因此其性能提升将成比例地加速大模型运行。据估算，矩阵乘法速度提升10%，可能为全球GDP带来约4400亿美元的增长。更重要的是，这项成果已开源，为打破技术壁垒、促进整个行业进步提供了可能。
CUDA-L2的出现展示了AI优化底层代码的巨大潜力，为算力瓶颈提供了新的解决方案。随着这类技术的成熟，未来的AI应用是否将迎来一轮全面的效率革命？
