挖掘新风口 | 面向GPU编程

在软件领域不断内卷的今天，一个新的领域正在蓬勃发展，那就是AI加持下的GPU编程，它可能是未来IT从业人员的又一个风口。

可能你有所不知，现在全球市值最大的公司，正是GPU的生产厂家—英伟达，市值32万亿人民币。

2025年1月，Deepseek横空出世，打破了美西方对中国大模型的封锁，如今又开始对算力进行封锁，国内厂商也正在寻求国产替代的方案。

不过，诸如Deepseek等国内大模型公司，主要使用的是NVIDIA GPU作为核心平台，而英伟达的计算平台又完全依赖CUDA生态，所以要想完全突破封锁，需要从零构建底层的GPU硬件架构和其配套的软件生态。

初识GPU

GPU全名为 Graphics Processing Unit，又称视觉处理器、图形显示卡。GPU负责渲染出2D、3D、VR效果，主要专注于计算机图形图像领域。后来人们发现，GPU非常适合并行计算，可以加速现代科学计算，GPU也因此不再局限于游戏和视频领域。

随着自动驾驶、智能机器人、脑科学、金融科技、工业检测、国防军事等大量应用深度学习、大模型等AI技术，对于算力的依赖就越来越明显了。

简单的来说，传统的CPU就像一个大学生处理一个任务，GPU就像几千个小学生同时处理这个任务的一部分，再最终把各自的结果合并起来，所以GPU在特定领域，尤其是纯数字计算方面的性能尤为突出。

GPU进阶

传统的代码程序在CPU执行时，数据存放在内存之中，执行时通过Bus数据总线传输至CPU寄存器中，再进行位运算。

而加入GPU程序的代码，其执行方式却大大不同了。GPU程序执行前，需要将数据从内存拷贝到GPU的内存，即显存中，执行完成后还需要将数据再拷贝回内存中，如下图所示：

快速入门

假设你的电脑上已经准备好了GPU相关设备与运行环境，暂时没有也没关系，后续会有详细教程。