内存涨价,买不起电脑的我只好把独显插到 ARM 开发板上面跑 AI (Radxa O6N + RTX 3070)

源自UP主:RPG-Lover

02-12 12:38

面对高昂的PC配置成本,一种将ARM开发板与NVIDIA独立显卡结合的方案应运而生。这项实验不仅验证了技术可行性,还为预算有限但又追求AI算力的用户提供了新思路,展现了硬件搭配的更多可能性。

内存涨价,买不起电脑的我只好把独显插到 ARM 开发板上面跑 AI (Radxa O6N + RTX 3070)智能速览

  • 成功将RTX 3070显卡连接到Radxa Orion O6N ARM开发板。

  • 使用PCIe转向板解决了安装空间问题,实现了稳定运行。

  • 在Linux 6.17内核下成功安装NVIDIA 590私有驱动与CUDA 13。

  • 通过ComfyUI运行Z-image-Turbo模型,成功生成了AI图像。

  • 2K分辨率图像生成速度较慢,并出现了GPU运行中断的情况。

内存涨价,买不起电脑的我只好把独显插到 ARM 开发板上面跑 AI (Radxa O6N + RTX 3070)精华内容

将原本用于x86平台的N卡插到ARM板上,这听起来像是天方夜谭,但实际效果究竟如何?

硬件组装方案

核心硬件采用Radxa Orion O6N开发板与RTX 3070显卡。开发板搭载8个A720大核心与32GB内存,提供了基础的ARM运算能力。为了解决显卡体积与开发板尺寸不匹配的问题,采用了一个PCIe转向板,将显卡横向放置,并用硬纸板进行物理支撑,确保了连接的稳固性。

驱动环境配置

软件层面选择了Linux 6.17内核的Ubuntu 24.04.1 LTS系统。关键一步是从NVIDIA官方仓库成功安装了版本为590的私有驱动,并配置了CUDA 13环境。通过运行nvidia-smi命令,系统正确识别了GA104 [GeForce RTX 3070 Lite Hash Rate]显卡,驱动程序工作正常。

AI性能实测

在激活Python虚拟环境后,启动了ComfyUI,并使用Z-image-Turbo GGUF模型进行文生图测试。在标准分辨率下,图像生成任务成功执行,显卡负载被有效调用。对生成图片进行2倍超分辨率处理,效果清晰可辨。但尝试直接生成2K分辨率图像时,速度明显变慢,并最终因超时而中断。

这项实验证明了ARM平台与NVIDIA显卡协同工作的可行性,为低成本AI方案提供了参考。虽然在高负载下仍有挑战,但这种跨平台的探索无疑为DIY爱好者开辟了新天地,未来还能挖掘哪些潜能?

内存涨价,买不起电脑的我只好把独显插到 ARM 开发板上面跑 AI (Radxa O6N + RTX 3070)关键评论

  • 有人期待看到用该配置通过Steam运行Windows游戏的效果。

  • 有网友指出,虽然方案新颖,但O6N开发板本身的价格并不低廉。

  • 部分读者惊讶于ARM架构CPU能够成功驱动NVIDIA独立显卡。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章