RK3588跑大模型实测：25-30 tokens/s、内存低于1.2GB，4GB版就能本地跑AI
17:40
精选参考来源
精选参考来源
1. RK3588板端部署Deepseek-R1大模型：NPU加速、RKLLM转换与Ollama对比实践
CSDN文库 2026-03-12 00:00:00
2. 边缘计算基于RK3588的Qwen-1.5B大模型C++部署：LLM推理引擎集成与生产级应用开发
CSDN下载平台 2026-06-05 00:00:00
3. OrangePi 5详测：RK3588S NPU推理实测与树莓派5算力效率对比分析
电子发烧友网 2026-05-09 00:00:00
4. 开发者自建千核服务器，这块板为何被偏爱？
GitCode 2026-05-25 00:00:00
5. 【RK3588-AI-013】RK3588端侧AI模型选型：适合NPU加速的轻量化模型详解
CSDN博客 2026-05-02 00:00:00
6. RK3588 x Qwen-1.5B C++ 部署实战指南
CSDN博客 2026-06-05 00:00:00
7. RK3588端侧混合算力轻量化多模态（方案篇）
今日头条 2026-07-24 00:00:00
8. Ubuntu22.04下RK3588边缘主板端推理运行Qwen大模型
CSDN 2026-07-27 00:00:00
9. 大模型本地部署：端侧 LLM/VLM 实现机械臂自然语言指令控制
DAMO开发者矩阵 2026-08-05 00:00:00
10. 香橙派5 RK3588 RKNN部署实战：从YOLOv8模型量化到C++板端推理全流程解析
CSDN博客 2026-04-06 00:00:00
11. 香橙派5 NPU性能实测：yolov5在RK3588上的推理速度到底有多快？
CSDN博客 2026-03-23 00:00:00
12. 香橙派5 NPU性能实测：yolov5在RK3588上的100fps推理优化技巧
CSDN文库 2026-04-02 00:00:00
13. 端侧AI怎么落地？慧为智能RK1828+RK3588/RK3576嵌入式主板方案，破解大模型推理"内存墙"
今日头条 2026-07-29 00:00:00
14. 《创龙 RK3588 离线部署 AI 模型推荐列表》
空云风语 2026-08-06 00:00:00
15. 香橙派5 RK3588 RKNN实战：从零搭建YOLO11模型训练与NPU部署全链路 (2024.11)
CSDN博客 2026-03-24 00:00:00
16. RK3588 NPU AI环境部署避坑指南：手把手带你打通 RKNN 开发链路
哔哩哔哩 2026-05-09 00:00:00
17. 创龙 RK3588 单板 / 工控机 NPU 开发手册
CSDN博客 2026-07-01 00:00:00
18. RK3588嵌入式AI开发实战：从环境搭建到YOLOv8模型部署全解析
CSDN文库 2026-07-30 00:00:00
19. 比树莓派还香？OrangePi 5系列解读，三款RK3588板子深度对比
今日头条 2026-06-02 00:00:00
20. RK3588 NPU性能实测：yolov5在香橙派5上的优化技巧与帧率对比
CSDN博客 2026-03-26 00:00:00
21. 香橙派5跑DeepSeek-R1实测：RK3588的NPU比CPU快多少？附详细性能对比数据
CSDN文库 2026-03-05 00:00:00
22. 香橙派5 NPU性能实测：用Yolov5s/n/m/l不同模型对比推理速度与精度
CSDN文库 2026-04-08 00:00:00
23. Qwen3.5-2B边缘部署指南：RK3588平台适配与OpenVINO加速尝试
腾讯云开发者社区 2026-04-13 00:00:00
24. 嵌入式大模型部署：从 LLaMA-3 到 Qwen-1.5，在 RK3588 上实现本地 AI 推理（含模型量化教程）
CSDN博客 2026-05-27 00:00:00
25. 【NEWS】重磅升级更新！5大方案升级 干货满满 ，米联客瑞芯微RK3588 SOC开发板从多路视频到边缘计算！
常州米联客信息科技有限公司 2026-06-04 00:00:00
26. 保姆级教程！在RK3588开发板上本地流畅运行DeepSeek-R1蒸馏大模型
DevPress 2026-07-22 00:00:00
27. WAIC探展瑞芯微：AIoT 2.0时代打造“中国端侧AI CUDA”
今日头条 2026-07-19 00:00:00
28. 自动售货机端侧AI推理部署实战：从YOLOv11n到RK3588的全链路工程实践
CSDN博客 2026-08-04 00:00:00
29. RK3588选型指南：瑞芯微旗舰SoC系列对比与边缘AI/车载应用选型建议
DevPress 2026-06-26 00:00:00
30. 2026年选购香橙派Orange Pi 5 Plus开发板，RK3588八核与8K解码能力如何匹配需求？
淘宝百科网 2026-08-10 00:00:00
31. RK3588核心板 飞凌嵌入式旗下产品 | 工业级8K AI高性能嵌入式核心板
飞凌嵌入式 2026-05-09 00:00:00
32. 推理专场 | 行深智能开源框架EdgeFM：专为边缘端场景优化的通用大模型推理引擎
微信公众号 2026-05-28 00:00:00
33. OrangePi 5详测：RK3588S NPU推理实测与树莓派5算力效率对比分析
电子发烧友网 2026-05-09 00:00:00
34. 比树莓派还香？OrangePi 5系列解读，三款RK3588板子深度对比
今日头条 2026-06-02 00:00:00
35. 香橙派5 NPU性能实测：yolov5在RK3588上的推理速度到底有多快？
CSDN博客 2026-03-23 00:00:00
36. 香橙派RK3588上跑YOLOv5，我踩过的那些坑：从检测框乱飞到稳定部署的完整复盘
CSDN文库 2026-04-04 00:00:00
37. 嵌入式实测：RK3588 的 NPU 跑大模型到底值不值
微信公众号 2026-07-18 00:00:00
38. 香橙派RK3588上开发OpenAI兼容接口，支持OpenWebUI、CherryStudio等外部程序调用NPU大模型
知乎 2026-03-23 00:00:00
39. 国内主流算力开发板测评，今天是华为Atlas 200I DK A2，香橙派 AIpro，RK3588 开发板
知乎 2026-06-05 00:00:00
40. 20 TOPS 外挂算力到位，iTOP-RK3588/RK3576 正式解锁端侧大模型部署
微信公众号 2026-07-22 00:00:00
41. RK3588主板开源鸿蒙AI视觉检测，基于YOLO大模型部署
哔哩哔哩 2026-05-19 00:00:00
42. 机器人芯片供应商瑞芯微成长为AIoT SoC芯片领域领军企业，成功打破海外垄断。 20多年来，瑞芯微在集成电路积累大规模设计经验，持续围绕音频、视频、感知、软件四大方向创新突破，构建全场景处理器矩阵，为工业、教育、医疗等行业客户加速智能化升级。 如今，公司成长为国内AIoT SoC芯片领域的领跑者，并收获歌尔股份、汇川技术、比亚迪、索尼等客户。 不仅如此，公司在2021年底推出的RK3588，是目前国内唯一能替代高通、海思产品的高端芯片。 近年，随着国内外AI大模型迭代升级、模型能力持续提升，端侧大模型性能表现随之提高，这大幅提升AIoT设备的“智能化”，为AIOT开启2.0全新的时代。 最近在做基于 RK3588 芯片运行 YOLOv5 目标检测模型的开发，过程还挺有收获的，和大家分享下。 RK3588 芯片本身算力很强，有6TOPS，我使用是香橙派开发版，不开NPU 来加速 YOLOv5 的推理，帧率只有十几帧。开发时，先对 YOLOv5 模型进行了适配和优化，确保能在 RK3588 的 NPU 上高效运行。然后，我尝试开启 NPU 的多线程能力，最终成功用三个线程来并行处理推理任务。这一优化效果很显著，模型的检测帧率直接提升到了 60 帧，从实际运行的画面（像道路场景、人物场景检测等）能看到，无论是车辆、行人还是其他物体，都能被快速且准确地识别、框选，检测过程十分流畅，几乎没有延迟。
小红书 2026-03-01 00:00:00
43. 【实战】8GB 卡片 SBC 跑多模态大模型：我把 Qwen3-VL 2B 塞进了可乐派
知乎 2026-06-02 00:00:00
44. 香橙派养虾硬件选型及部署方式全攻略：从入门体验到企业级推理
知乎 2026-03-25 00:00:00
45. OpenClaw 树莓派 / 香橙派部署
知乎 2026-04-06 00:00:00
46. 基于香橙派RK3588部署目前最新最强OCR识别PP-OCRv6的RKNN模型教程
微信公众号 2026-07-24 00:00:00
47. 想用RK3588在边缘端跑大模型？你的算力还差多少？
微信公众号 2026-04-11 00:00:00
已收藏
去我的收藏夹