几十块开发板能跑大模型?这个80KB项目给出答案

源自38位全网作者

14:01

内容由AI生成

精选参考来源

1. 10美元板子,45MB内存,跑10亿参数大模型——PicoLM把LLM推理拉到嵌入式极限

2. PicoLM:在10美元的小板子上跑10亿参数的大模型!

3. 【10美元硬件跑大模型:PicoLM把A

4. 10 美元开发板跑 10 亿参数大模型!picolm 纯C 零依赖离线推理

5. 聊聊 Claw 家族:“龙虾“该怎么选?

6. PicoLM:纯 C 的 1B 小模型推理引擎,45MB 内存跑在 $10 板子上

7. 吃灰板子利旧系列--RK3566养马养虾及PicoLM体验

8. 大模型-picolm

9. PicoClaw - 从免费的本地“皮皮虾”开始养起

10. 10美元开发板跑通1B大模型!纯C手搓,离线可用,这项目太硬核了

11. PicoLM仅7.5MB开源框架,百元单片机实现十亿参数LLM本地运行

12. PicoLM:在10美元开发板上离线运行10亿参数大模型的极致优化实践

13. :MaxClaw 与 AI 智能体全景

14. 今日问题-端侧npu和云端npu跑llm推理的一个差异

15. 端侧AI推理2026实测:手机离线跑大模型的技术拆解与工程适配

16. 2500 行纯 C 代码的 LLM 推理引擎,10 美元开发板就能跑 10 亿参数模型

17. 从零实现大语言模型推理引擎:PicoLM的极简架构与CPU部署实战

18. PicoLM:轻量级本地大语言模型推理引擎部署与优化指南

19. 端侧部署福利!具身大模型在精度、效率的平衡矛盾被Co-Design Scaling Laws解决了

20. 8GB内存的树莓派CM5:8款本地LLM跑分实测! - 哔哩哔哩

21. 30 分钟,在树莓派上跑通你的第一个大模型

22. 大模型本地运行工具对比:vLLM、Ollama、LM Studio、llama.cpp

23. 936元搞定本地大模型!树莓派跑通谷歌Gemma4实测,零年费断网也能用

24. 数据比模型更值钱,国内最大的「端侧」训练数据开源了!600B 预训练+千万级 SFT 核心数据配方公开

25. 端侧 AI 的定义权,面壁智能先拿下了

26. 面壁智能「开源周」:一场定义端侧 AI 终局的系统性「亮剑」

27. 苹果渴求的端侧AI杀出黑马:首个认知模型诞生,4B打平GPT-5.4!

28. 不用人类手写训练框架了!AI自己写代码,训出1B端侧「小钢炮」

29. 【10美元硬件跑大模型:PicoLM把A

30. PicoLM仅7.5MB开源框架,百元单片机实现十亿参数LLM本地运行

31. 从零实现大语言模型推理引擎:PicoLM的极简架构与CPU部署实战

32. PicoLM:在10美元开发板上离线运行10亿参数大模型的极致优化实践

33. :MaxClaw 与 AI 智能体全景

34. 吃灰板子利旧系列--RK3566养马养虾及PicoLM体验

35. PicoClaw - 从免费的本地“皮皮虾”开始养起

36. 10美元板子,45MB内存,跑10亿参数大模型——PicoLM把LLM推理拉到嵌入式极限

37. PicoLM:纯 C 的 1B 小模型推理引擎,45MB 内存跑在 $10 板子上

38. 10美元开发板跑通1B大模型!纯C手搓,离线可用,这项目太硬核了

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章