Rust在边缘计算中并非万能解:性能优势只在特定场景兑现

源自43位全网作者

05-22 13:22

精选参考来源

1
如果你追求性能的话,这个 Rust 写的开源版 OpenClaw 可以看看。zeroclaw:github.com/theonlyhennygod/zeroclaw 网页链接Quick benchmark vs OpenClaw • Binary: 3.4MB vs 28MB• Cold start: 0.38s vs 3.31s• Status cmd: ~0s vs 5.98s• RAM (status): 7.8MB vs 1.52GB
2
云端卷GPU,边缘卷CPU,一个被忽视的结构性机会。和几个做物联网的朋友聊,发现边缘侧的算力需求正在起量。工业控制、智能终端、机器人这些场景,功耗和成本卡得非常死,没法塞一块H100进去。这时候CPU的价值就出来了。在实时运动控制、远程通信、预编程任务这些场景里,CPU反而是主力,因为它的确定性延迟和稳定性是GPU比不了的。最近中信证券研究部集体披露了一个盲点:主流机器人厂商,包括优必选、宇树、傅里叶等,基本都在用“x86 CPU+NVIDIA GPU”的方案,并且点了国产芯片海光。为什么?因为机器人的实时控制、通信、任务编排这些“大脑”功能,必须靠CPU来完成,GPU只负责那部分大模型推理。更值得关注的是,本地小模型推理在CPU上已经可用——Intel官方数据显示,7B模型在CPU上能跑到50 token/秒,13B模型也能到25 token/秒。这不是能不能用的问题,是性价比和功耗的问题。目前像被点名的这家公司,在边缘侧的布局,目前主要看到和联想开天合作的工作站、笔记本产品。边缘推理的起量,可能比很多人想象的要快。当端侧AI真正落地时,x86 CPU的稳定性、实时性和生态兼容性会成为核心壁垒。这波机会被低估了。
全部
来源
内容由AI生成

精选参考来源

1. 如果你追求性能的话,这个 Rust 写的开源版 OpenClaw 可以看看。zeroclaw:github.com/theonlyhennygod/zeroclaw 网页链接Quick benchmark vs OpenClaw • Binary: 3.4MB vs 28MB• Cold start: 0.38s vs 3.31s• Status cmd: ~0s vs 5.98s• RAM (status): 7.8MB vs 1.52GB

2. 云端卷GPU,边缘卷CPU,一个被忽视的结构性机会。和几个做物联网的朋友聊,发现边缘侧的算力需求正在起量。工业控制、智能终端、机器人这些场景,功耗和成本卡得非常死,没法塞一块H100进去。这时候CPU的价值就出来了。在实时运动控制、远程通信、预编程任务这些场景里,CPU反而是主力,因为它的确定性延迟和稳定性是GPU比不了的。最近中信证券研究部集体披露了一个盲点:主流机器人厂商,包括优必选、宇树、傅里叶等,基本都在用“x86 CPU+NVIDIA GPU”的方案,并且点了国产芯片海光。为什么?因为机器人的实时控制、通信、任务编排这些“大脑”功能,必须靠CPU来完成,GPU只负责那部分大模型推理。更值得关注的是,本地小模型推理在CPU上已经可用——Intel官方数据显示,7B模型在CPU上能跑到50 token/秒,13B模型也能到25 token/秒。这不是能不能用的问题,是性价比和功耗的问题。目前像被点名的这家公司,在边缘侧的布局,目前主要看到和联想开天合作的工作站、笔记本产品。边缘推理的起量,可能比很多人想象的要快。当端侧AI真正落地时,x86 CPU的稳定性、实时性和生态兼容性会成为核心壁垒。这波机会被低估了。

3. 算力瓶颈又炸了!CPU涨价还抢不到货,国产替代的机会来了?过去两年,AI赛道的焦点牢牢锁定GPU。英伟达H100成了算力市场的“硬通货”,手握H100,就能在AI浪潮中抢占先机、讲出高增长故事。但2026年以来,行业风向悄然剧变。英特尔、AMD、Arm密集发布财报,一致释放出一个明确信号:CPU,彻底不够用了。不是供需平衡下的小幅偏紧,而是涨价10%-15%,还一货难求、交货周期拉长至3-6个月的结构性短缺。被长期低估的CPU,已然成为AI算力链条上的“隐形瓶颈”。很多人疑惑:AI核心是GPU的天下,CPU能有多大作用?简单类比:GPU是算力工厂的“机器臂”,擅长高强度并行运算;CPU是统筹全局的“总工头”,负责任务调度、数据协调、流程管控。此前AI以模型训练为主,矩阵运算、并行计算是核心,GPU的优势无可替代。但如今,AI智能体(Agent)爆发式落地,彻底改写了算力需求逻辑。每个AI智能体需同时处理多任务、调用十余类软件、调度海量异构数据,这些复杂的逻辑调度、指令分发工作,GPU完全无法胜任,100%依赖CPU。直接结果是:市场对CPU的并发处理能力需求直接翻倍。行业共识愈发清晰:没有高性能CPU调度,再顶级的GPU也只能空转,算力效率根本无法释放。而“涨价+缺货”的组合,向来是行业超级周期的核心前兆——如今CPU市场,两项信号全部拉满。供给端的约束,进一步放大了缺口。CPU先进制程、高端封装产能长期紧张,台积电N2/N3产能早已被苹果、英伟达等巨头瓜分,短期内扩产无空间、增产无可能。供需失衡下,CPU与GPU的配比正从传统的1:8,快速向1:1甚至1:2转变,CPU需求直接迎来翻倍级增长。危机背后,国产替代的黄金窗口期,正式开启!海外CPU涨价缺货,国内数据中心、云厂商、政企客户为保障供应链安全,加速导入国产CPU方案,从“可选替代”变成“必选刚需”。国产CPU厂商直接受益于量价齐升,业绩与估值同步迎来修复机遇。聚焦A股市场,相关受益标的可分为三大核心方向:一、CPU芯片设计(核心受益)• 海光信息(688041):国内服务器CPU绝对龙头,x86架构永久授权,产品性能对标国际主流水平;2026年一季度营收40.34亿元(同比+68.06%),深度绑定AI服务器与数据中心需求。• 龙芯中科(688047):全自主LoongArch指令集,信创+军工双壁垒,3C6000服务器CPU性能追平国际水平;2025年营收6.35亿元(同比+25.99%),自主可控属性稀缺。• 北京君正(300223):嵌入式CPU龙头,MIPS架构产品在AIoT、边缘计算场景快速放量;2026年一季度营收15.60亿元(同比高增),受益边缘AI算力扩容。二、服务器整机(需求放量)• 浪潮信息(000977):国内AI服务器龙头,市占率稳居28%以上;CPU涨价直接推高单台服务器价值量,国产CPU导入后订单结构优化,营收弹性放大。• 紫光股份(000938):服务器+网络设备双轮驱动,旗下新华三深度受益数据中心扩容;近期中标数十亿级国产CPU服务器订单,政企市场份额持续提升。• 工业富联(601138):全球AI服务器代工巨头,深度绑定英伟达、英特尔;CPU缺货背景下,国产服务器代工订单外溢,2024年AI服务器营收同比增超150%。三、封装/配套(间接受益)• 澜起科技(688008):全球内存接口芯片龙头,CPU需求翻倍带动服务器出货量增长,内存接口芯片需求同步放量,2026年一季度股价大涨16%。• 通富微电(002156)/长电科技(600584):先进封装双龙头,承接CPU封装外溢订单;高端CPU异构合封需求爆发,封装业务单价与产能利用率双升。算力瓶颈,正在全链条扩散。从光模块到光纤,再到如今的CPU,AI基建的每一个环节,都在经历需求爆发的碾压式冲击。过去两年,GPU是AI算力的核心机遇;如今逻辑彻底反转,CPU成为AI服务器的刚需核心,供需缺口推动价值重估,国产替代从“可选项”变为“必选项”。最后提醒:机遇明确,但切勿盲目追高!部分标的短期涨幅较大,需警惕情绪退潮后的波动风险,优先关注业绩确定性强、技术壁垒高的龙头标的。

4. 中国速度:AI 正在“点亮”新型电力系统和Arm 架构:边缘 AI 的隐形心脏

5. 英伟达发布小语言模型Nemotron-Flash,实现同等参数下延迟降低1.3-1.9倍。从训练性能上来看,解决小模型训练后期梯度消失难题通过球面投影保持有效学习率收敛质量提升4.7-5.5%。使用场景:搜索助手/智能客服响应速度提升6.4倍。边缘计算:XR设备/家用机器人实现实时交互。企业部署:金融/医疗领域成本降低67%。#科技先锋官#

6. AI Agent 和爬虫开发者注意:跑 headless Chrome 太重、太慢、还容易被检测? Obscura 是一个用 Rust 写的开源无头浏览器,专为 AI Agent 自动化和大规模网页抓取设计。轻量、隐蔽、即开即用,可直接替换 Puppeteer / Playwright 后端。核心优势对比传统 Headless Chrome:- 内存占用仅 30 MB(Chrome 200+ MB)- 二进制大小 70 MB(Chrome 300+ MB)- 页面加载 85 ms(Chrome ~500 ms)- 启动瞬间完成(Chrome 约 2 秒)- 内置反检测与追踪器拦截支持真实 V8 执行、Chrome DevTools Protocol,可无缝对接现有 Puppeteer/Playwright 脚本。同时提供并行抓取 CLI、MCP 工具链,适合构建 AI Agent 工作流。GitHub:github.com/h4ckf0r0day/obscura主要功能:- 极低资源占用,支持每秒数千并发任务- 内置 stealth 模式:指纹随机化、tracker 拦截、event.isTrusted 模拟- 完整 CDP 支持,可直接连接 Puppeteer 或 Playwright- 提供 fetch / scrape / serve 多模式 CLI,一条命令即可抓取或启动服务- MCP 协议原生支持,轻松接入 Claude Desktop、Cursor 等 AI 工具- Docker 一键部署,镜像仅 57 MB支持 Linux、macOS、Windows 多平台,开箱即用,无需安装 Chrome 或 Node.js。#AI创造营# #人工智能# #Rust# #WebScraping# #AI-Agent#

7. 科技巨头集体押注自研芯,AI芯片战场正加速向推理端迁移

8. 曾对AI嗤之以鼻,如今2周生成7万行代码:Rust大佬与Claude联手打造新语言Rue

9. 网页抓取和AI代理开发经常需要配置复杂环境,Chrome无头浏览器内存占用高、启动慢,还容易被反爬虫检测。Obscura 把 headless browser 功能做到极致轻量,提供 Rust 构建的开源解决方案。内存仅30MB、二进制70MB、内置反检测和跟踪器阻挡,支持Chrome DevTools协议,可无缝替换Puppeteer/Playwright。GitHub:github.com/h4ckf0r0day/obscura主要功能:- 超轻量无头浏览器,支持V8 JavaScript引擎实时渲染;- 内置反检测(指纹随机化、navigator伪装、事件伪造);- 跟踪器阻挡(阻挡3520+域名广告/分析脚本);- CLI工具:fetch单页、scrape批量、serve CDP服务器;- 支持Puppeteer/Playwright连接,兼容现有自动化脚本;- 多平台二进制(Linux/macOS/Windows),无需Node.js依赖;- 并行抓取、高性能页面加载(85ms起步)。下载最新Release二进制即可运行,或用cargo构建,适合AI开发者和爬虫工程师。#AI开发##Web抓取##Rust#

10. 告别云端依赖,AI 进入“边缘计算”时代

11. OpenClaw 是用 TypeScript 开发的,所以吃内存比较厉害。所以很快有人搞出了 Python 开发的 NanoBot,Go 开发的 PicoClaw,以及 Rust 开发的 ZeroClaw。在资源消耗上还是 Rust 比较占优势,所以 ZeroClaw 自身只需要 5MB 内存,甚至在 STM32、ESP32 这种硬件上都能跑起来。别说老旧电脑,没准智能手表都行。

12. 阿里开源龙虾组合来了:HiClaw + CoPaw,内存占用大幅降低,还能直接操作本地环境

13. C项目总被评论为什么不用Rust,是什么原因导致?

14. 本地运行大模型推理经常需要复杂的Python环境、Ollama笨重二进制或llama.cpp编译烦恼,依赖多、启动慢、配置麻烦。Shimmy 用一个Rust单二进制搞定一切,提供完全OpenAI API兼容的本地推理服务器,GGUF + SafeTensors支持,免费永远免费。不仅自动发现Hugging Face/Ollama模型,还支持热模型切换、多GPU后端自动检测、MOE混合推理,甚至一键运行70B+大模型。GitHub:github.com/Michael-A-Kuykendall/shimmy主要功能:- 100% OpenAI API兼容,支持/v1/chat/completions等标准接口;- 单二进制~5MB,包含所有GPU后端(CUDA/Vulkan/OpenCL/MLX),无需编译;- 自动模型发现,支持Hugging Face缓存、Ollama目录、LoRA适配器;- MOE CPU/GPU混合推理,消费级硬件跑70B+模型;- 智能GPU自动检测+端口分配,无需任何配置即开即用;- 支持VSCode Copilot、Cursor、Continue.dev等开发工具无缝集成。支持 Windows、Linux、macOS 多平台,一键下载运行,30秒内启动本地AI服务,完美适合开发者本地开发和隐私推理。#AI推理##本地大模型##RustAI#

15. 马上2026了,是什么让你继续选择C++而不是Rust?

16. 一个键值存储SNKV项目,比较巧妙的借用了成熟项目SQLite 的存储引擎。github.com/hash-anu/snkvSNKV 是一个轻量级、符合 ACID 标准的嵌入式键值存储库。它直接构建在 SQLite 经过实战检验的 B-Tree 存储引擎之上,但通过设计完全绕过了 SQL 解析层、查询规划器等,仅对外暴露纯粹的 KV 接口。它提供 C 语言的单头文件集成方案以及 Python 绑定。它解决了在只需要简单键值对存储时,标准 SQLite 带来的 SQL 解析和执行引擎的额外性能开销问题。通过剔除不必要的 SQL 层,SNKV 在保留 SQLite 底层极其可靠的事务处理和崩溃恢复能力的同时,显著降低了读写路径的 CPU 消耗,特别适合资源受限的嵌入式环境或对随机读取、扫描性能有更高要求的场景。

17. #easy同学正在独立开发# agentOS:Rivet 出品的 AI Agent 操作系统,这东西有点意思。核心卖点:- 冷启动 ~6ms,比传统沙盒快 92-516 倍- 内存占用 22-131MB,比沙盒小 8-47 倍- 成本便宜 3-32 倍(Hetzner ARM 上能到 17x)- 跑在进程里,不用拉容器、不用启动 VM- WASM + V8 isolate 隔离,浏览器级安全- Apache 2.0 开源技术栈:Rust 63% + TypeScript 26%支持 Claude Code、Codex、Pi 等主流 Agent,统一 API,统一会话格式。跟 E2B/Daytona 这种完整沙盒比,它更轻量。需要浏览器、原生编译时再配合沙盒扩展。github.com/rivet-dev/agent-os

18. Python 用于人工智能研究,Rust 用于人工智能生产。我们从@divamgupta 10 MB 二进制文件创建了一个完整的 Rust 实现,用于实现小型 TTS 模型 (15M-80M),冷启动时间为 100 毫秒,仅支持 CPU,可在边缘端使用。🐱🦀 网页链接CPU 可以以 4 倍实时速度运行 KittenTTS,但苹果的 GPU 只能达到 3 倍。 @claudeai解释了原因:在这个模型规模下,GPU 的调度开销超过了计算节省。ONNX 的 CPU 后端采用 SIMD 指令集,已经使硬件达到饱和。当参数数量低于约 10 亿时,GPU 就处于劣势了。完整报道👇

19. Vibe code写码不用人看,为何不直接写C或汇编,省掉中间语言(Python、Rust等)挣差价?

20. 图像传感器正在成为边缘智能的 “决策节点”

21. kerkour.com/introduction-rust-simd本文介绍了在纯Rust中进行SIMD(单指令多数据)编程的优势与实践方法,尤其聚焦于AMD Zen 5 CPU带来的技术突破。作者以ChaCha20和BLAKE3算法为例,展示了纯Rust SIMD优化后的性能表现:在AWS m8a实例上,ChaCha20达到6.7 GB/s,BLAKE3更高达10.8 GB/s。

22. 3月24日,在上海举行的2026玄铁RISC-V生态大会上,阿里巴巴达摩院发布新一代旗舰CPU产品玄铁C950。其采用开源RISC-V架构,单核通用性能在Specint2006基准测试中突破70分,刷新全球RISC-V性能纪录,适用于云计算、生成式AI、高端机器人、边缘计算等领域,性能达到业界领先水平。此外,玄铁C950利用RISC-V开源开放特性,搭载自研AI加速引擎,首次原生支持Qwen3、DeepSeek V3等千亿参数大模型,有望成为AI Agent时代的新型高端CPU。

23. 随笔档案「2026年1月4日」:边缘计算新利器:RustFS在车载/工业场景的极致优化 ...

24. MATLAB算法实战应用案例精讲-【人工智能】边缘计算(补充篇)

25. Go 到底能不能取代 Rust?从底层机制看两者的物理隔阂

26. 嵌入式固件开发:Rust 能替代 C 吗?ST 的工业实测告诉你答案

27. MinIO再见!RustFS性能飙升5倍,我们团队全面迁移的实战全记录

28. 嵌入式单片机固件开发,Rust真的能替代C吗?

29. 高频策略的Rust内存优化:对象池与零分配设计模式

30. Rust vs Go实测:百万日请求API,性能差30%,该选谁不踩坑?

31. 嵌入式单片机固件开发,Rust 真的能替代 C 吗?来自ST和各大学的工业级实测报告 - 哔哩哔哩

32. 树莓派上的 Rust 交叉编译实战:从踩坑到优雅解决

33. Rust为啥比Go/Node.js快10倍?核心逻辑拆解,新手也能看懂

34. 【中文配音】Rust与C在实时环境中的效率对比

35. 一次真实项目:用 Rust 重构 ESP32 嵌入式固件全程记录

36. 合规驱动下的私有化部署浪潮:本地推理与边缘 AI 的新机遇

37. 从C到Rust:某ESP32项目的无标准库嵌入式开发实战解析与经验总结

38. RTIC:真正做到了“Rust + RTOS”的“硬实时神器”,把“零开销、安全性、实时性”三者集于一身

39. Rust vs C实测:820万次/秒解析器对决,速度赢了,生产却输了

40. Rust vs C实测:800万次/秒对决,速度王者为何输在生产现场?

41. 我们明知道 Rust 更快,却坚持用 Go:直到 p99 把我们脸打肿

42. Rust vs Go实测:500K HTTP请求对决,性能王者竟输在成本上

43. Rust vs Go:2026 年后端选哪个?(附真实项目对比)

0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章