Rust在边缘计算中并非万能解:性能优势只在特定场景兑现
源自43位全网作者
05-22 13:22
精选参考来源
1
如果你追求性能的话,这个 Rust 写的开源版 OpenClaw 可以看看。zeroclaw:github.com/theonlyhennygod/zeroclaw 网页链接Quick benchmark vs OpenClaw • Binary: 3.4MB vs 28MB• Cold start: 0.38s vs 3.31s• Status cmd: ~0s vs 5.98s• RAM (status): 7.8MB vs 1.52GB
2
云端卷GPU,边缘卷CPU,一个被忽视的结构性机会。和几个做物联网的朋友聊,发现边缘侧的算力需求正在起量。工业控制、智能终端、机器人这些场景,功耗和成本卡得非常死,没法塞一块H100进去。这时候CPU的价值就出来了。在实时运动控制、远程通信、预编程任务这些场景里,CPU反而是主力,因为它的确定性延迟和稳定性是GPU比不了的。最近中信证券研究部集体披露了一个盲点:主流机器人厂商,包括优必选、宇树、傅里叶等,基本都在用“x86 CPU+NVIDIA GPU”的方案,并且点了国产芯片海光。为什么?因为机器人的实时控制、通信、任务编排这些“大脑”功能,必须靠CPU来完成,GPU只负责那部分大模型推理。更值得关注的是,本地小模型推理在CPU上已经可用——Intel官方数据显示,7B模型在CPU上能跑到50 token/秒,13B模型也能到25 token/秒。这不是能不能用的问题,是性价比和功耗的问题。目前像被点名的这家公司,在边缘侧的布局,目前主要看到和联想开天合作的工作站、笔记本产品。边缘推理的起量,可能比很多人想象的要快。当端侧AI真正落地时,x86 CPU的稳定性、实时性和生态兼容性会成为核心壁垒。这波机会被低估了。
全部
来源
来源
内容由AI生成
0
0
0评论
当前文章无评论,是时候发表评论了
提示信息
取消
确认
评论举报
已收藏
去我的收藏夹