什么值得买App

我的兴趣消费指南

什么值得买
连续签到专享现金活动

三张显卡都救不了NAS的人脸识别,慢在别处

有人为了让飞牛相册的人脸识别跑快点,做了一轮“标准升级”:那台 i3-9100T 配 16G 内存的机器,显卡前后换成 P104-100、40HX、RTX 3050 试了个遍,CPU 也换成全新的 i5-14400F,前后花掉近 4000 元,有些硬件还退不了。结果只快了 1–2 张/秒,用这位 UP 主自己的话说,“几乎可以忽略不计”。哔哩哔哩

三张显卡都救不了NAS的人脸识别,慢在别处

这不是手气差。同一台机器后来拿 45 万张照片又测了一遍:开跑时 1 秒 10 张,30 万张之后掉到 1 秒 1 张,40 万张以后 2–3 秒才出 1 张。硬件一个没动,速度掉了十倍。哔哩哔哩

慢的不是“AI”,是照片越多越慢的那一层。

一个对照很能说明问题:同样这套硬件,人脸识别只有 1 秒 3–10 张,“智能场景识别”却能稳定在 25–35 张/秒,差了三倍。识别一张图不慢,把几十万张里的同一个人聚到一起才慢。这种活的瓶颈通常在索引和数据库那一层,不在算力——所以你加显卡,它不动。哔哩哔哩

更常见的坑:GPU 根本没生效

Immich 这边,钱白花的姿势不太一样。Docker 容器里的 GPU 访问不会自动生效,要装 nvidia-container-toolkit、改 docker-compose、挂 hwaccel.ml.yml,缺一步都不行。有人跑了好几个月才发现,ML 任务一直在用 CPU 推理,速度差 10–50 倍。还有更隐蔽的:一台老游戏本上的 GTX 960M,CUDA Compute Capability 只有 5.0,ONNX Runtime 的 GPU 版直接不支持;日志里看着像“识别到了 GPU”,实际大概率跑在 CPU fallback 模式,Immich 的人脸识别也只能走 CPU。你以为在加速,其实没有。知乎知乎

甚至有人反过来:核显开着 GPU 加速更慢,关掉反而更快,一条测速视频的评论区里好几个人都这么说。所以第一步不是掏钱,是看日志,确认那张卡到底有没有在干活。哔哩哔哩

三张显卡都救不了NAS的人脸识别,慢在别处

钱按这个顺序花

按现有证据排,优先级和多数人的直觉是反的:

内存,最便宜也最容易被砍。 Immich 官方文档写的推荐配置正好是 8GB、最低 6GB,论坛上不少人说 8GB 装 Immich,机器学习容器会被系统直接杀掉。DIY 时从 8G 加到 16G 的钱,远低于一张入门独显。知乎

固态,至少给缩略图和数据库。 照片库压在机械盘上会明显拖慢识别,已经有人专门拿固态和机械盘做过对比,也有人把数据盘挂在外接机械盘上,记录是“机械盘 I/O 跟 SSD 差了一个量级,Immich 的照片缩略图生成慢得离谱”。照片库是海量小文件随机读,机械盘最怕的就是这个。哔哩哔哩知乎

三张显卡都救不了NAS的人脸识别,慢在别处

核显,不是独显。 如果真实需求是远程看片要转码,N100、N150 这一档 12 代核显反倒很合适。为 AI 相册单独插一张独显,是投入产出最差的一档。哔哩哔哩

别让几个 AI 任务同时跑。 Immich 的人脸检测、人脸聚类、智能搜索、OCR 四个都走同一个 ML GPU,任何一个爆显存都可能把全部拖垮,串行排队稳得多。知乎

真嫌慢,还有两条路

一条是存算分离:NAS 的核显太老、不支持加速时,可以另找一台机器跑模型,NAS 只指向它。ARM 平台还得给 immich 的机器学习打上 NPU 识别补丁才能激活,飞牛 armOS 上的 RK3588 已经有人做出来了。哔哩哔哩

三张显卡都救不了NAS的人脸识别,慢在别处

另一条是接受它慢。人脸识别只在初始导入和新照片上传时跑,平时不消耗资源,5 万张照片十几个小时也就跑完了。那就让它凌晨跑,把不需要实时的 ML 任务挪到夜里错峰,是不花钱的那一档优化。知乎哔哩哔哩

NAS 上跑 AI 相册慢,原因通常就四种:GPU 没生效、内存不够、盘太慢、库太大。这四种,一种都不用花 4000 块去解决。

掏钱之前,先花十分钟看日志。

评论

评论区空态插画

当前文章无评论,是时候发表评论了