绿联&群晖，分别使用immich机器学习的效能情况

原先immich一直部署在群晖上，618首发入了绿联DXP4800Plus后，一直在动脑筋怎么发挥它的硬件长处，就想到immich的视觉机器学习。

immich是一款自托管的相册服务器，其中用于机器学习的容器是immich-machine-learning，默认安装的是不带硬件加速的。实际上支持3种硬件加速，分别是ARM Mali、Nvidia CUDA、intel OpenVINO。拉取的时候在tag后面加上对应的名称，比如docker pull ghcr.io/immich-app/immich-machine-learning:v1.106.4-openvino。

immich建议用固定版本号，部署则建议去官网下载yml和.env，因为更新实在频繁，一会换数据库版本，一会换数据库位置，一会又合并容器，网上找攻略照搬他人的yaml文件容易踩坑。

4个实验组，绿联和群晖都分别安装硬件加速版和普通版的机器学习容器。

省流直接看结果：绿联的奔腾8505支持openvino，GPU可以参与CLIP及人脸，但不知道是否驱动的关系，GPU作用不大，主力还是CPU。群晖的J4125看起来并不支持openvino，虽然使用openvino后群晖GPU的参与程度很高，CPU占用显著下降，但CLIP和人脸大模型加载后全部初始化失败。另外，绿联和群晖按官方配置QuickSync或VAAPI后都无法正常使用硬件加速视频转码，希望有成功的小伙伴可以指导下。

建议：绿联8505芯片推荐用openvino硬件加速进行机器学习，虽然GPU出力实在一般，但速度还是快了些的。群晖J4125芯片不建议用openvino硬件加速，虽然GPU出力比较高，但是大模型加载不了，后期相册使用过程中怕有不确定情况发生。

（组一）绿联-openvino硬件加速机器学习

（组二）绿联-未启用硬件加速机器学习

（组三）群晖-openvino硬件加速机器学习

（组四）群晖-未启用硬件加速机器学习

（附加）机器学习模型加载

【1】群晖开启openvino后加载模型初始化失败

【2】其余情况均加载模型成功

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～