两台395小主机集群运行284B大模型——E人E本EBOX G95级联测试

只需要一根雷电线或者USB4线，我们便能将两台G95进行集群部署，构建一个拥有240GB超大显存池的本地AI服务器。利用分布式推理框架，我们将原本需要4张以上4090显卡才能运行的DeepSeek V4-Flash 284B模型成功加载。经过测试，两台机器协作效率还不错，回答生成速度超过了10 tokens/s。在处理一些需要深度推理的问题时，响应时间也在可接受范围之内。##开学装备怎么选 #电脑装机分享 #数码好物种草团 #AI工具