飞牛教程存档——本地大模型部署再简化！

飞牛教程存档系列为资料留档备份，直接照搬官方内容！教程开始

第一步，打开应用中心安装Ollama

图片

第二步，打开Ollama注册开始使用

图片

教程结束

这里开个玩笑

其实到这里，进入页面就可以直接使用1.5b的deepseek模型了

但是接下来，我们要测试的是 QwQ:32b

图片

测试QwQ本地部署

图片

QwQ以32b的大小，

直接比肩DeepSeek671b

这让家庭用户

本地部署完整版大模型

成为可能！

图片

20G模型直接下载到本地！

开始对比测试

我们先测试了一个简单的问题

图片

模型非常正经的回答了问题，与deepseek基本一致

但是我们发现4060ti的显存不够，导致完全靠CPU+内存在跑模型，但是结果也还不错

图片

事到如今，我们直接上强度！

我们咨询QwQ一个谜语：

“左边绿，右边红，左右相遇起凉风。绿的喜欢及时雨，红的最怕水来攻。打一个字”

图片

从结果来看，QwQ比较准确的推理出了这个字谜

接下来，我们直接咨询QwQ一个数学逻辑题

“3，10，15，26，下一个数字是多少？”

这个问题的推理难度就大多了，思考的过程花费了非常多时间，但是本地纯靠CPU跑的QwQ与在线的deepseek的处理结果也基本一致。看运算过程，会发现这两个AI的推理能力非常强！都给出了答案。

对于这个结果，牛牛是非常震撼的！

总结

整体来看，QwQ这个模型的推理能力确实比肩R1，分析的过程已经超过了很多傻瓜模型，但是对个人设备的性能要求还是有点门槛，性能不够的设备回答速度会比较慢。

地性能不够的情况下，单个问题的回答时间非常长，可能需要3-10分钟才能完成一个回答。但是从推理的过程的完整性来看，潜力非常大。

最后，短短一个月时间，模型从大模型万亿级别，降到671b，又优化到32b，按照这个发展的速度，或许未来大家每个人的飞牛NAS上都会有自己的私人模型。

在不久的将来，我们的NAS除了作为媒体、存储中心之外，也会成为家庭的知识中心，人人拥有贾维斯的时代或许不会远了。

对本地大模型部署感兴趣的朋友赶紧 去飞牛应用中心，搜索Ollama体验吧！