迷你主机本地也能畅玩AI?零刻GTi15 Ultra本地部署体验
说到AI,很多人的第一反应就是使用在线的大语言问答助手,现在的Deepseek能帮我们完成很多工作了。但在线AI相比于本地部署来说,安全性要大打折扣,对于一些比较敏感的资料、话题,在线AI就不能胜任了。
那本地部署又需要付出比较高的成本,这也是劝退不少用户的一点。

近期搭载intel Ultra9 285H的产品也是大量上市了,这一代核显升级到了intel Arc 140T,算是目前intel方面最强核显,性能也终于是快追上隔壁的780m了。就AI方面来说,intel的生态相较于AMD来说要丰富不少,本篇内容咱们就一起来看看如何在这台搭载了intel Ultra9 285H处理器的零刻GTi15 Ultra上畅玩AI吧!
285H理论性能测试
在开始折腾AI之前,咱们先来简单过一下这颗处理器的性能。零刻这台机器一共有两种功耗模式,54w平衡模式和65w性能模式。出厂默认是平衡模式,如果想要更强一点的性能,建议在bios中切换成65w模式。

CPUZ测试中,54w默认功耗下单线程成绩826.98分,多线程成绩8229.9分;而在65w性能模式下,单线程838.7分,多线程9041.3分,可以看到在开启性能模式后,多线程成绩提升比较大。

默认模式下内存频率表现如图,延迟132ns,稍微有点高。

R23测试中,默认功耗下,单核心1996分,多核心17046分。65w功耗下,单核2028分,多核17184分。

R24测试中,默认54w功耗下,单核119分,多核946分;在65w功耗下,单核127分,多核1039分。
单从CPU跑分性能上来说,单核性能已经非常接近14代i9的水平了,多核也更接近AMD R7 7700X的水平了。
这代Ultra处理器提升比较大的还是单核方面,相较于上一代的185H有25%的提升;多核方面也能做到10%的提升。
咱们再来看到核显方面。

在Time Spy中,默认54w模式下,显卡得分3051分,CPU得分10636分;切换到65w模式下,显卡得分3820分,CPU得分11417分。

Time Spy Extreme 中,默认54w模式下,CPU得分1480分,显卡得分5958分;65w性能模式下,显卡得分1821分,CPU得分6148分。

在代表DX11游戏性能的Fire Strike中,65w模式下,显卡得分8506分。

Fire Strike Extreme中,显卡得分3726分。

Fire Strike Ultra中,显卡得分1958分。
以上是理论跑分,咱们再来看到实际游戏方面。
实际游戏表现
游戏方面咱们就直接在65w模式下进行测试

首先是地平线5,1080P高预设模式下,可以做到57帧。

黑神话悟空在1080P低画质,开启Xess,超采样清晰度设置为25情况下测试,帧数也能做到44帧。

在赛博朋克2077,1080P中预设下,也能做到平均帧40.92帧的表现。
从上面几款游戏的测试不难发现,intel这一代核显的游戏表现已经非常不错的,在1080P低画质下,玩一些3A也不在话下。

除了核显之外,这颗285H还内置了一颗NPU,CPU+GPU+NPU总共算力可以做到99TOPS,可以说为本地运行大模型提供了很好的支撑。那下面咱们进入正题,本地部署大语言模型,看看这台小主机能有怎样的表现!
Ollama 英特尔专属优化版
想要充分利用上这颗285H的算力,那当然不能只用CPU来跑AI,也要充分用上GPU的算力。什么?你问我为什么不用NPU?
那还是算了吧

本地大语言模型的部署上,我这里用的是Ollama 英特尔专属优化版,使用这个版本可以轻松利用上GPU的性能。那目前这个优化版也已经上线了魔塔社区,用户可以直接在魔塔社区内搜索下载使用。

这个安装使用还是比较简单的,在详情页都介绍的非常详细了,缺什么就安装什么就行。但需要注意,这是intel优化版,amd用户不要用哦~

进入到下载页面,下载这个zip压缩包,解压后打开。


双击这个start-ollama文件打开,就能进入cmd页面。
下面就要加载模型,这里咱们就以Deepseek模型为例。

进入ollama官网,进入model页面,找到Deepseek。

Deepseek这里提供了多种规格的模型,这里咱们先来试试7b这个规格。

点击进入7b页面,注意这里就是拉取Deepseek-r1:7b模型的代码

回到终端页面,新建一个终端窗口,注意之前那个窗口不要关闭。输入“cd 刚刚下载解压的文件夹路径”后敲击回车,就进入到这个文件夹中。

再输入刚刚咱们在ollama官网看到的7b这个规格的代码,敲击回车。

那需要注意,这里还需要额外再次输入一遍,在命令前面加上.后,敲击回车。下面就是等待拉取完成了。

完成后,输入相关问题就能获取回答啦。

那可以看到,在跑大语言模型时GPU是已经完全吃满了。
咱们再来看下,7b模型下的生成速度。

在cmd窗口输入“ollama run --verbose 模型名称”这个命令,就能获取到生成速度了。这里可以看到生成速度也有15.38tokens/s,在这样的速度下满足日常需求肯定是没有问题的啦。
那有的小伙伴可能会说,你这个GPU内存这么大,只是跑个7b模型是不是有点太小菜一碟了?那下面咱们来看到14b模型下的表现。如果选择更高规格的模型,就会因为显存不够提示报错了。
拉取方式跟7b一样,只是把命令中的7b改成14b。

在14b模型中,输出速度也有7.81tokens/s。虽然相比于7b的生成速度慢了不少,但在日常的使用上,需要等待的时间也不是很长。
除了可以直接在cmd窗口直接使用ollama之外,咱们也能在浏览器中使用插件来调用ollama。

在edge扩展插件市场搜索page assist这个插件并安装。

在浏览器中打开,这里可以看到已经连接上ollama了(使用这个插件,必须先打开ollama文件夹中的start文件,并保持cmd窗口不关闭)

在上方这里选择模型,如果之前没有拉取过模型的,也要先拉取哦。

选择了模型之后,就能正常开始问答了。
那从部署ollama的使用体验中,可以看到目前intel的核显在部署14b规格的模型中表现还是很不错的,日常满足需求肯定是没有什么问题了。
那这只是大语言模型,我想肯定很多小伙伴想玩的是文生图,目前intel的核显能支持本地文生图么?下面咱们也来部署下试试。
本地部署文生图
在Intel平台中想要部署文生图,并且能够正常调用GPU、NPU算力。这里就不得不提到Intel目前大力推广的openvino了,这是一套开源工具套件,可以加速AI推理过程,同时保持精度、优化硬件使用。

先来到GitHub上的openvino页面,这是intel存放的一个库。(为什么打不开GitHub?这个就不用我教了吧)

往下翻,找到这个“User guide for Windows”,点击跳转。

先要安装python环境。注意一定要严格按照页面指示安装,一定要勾选Add Python 3.9 to PATH,不然后面配置环境非常麻烦。

接下来安装Git,按照页面上指示一步一步安装

注意这里的view release notes要取消勾选


Microsoft Visual C++ 和GIMP也是按照页面一步一步安装好,这里我就不多赘述了。
win+r输入powershell,打开cmd窗口

输入“cd C:UsersPublic”

输入“mkdir GIMP”,一定要等待进程走完在进行下一步!

输入“openvino-ai-plugins-gimpinstall.bat”

注意,这里一定要等待出现这行提示,才是真的完成安装,中间可能会出现十多分钟的静默,并不是已经完成!一定要等待出现这行代码!
那这样我们就已经安装好了openvino。

打开GIMP,点击上方的图层,这里就出现了OpenVINO-AI-Plugins的选项卡,点击Stable Diffusion。

点击model,下载使用的模型。这里需要注意由于模型都是从hugging face下载的,目前这个网站已经是被墙的状态,建议上点稳定的工具才能下载。而且需要注意如果工具不是很稳定,也是没有断点续下的功能的,一旦中断就得从0开始了。

模型下载完成之后,选择需要使用的模型,点击这个load Models,会弹出cmd窗口加载模型。出现这个模式则代表模型已经加载到GPU上。

我这里简单试了下,可以看到在基础的文生图需求上,intel这颗核显的生成速度还是非常快的!

(这是其它模型生成的)
这里还有其它的模型,可以根据自己的需求安装使用。不同的模型生成的速度也不同,风格也不同,还是很好玩的。
NPU我也试了下,加载没问题,NPU只有刚开始动了下,后面基本上没动过,体验上还是不如GPU。
本地部署是未来

从上面的本地部署其实不难发现,随着现在生态的不断完善,硬件性能的不断增强,14b大语言模型已经能够在核显上流畅运行了,如果后续能够给核显分配更多的显存,我想更大规格的模型本地部署流畅运行也不是难事了。文生图方面,对于性能要求更高,但同时别忘了零刻GTi15 Ultra还拥有PCIe槽位,搭配上显卡坞几乎也能做到无损使用。
OK,以上就是本篇文章的全部内容~
希望对你有所帮助
关于这台零刻GTi15 Ultra更详细的评测内容下篇文章我们再见~

独创的名字
校验提示文案
江城血月
校验提示文案
煮酒自饮的小酒馆
校验提示文案
白酒君
校验提示文案
美丽赣州
校验提示文案
主机游戏党
校验提示文案
smm张小妈
校验提示文案
值友3064769854
校验提示文案
热奶
校验提示文案
大雨姑娘
校验提示文案
热奶
校验提示文案
江城血月
校验提示文案
值友3064769854
校验提示文案
smm张小妈
校验提示文案
主机游戏党
校验提示文案
美丽赣州
校验提示文案
白酒君
校验提示文案
煮酒自饮的小酒馆
校验提示文案
独创的名字
校验提示文案
大雨姑娘
校验提示文案