迷你主机本地也能畅玩AI?零刻GTi15 Ultra本地部署体验
说到AI,很多人的第一反应就是使用在线的大语言问答助手,现在的Deepseek能帮我们完成很多工作了。但在线AI相比于本地部署来说,安全性要大打折扣,对于一些比较敏感的资料、话题,在线AI就不能胜任了。
那本地部署又需要付出比较高的成本,这也是劝退不少用户的一点。

近期搭载intel Ultra9 285H的产品也是大量上市了,这一代核显升级到了intel Arc 140T,算是目前intel方面最强核显,性能也终于是快追上隔壁的780m了。就AI方面来说,intel的生态相较于AMD来说要丰富不少,本篇内容咱们就一起来看看如何在这台搭载了intel Ultra9 285H处理器的零刻GTi15 Ultra上畅玩AI吧!
285H理论性能测试
在开始折腾AI之前,咱们先来简单过一下这颗处理器的性能。零刻这台机器一共有两种功耗模式,54w平衡模式和65w性能模式。出厂默认是平衡模式,如果想要更强一点的性能,建议在bios中切换成65w模式。

CPUZ测试中,54w默认功耗下单线程成绩826.98分,多线程成绩8229.9分;而在65w性能模式下,单线程838.7分,多线程9041.3分,可以看到在开启性能模式后,多线程成绩提升比较大。

默认模式下内存频率表现如图,延迟132ns,稍微有点高。

R23测试中,默认功耗下,单核心1996分,多核心17046分。65w功耗下,单核2028分,多核17184分。

R24测试中,默认54w功耗下,单核119分,多核946分;在65w功耗下,单核127分,多核1039分。
单从CPU跑分性能上来说,单核性能已经非常接近14代i9的水平了,多核也更接近AMD R7 7700X的水平了。
这代Ultra处理器提升比较大的还是单核方面,相较于上一代的185H有25%的提升;多核方面也能做到10%的提升。
咱们再来看到核显方面。

在Time Spy中,默认54w模式下,显卡得分3051分,CPU得分10636分;切换到65w模式下,显卡得分3820分,CPU得分11417分。

Time Spy Extreme 中,默认54w模式下,CPU得分1480分,显卡得分5958分;65w性能模式下,显卡得分1821分,CPU得分6148分。

在代表DX11游戏性能的Fire Strike中,65w模式下,显卡得分8506分。

Fire Strike Extreme中,显卡得分3726分。

Fire Strike Ultra中,显卡得分1958分。
以上是理论跑分,咱们再来看到实际游戏方面。
实际游戏表现
游戏方面咱们就直接在65w模式下进行测试

首先是地平线5,1080P高预设模式下,可以做到57帧。

黑神话悟空在1080P低画质,开启Xess,超采样清晰度设置为25情况下测试,帧数也能做到44帧。

在赛博朋克2077,1080P中预设下,也能做到平均帧40.92帧的表现。
从上面几款游戏的测试不难发现,intel这一代核显的游戏表现已经非常不错的,在1080P低画质下,玩一些3A也不在话下。

除了核显之外,这颗285H还内置了一颗NPU,CPU+GPU+NPU总共算力可以做到99TOPS,可以说为本地运行大模型提供了很好的支撑。那下面咱们进入正题,本地部署大语言模型,看看这台小主机能有怎样的表现!
Ollama 英特尔专属优化版
想要充分利用上这颗285H的算力,那当然不能只用CPU来跑AI,也要充分用上GPU的算力。什么?你问我为什么不用NPU?
那还是算了吧

本地大语言模型的部署上,我这里用的是Ollama 英特尔专属优化版,使用这个版本可以轻松利用上GPU的性能。那目前这个优化版也已经上线了魔塔社区,用户可以直接在魔塔社区内搜索下载使用。

这个安装使用还是比较简单的,在详情页都介绍的非常详细了,缺什么就安装什么就行。但需要注意,这是intel优化版,amd用户不要用哦~

进入到下载页面,下载这个zip压缩包,解压后打开。


双击这个start-ollama文件打开,就能进入cmd页面。
下面就要加载模型,这里咱们就以Deepseek模型为例。

进入ollama官网,进入model页面,找到Deepseek。

Deepseek这里提供了多种规格的模型,这里咱们先来试试7b这个规格。

点击进入7b页面,注意这里就是拉取Deepseek-r1:7b模型的代码

回到终端页面,新建一个终端窗口,注意之前那个窗口不要关闭。输入“cd 刚刚下载解压的文件夹路径”后敲击回车,就进入到这个文件夹中。

再输入刚刚咱们在ollama官网看到的7b这个规格的代码,敲击回车。

那需要注意,这里还需要额外再次输入一遍,在命令前面加上.后,敲击回车。下面就是等待拉取完成了。

完成后,输入相关问题就能获取回答啦。

那可以看到,在跑大语言模型时GPU是已经完全吃满了。
咱们再来看下,7b模型下的生成速度。

在cmd窗口输入“ollama run --verbose 模型名称”这个命令,就能获取到生成速度了。这里可以看到生成速度也有15.38tokens/s,在这样的速度下满足日常需求肯定是没有问题的啦。
那有的小伙伴可能会说,你这个GPU内存这么大,只是跑个7b模型是不是有点太小菜一碟了?那下面咱们来看到14b模型下的表现。如果选择更高规格的模型,就会因为显存不够提示报错了。
拉取方式跟7b一样,只是把命令中的7b改成14b。

在14b模型中,输出速度也有7.81tokens/s。虽然相比于7b的生成速度慢了不少,但在日常的使用上,需要等待的时间也不是很长。
除了可以直接在cmd窗口直接使用ollama之外,咱们也能在浏览器中使用插件来调用ollama。

在edge扩展插件市场搜索page assist这个插件并安装。

在浏览器中打开,这里可以看到已经连接上ollama了(使用这个插件,必须先打开ollama文件夹中的start文件,并保持cmd窗口不关闭)

在上方这里选择模型,如果之前没有拉取过模型的,也要先拉取哦。

选择了模型之后,就能正常开始问答了。
那从部署ollama的使用体验中,可以看到目前intel的核显在部署14b规格的模型中表现还是很不错的,日常满足需求肯定是没有什么问题了。
那这只是大语言模型,我想肯定很多小伙伴想玩的是文生图,目前intel的核显能支持本地文生图么?下面咱们也来部署下试试。
本地部署文生图
在Intel平台中想要部署文生图,并且能够正常调用GPU、NPU算力。这里就不得不提到Intel目前大力推广的openvino了,这是一套开源工具套件,可以加速AI推理过程,同时保持精度、优化硬件使用。

先来到GitHub上的openvino页面,这是intel存放的一个库。(为什么打不开GitHub?这个就不用我教了吧)

往下翻,找到这个“User guide for Windows”,点击跳转。

先要安装python环境。注意一定要严格按照页面指示安装,一定要勾选Add Python 3.9 to PATH,不然后面配置环境非常麻烦。

接下来安装Git,按照页面上指示一步一步安装

注意这里的view release notes要取消勾选


Microsoft Visual C++ 和GIMP也是按照页面一步一步安装好,这里我就不多赘述了。
win+r输入powershell,打开cmd窗口

输入“cd C:UsersPublic”

输入“mkdir GIMP”,一定要等待进程走完在进行下一步!

输入“openvino-ai-plugins-gimpinstall.bat”

注意,这里一定要等待出现这行提示,才是真的完成安装,中间可能会出现十多分钟的静默,并不是已经完成!一定要等待出现这行代码!
那这样我们就已经安装好了openvino。

打开GIMP,点击上方的图层,这里就出现了OpenVINO-AI-Plugins的选项卡,点击Stable Diffusion。

点击model,下载使用的模型。这里需要注意由于模型都是从hugging face下载的,目前这个网站已经是被墙的状态,建议上点稳定的工具才能下载。而且需要注意如果工具不是很稳定,也是没有断点续下的功能的,一旦中断就得从0开始了。

模型下载完成之后,选择需要使用的模型,点击这个load Models,会弹出cmd窗口加载模型。出现这个模式则代表模型已经加载到GPU上。

我这里简单试了下,可以看到在基础的文生图需求上,intel这颗核显的生成速度还是非常快的!

(这是其它模型生成的)
这里还有其它的模型,可以根据自己的需求安装使用。不同的模型生成的速度也不同,风格也不同,还是很好玩的。
NPU我也试了下,加载没问题,NPU只有刚开始动了下,后面基本上没动过,体验上还是不如GPU。
本地部署是未来

从上面的本地部署其实不难发现,随着现在生态的不断完善,硬件性能的不断增强,14b大语言模型已经能够在核显上流畅运行了,如果后续能够给核显分配更多的显存,我想更大规格的模型本地部署流畅运行也不是难事了。文生图方面,对于性能要求更高,但同时别忘了零刻GTi15 Ultra还拥有PCIe槽位,搭配上显卡坞几乎也能做到无损使用。
OK,以上就是本篇文章的全部内容~
希望对你有所帮助
关于这台零刻GTi15 Ultra更详细的评测内容下篇文章我们再见~

校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案
校验提示文案