基于 Ultra245K 的个人 AI 工作站搭建指南

2025-03-07 15:13:30 0点赞 0收藏 0评论

大家好,近期探索发现一套基于本地部署的 AI 模型解决方案,使用 Intel Ultra245K 处理器可有效应对云端服务不稳定的问题。该方案通过硬件优化降低成本,现将详细配置与测试结果分享如下。

基于 Ultra245K 的个人 AI 工作站搭建指南

硬件配置与特性

CPU:Intel Ultra245K

采用 LGA1851 接口设计,支持 DDR5 内存与 800 系列芯片组主板。包装设计便于安装定位,通过透明窗口可直观观察硬件细节。

基于 Ultra245K 的个人 AI 工作站搭建指南

主板:铭宣终结者 B860M

具备 12 相供电设计,支持 DDR5 内存扩展至 128GB,满足多任务负载需求。

内存:光威龙武 DDR5 16*2 6000MHz 套条

双通道配置提供高带宽性能,适用于 AI 模型运行环境。

机箱与电源

选用开放式机箱(低成本方案)搭配 650W 全模组电源,确保系统稳定运行。

基于 Ultra245K 的个人 AI 工作站搭建指南

性能测试很靠谱

装机完成后,我赶紧测试了一下性能。在 3DMark CPU Profile 测试中,Ultra245K 单线程分数达到 1213 分,处理单个任务速度很快;多线程最大得分 12348 分,多任务处理能力也很强。CPU-Z 测试里,单核心 800 分,多核心 10051 分,和曾经的高端处理器 12900K 相比也不逊色。

基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南

核显方面,相比 14 代的 HD770 有了很大升级,是 4Xe-core 的新式核显。它有 4 个 1.9GHz 的 Xecore,支持 8K 60hz 编解码,AI 算力在 int8 精度下能达到 8TOPS,是 HD770 的 2.6 倍。还支持英特尔 DLBoost 技术,int4 量化部署时算力为 16TOPS,满足大模型端侧部署的算力要求

基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南

模型部署流程

驱动与工具安装

通过 Intel 官网获取最新 GPU 驱动,下载并解压 Intel ipex-llm 部署包。

基于 Ultra245K 的个人 AI 工作站搭建指南

模型加载

使用 Ollama 工具加载 DeepSeek-R1:7b 模型,通过终端指令完成下载与初始化。

基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南

交互界面配置

基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南

安装 AnythingLLM 客户端,配置本地模型路径后即可开启对话。实测核显利用率达 97%,内存占用 7.2GB,生成速度约 10 token / 秒。

基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南基于 Ultra245K 的个人 AI 工作站搭建指南

NPU 未来更值得期待

Ultra245K 还有个厉害的 NPU,虽然现在因为太新,部署的时候有点小问题,但我已经提交给官方了。按照更新速度,下个月左右应该就能用 NPU 进行模型推理和部署了,到时候性能肯定还能提升。

总之,用 Ultra245K 搭建本地 AI 模型真的很划算,操作也不难。如果大家也想拥有自己的 AI 助手,不妨试试这个方案,有啥问题咱们评论区交流!

展开 收起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松