荣耀WIN游戏本H9 AI性能实测:RTX 5070Ti算力与显存瓶颈分析
随着英伟达、英特尔、AMD及苹果等科技巨头纷纷加码AI算力,笔记本的性能评估标准已不再局限于游戏帧率。本期针对荣耀WIN游戏本H9的AI能力进行深度实测,该机型搭载Intel Ultra 9 290HX Plus处理器与满功耗140W的RTX 5070Ti显卡,并配备双通道32GB DDR5 6400内存。通过Geekbench AI基准测试、本地大语言模型部署以及YOYO智能体生态体验,综合评估其端侧AI性能表现。
01AI算力基准测试
在Geekbench AI标准化测试中,Windows平台对比了ONNX和针对英特尔优化的OpenVINO两种框架。测试结果显示,OpenVINO在CPU推理上的表现优于ONNX,半精度得分提升显著。然而,在相同框架下,GPU凭借CUDA加速在单精度、半精度和量化成绩上全面领先CPU,性能倍数分别达到3.57倍、18.51倍和1.61倍。这表明在进行本地AI推理任务时,独立显卡具有压倒性的性能优势。
| 测试项目 | ONNX (CPU) | OpenVINO (CPU) | ONNX DirectML (GPU) |
|---|---|---|---|
| 单精度 (SP) 得分 | 7,211 | 数据有提升 | 领先CPU 3.57倍 |
| 半精度 (HP) 得分 | 2,570 | 提升显著 | 47,727 (领先18.51倍) |
| 量化 (Q) 得分 | 12,060 | 优于ONNX | 领先CPU 1.61倍 |
Geekbench AI 测试成绩对比
为进一步测试RTX 5070Ti的纯计算能力,进行了矩阵乘法测试。数据显示,BF16(Bfloat16)格式在所有矩阵尺寸下表现最优,相对FP32的平均加速比达到3.25倍。其峰值计算性能方面,FP32为17.37 TFLOPS,FP16为55.18 TFLOPS,而BF16高达62.35 TFLOPS。INT8量化虽然加速效果约为1.59倍,但PyTorch原生支持有限,测试数据仅供参考。
02本地大语言模型实测
使用llama-bench针对本机CUDA版本重新编译后,对本地部署的大语言模型进行了实测。在Qwen2.5 7B模型测试中,短提示词预填充处理速度达到4722 tok/s,4096长提示词下仍能保持4285 tok/s,仅下降9%。Token生成速度稳定在105 tok/s,日常对话流畅。对比来看,RTX 5070Ti的生成速度虽排在5090、4090和5080之后,但优于4080及以下显卡笔记本,甚至强于搭载M5 Max的MacBook Pro。
| 模型参数 | 预填充速度 (PP) | 生成速度 (TG) | 显存占用 |
|---|---|---|---|
| Qwen2.5 7B | 4285 - 4722 tok/s | 105 tok/s | 未占用满 |
| Qwen2.5 14B | 2177 tok/s | 49 tok/s | 75% (约9GB) |
本地LLM性能数据(RTX 5070Ti)
在Qwen2.5 14B模型测试中,预处理速度降至2177 tok/s,生成速度为49 tok/s,此时显存占用达到75%,仅剩约3GB余量。这意味着若后台多开软件极易导致显存溢出。对比Ollama API的测试数据,llama-bench的数据更为稳定可信,Ollama因内部缓存机制可能导致预填充速度数据虚高。
本地部署体验权衡
RTX 5070Ti 性能表现
Blackwell架构算力强劲
7B模型生成速度达105 tok/s
7B模型推理速度优于M5 Max
响应延迟低,首Token预热后仅200-900ms


显存瓶颈制约
12GB显存难以支撑27B及以上大模型
运行14B模型时显存占用达75%
后台多任务容易引发爆显存
相比统一内存设备,大模型参数规模受限
03软件生态与总结
在软件生态方面,荣耀自研的YOYO智能体提供了端侧AI能力。该智能体支持离线运行,具备智慧搜索(搜本机文件、跨设备搜索)、YOYO创作(写文案、做PPT、生成代码)及YOYO阅览(划词翻译、问答)等功能。官方数据显示,相比纯云端方案,YOYO的端云协同机制可节省50%的词元消耗,任务成功率达到94.5%。
- YOYO智慧搜索
支持本机文件检索及跨设备搜索 - YOYO创作
涵盖文案写作、PPT生成及代码编写 - YOYO阅览
提供AI划词翻译与文档问答功能 - 端侧优化
离线可用,基于魔法大模型3.0矩阵
综上所述,荣耀WIN游戏本H9在RTX 5070Ti和Intel Ultra 9 290HX Plus的加持下,AI算力表现强劲,特别是YOYO智能体的端侧能力构成了其独家优势。然而,12GB的显存容量在一定程度上限制了本地部署大模型的参数规模,无法与搭载128GB统一内存的设备或Mac电脑在运行超大尺寸模型上竞争。对于在12K至18K价位区间,有轻量级本地部署需求,且需要兼顾游戏性能与生产力的用户而言,该机型具有较高的性价比。
当前文章无评论,是时候发表评论了