什么值得买App下载 App ›
连续签到专享现金活动

荣耀WIN游戏本H9 AI性能实测:RTX 5070Ti算力与显存瓶颈分析

随着英伟达、英特尔、AMD及苹果等科技巨头纷纷加码AI算力,笔记本的性能评估标准已不再局限于游戏帧率。本期针对荣耀WIN游戏本H9的AI能力进行深度实测,该机型搭载Intel Ultra 9 290HX Plus处理器与满功耗140W的RTX 5070Ti显卡,并配备双通道32GB DDR5 6400内存。通过Geekbench AI基准测试、本地大语言模型部署以及YOYO智能体生态体验,综合评估其端侧AI性能表现。
01AI算力基准测试
在Geekbench AI标准化测试中,Windows平台对比了ONNX和针对英特尔优化的OpenVINO两种框架。测试结果显示,OpenVINO在CPU推理上的表现优于ONNX,半精度得分提升显著。然而,在相同框架下,GPU凭借CUDA加速在单精度、半精度和量化成绩上全面领先CPU,性能倍数分别达到3.57倍、18.51倍和1.61倍。这表明在进行本地AI推理任务时,独立显卡具有压倒性的性能优势。
测试项目ONNX (CPU)OpenVINO (CPU)ONNX DirectML (GPU)
单精度 (SP) 得分7,211数据有提升领先CPU 3.57倍
半精度 (HP) 得分2,570提升显著47,727 (领先18.51倍)
量化 (Q) 得分12,060优于ONNX领先CPU 1.61倍

Geekbench AI 测试成绩对比

为进一步测试RTX 5070Ti的纯计算能力,进行了矩阵乘法测试。数据显示,BF16(Bfloat16)格式在所有矩阵尺寸下表现最优,相对FP32的平均加速比达到3.25倍。其峰值计算性能方面,FP32为17.37 TFLOPS,FP16为55.18 TFLOPS,而BF16高达62.35 TFLOPS。INT8量化虽然加速效果约为1.59倍,但PyTorch原生支持有限,测试数据仅供参考。
02本地大语言模型实测
使用llama-bench针对本机CUDA版本重新编译后,对本地部署的大语言模型进行了实测。在Qwen2.5 7B模型测试中,短提示词预填充处理速度达到4722 tok/s,4096长提示词下仍能保持4285 tok/s,仅下降9%。Token生成速度稳定在105 tok/s,日常对话流畅。对比来看,RTX 5070Ti的生成速度虽排在5090、4090和5080之后,但优于4080及以下显卡笔记本,甚至强于搭载M5 Max的MacBook Pro。
模型参数预填充速度 (PP)生成速度 (TG)显存占用
Qwen2.5 7B4285 - 4722 tok/s105 tok/s未占用满
Qwen2.5 14B2177 tok/s49 tok/s75% (约9GB)

本地LLM性能数据(RTX 5070Ti)

在Qwen2.5 14B模型测试中,预处理速度降至2177 tok/s,生成速度为49 tok/s,此时显存占用达到75%,仅剩约3GB余量。这意味着若后台多开软件极易导致显存溢出。对比Ollama API的测试数据,llama-bench的数据更为稳定可信,Ollama因内部缓存机制可能导致预填充速度数据虚高。

本地部署体验权衡

RTX 5070Ti 性能表现
  • Blackwell架构算力强劲

  • 7B模型生成速度达105 tok/s

  • 7B模型推理速度优于M5 Max

  • 响应延迟低,首Token预热后仅200-900ms

显存瓶颈制约
  • 12GB显存难以支撑27B及以上大模型

  • 运行14B模型时显存占用达75%

  • 后台多任务容易引发爆显存

  • 相比统一内存设备,大模型参数规模受限

03软件生态与总结
在软件生态方面,荣耀自研的YOYO智能体提供了端侧AI能力。该智能体支持离线运行,具备智慧搜索(搜本机文件、跨设备搜索)、YOYO创作(写文案、做PPT、生成代码)及YOYO阅览(划词翻译、问答)等功能。官方数据显示,相比纯云端方案,YOYO的端云协同机制可节省50%的词元消耗,任务成功率达到94.5%。
  • YOYO智慧搜索
    支持本机文件检索及跨设备搜索
  • YOYO创作
    涵盖文案写作、PPT生成及代码编写
  • YOYO阅览
    提供AI划词翻译与文档问答功能
  • 端侧优化
    离线可用,基于魔法大模型3.0矩阵
综上所述,荣耀WIN游戏本H9在RTX 5070Ti和Intel Ultra 9 290HX Plus的加持下,AI算力表现强劲,特别是YOYO智能体的端侧能力构成了其独家优势。然而,12GB的显存容量在一定程度上限制了本地部署大模型的参数规模,无法与搭载128GB统一内存的设备或Mac电脑在运行超大尺寸模型上竞争。对于在12K至18K价位区间,有轻量级本地部署需求,且需要兼顾游戏性能与生产力的用户而言,该机型具有较高的性价比。

评论

评论区空态插画

当前文章无评论,是时候发表评论了