英特尔AI PC生态全面升级:软硬协同构建AI新生态

2025-04-01 22:02:14 0点赞 0收藏 0评论

2025年3月29日,英特尔在北京举办了“英特尔酷睿Ultra  200HX新品分享会”,展示了来自10家OEM的20款搭载了最新的酷睿Ultra  200HX处理器的高性能游戏本,而在本次分享会之前,英特尔还与一众媒体分享了他们在AI领域的最新进展,特别是在大模型部署和AI PC应用方面的突破性成就。

本次会议围绕英特尔的AI PC战略,全面展示了在大模型部署、框架优化及应用生态建设上的最新进展。会上,英特尔中国区AI  PC产品总监孙峪系统阐述了DeepSeek大模型的突破性技术及其在本地化部署中的实践,并联合神州数码、爱奇艺、亦心科技等合作伙伴,展示了多款基于AI  PC的创新应用。此次会议不仅凸显了英特尔在AI算力硬件领域的持续领先,更通过软硬协同的生态策略,为开发者、企业和个人用户构建了从框架支持到场景落地的完整解决方案。

DeepSeek大模型部署:私有化需求驱动全栈解决方案

DeepSeek可以说是今年最火热的大模型,它作为一款完全开源的MIT模型,DeepSeek通过MOE(混合专家)和COT(思维链)技术,实现了参数规模与推理效率的平衡。而随着大模型技术从云端向端侧延伸,私有化部署成为政企客户的核心诉求。而DeepSeek通过蒸馏技术推出了14B、32B等不同尺寸的模型版本,降低了部署门槛。

现在的私有化部署有三种不同使用场景:

满血版部署:采用BF16或FP8高精度数据格式,最大化模型性能,适用于对结果准确性要求严苛的场景;蒸馏模型适配:通过DeepSeek对LLaMA、Qwen等模型的蒸馏,提供轻量化版本,降低硬件成本;定制化开发:结合企业数据,通过“老师-学生”模式训练专属模型,实现场景化能力强化。

在私有化部署过程中,需考虑的因素包括但不限于数据精度的选择、硬件配置以及服务级别协议(SLA)的要求,如首字响应时间和平均每秒生成的token数量。为了更好地适应这些复杂需求,英特尔推出了多种一体机解决方案,它们具有开箱即用、支持私有化部署弹性以及能够与本地企业应用深度结合的优势。

而英特尔本身拥有拥有非常完善的CPU与GPU产品线,所以这个一体机也可以是多种多样的,可以是至强W处理器+多张英特尔锐炫独立显卡的工作站,或者是使用酷睿处理器搭配单张锐炫显卡的整机,也可以是搭载酷睿Ultra处理器的轻薄本。

英特尔AI PC生态全面升级:软硬协同构建AI新生态

英特尔现场展示了基于酷睿Ultra处理器的轻薄本运行DeepSeek蒸馏模型,14B模型可在普通轻薄本上流畅运行代码生成任务,而搭载了64GB内存的笔记本更是可以运行32B的模型,通过投机解码技术,模型生成速度提升显著,实现每秒14个token的高效生成能力。

多样化的大模型框架解决方案

除了专注于大模型本身,英特尔还在多个大模型框架上提供了丰富的解决方案。例如,针对个人开发者和ISV,英特尔推出了IPEX-LLM整合包,旨在解决开发者在端侧部署时的硬件兼容性问题,该工具不仅兼容Ollama框架,还支持LLM  Studio、Open WebUI等主流框架。使得用户能够在端侧充分利用英特尔AI PC本地算力。

IPEX-LLM的整合包仅200MB,可在GitHub和魔搭社区一键下载,且做了本地化优化,它是通过魔搭社区获取模型的,避免了网络依赖问题。

神州数码与英特尔合作开发的爱问学端侧AI  PC应用开发框架,则致力于解决底层硬件迭代更新、大模型获取便捷性以及应用瘦身等问题,为开发者提供更加流畅的开发体验。

该框架整合Ollama、Hugging Face、Model  Scope三大模型生态,提供统一API接口,降低ISV的开发门槛,该框架自动适配英特尔CPU与GPU算力,开发者无需关注底层迭代;并内置模型市场支持动态更新,缩短开发周期;还通过端侧小模型与云端协同,实现安装包“瘦身”。

五大场景重塑用户体验

英特尔与合作伙伴展示了多款端侧AI应用,覆盖知识管理、办公协作、影音娱乐、创意设计等场景,凸显AIPC的实用价值。

扣子AIPC会议助手:端云协同提效办公

基于扣子平台开发的会议助手,集成本地语音转写、云端摘要生成与图片向量化功能。演示中,系统实时转录会议内容,并通过指令“截图入库”自动保存关键信息,会后一键生成结构化纪要,解决多任务处理痛点。

爱问学“随身百科”:RAG助力知识管理

神州数码演示了爱问学软件的文档解析能力。用户上传《云南野生食用菌规范》后,14B模型从文本中提取信息,生成旅行推荐,并结合搜索引擎获取最新资讯,实现“本地知识库+实时数据”的融合应用。

面壁智能多模态分析:视频摘要再升级

面壁智能的8B视觉大模型可离线解析视频内容。现场导入的大熊猫互动视频中,模型准确识别动作并生成摘要,任务管理器显示其完全运行于集成显卡,验证端侧算力的可靠性。

爱奇艺智能助手:个性化影音伴侣

爱奇艺应用通过大模型分析用户偏好,实现“精准推荐+剧情互动”。例如,询问“年代剧推荐”后,助手结合云端片库与端侧GPU算力,推送匹配内容,并支持实时问答,增强观影沉浸感。

亦心科技AI闪绘:端侧AIGC颠覆创作

亦心科技总经理韦祖兴展示了搭载于Yoga设备的“AI闪绘”功能。用户通过手写笔输入草图,端侧模型实时渲染成精细图像,且生成速度媲美云端。韦祖兴表示:“本地化不仅消除网络延迟,还支持离线创作,释放艺术自由度。”

结语

在会议的最后,孙峪总结了英特尔在AIPC上的三大优势。第一,英特尔不断地提升他们的AIPC产品的算力,扩大整体产品家族。第二,对于业绩广泛的框架,包含了OpenVINO、微软框架、Ollama等等框架都有非常好的支持,确保软件层面给个人开发者、ISV有更多选择。第三,英特尔全球和中国团队都在推动AIPC的ISV工作,并举办英特尔人工智能大赛,鼓励开发者创新。

英特尔通过此次技术交流会,全面展现了其在大模型部署、框架支持及AI  PC应用领域的领先地位和技术实力。通过提供完整的解决方案和与合作伙伴的紧密合作,英特尔能够满足市场对高性能AI计算的需求,推动AI技术的创新和应用。未来,英特尔将继续致力于推动AI技术的发展和普及,为各行各业带来更多的价值和创新。

超能网**

**关注我们,浏览热门硬件评测

随时查看最新天梯榜

展开 收起

intel 英特尔 酷睿i5-14600KF CPU 3.5GHz 14核20线程

intel 英特尔 酷睿i5-14600KF CPU 3.5GHz 14核20线程

1429元起

intel 英特尔 Ultra 7 265K CPU 3.9GHz 20核20线程

intel 英特尔 Ultra 7 265K CPU 3.9GHz 20核20线程

2209元起

intel 英特尔 酷睿i7-14700KF CPU 3.4Ghz 20核28线程

intel 英特尔 酷睿i7-14700KF CPU 3.4Ghz 20核28线程

2199元起

intel 英特尔 酷睿i5-12600KF CPU 4.9Ghz 10核16线程

intel 英特尔 酷睿i5-12600KF CPU 4.9Ghz 10核16线程

857元起

intel 英特尔 酷睿 i5-12490F CPU 4.6GHz 6核12线程

intel 英特尔 酷睿 i5-12490F CPU 4.6GHz 6核12线程

666元起

intel 英特尔 酷睿i9-14900K CPU 3.2GHz 24核32线程

intel 英特尔 酷睿i9-14900K CPU 3.2GHz 24核32线程

3399元起

intel 英特尔 酷睿 i5-13490F CPU 3.5GHz 10核16线程

intel 英特尔 酷睿 i5-13490F CPU 3.5GHz 10核16线程

719元起

intel 英特尔 Ultra 9 285K CPU 3.7GHz 24核24线程

intel 英特尔 Ultra 9 285K CPU 3.7GHz 24核24线程

4411.76元起

intel 英特尔 酷睿 i5-12400F CPU 2.5GHz 6核12线程

intel 英特尔 酷睿 i5-12400F CPU 2.5GHz 6核12线程

879元起

intel 英特尔 酷睿i7-14700K CPU 3.4Ghz 20核28线程

intel 英特尔 酷睿i7-14700K CPU 3.4Ghz 20核28线程

2799元起

intel 英特尔 Ultra 5 245K CPU 4.2GHz 14核14线程

intel 英特尔 Ultra 5 245K CPU 4.2GHz 14核14线程

2115元起

intel 英特尔 酷睿 i3-12100F CPU 3.3GHz 4核8线程

intel 英特尔 酷睿 i3-12100F CPU 3.3GHz 4核8线程

359元起

intel 英特尔 酷睿i9-14900KF CPU 3.2GHz 24核32线程

intel 英特尔 酷睿i9-14900KF CPU 3.2GHz 24核32线程

1259元起

intel 英特尔 酷睿 i7-12700KF CPU 12核20线程 3.6GHz

intel 英特尔 酷睿 i7-12700KF CPU 12核20线程 3.6GHz

1699元起

intel 英特尔 酷睿 Ultra 5 230F CPU 2.7GHz 10核12线程

intel 英特尔 酷睿 Ultra 5 230F CPU 2.7GHz 10核12线程

1999元起

intel 英特尔 酷睿 i5-12400 CPU 4.4GHz 6核12线程

intel 英特尔 酷睿 i5-12400 CPU 4.4GHz 6核12线程

714元起
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

相关好价推荐
查看更多好价

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
0
扫一下,分享更方便,购买更轻松