张大妈

AMD纯CPU AI机架避坑指南:哪些场景千万别盲目跟风

源自95位全网作者

13:35

10月12日,AMD在加州圣克拉拉发布了面向智能体AI的专用机架平台Helion,一口气摆出纯CPU和CPU+GPU两种配置。纯CPU机架单机架最多支持32768个CPU核心,但它的定位不是替你跑模型,而是为智能体执行任务提供独立算力,并可连接独立的模型推理基础设施。这轮跟风的第一颗坑不在价格和功耗,而在误解纯CPU机架的角色。新浪华尔街见闻

先把同名不同款的产品分清:Helios管“思考”,Helion管“跑腿”

容易被忽略的一点是,这次发布的Helion不是GPU圈等货的Helios。Helios是AMD今年7月发布的机架级GPU方案,商用订单已经落地:9 月 30 日,HPE 宣布获得其首笔 AMD Helios AI 机架系统订单,客户为云服务商 Vultr。而Helion还内置了集成式令牌路由器,把智能体的模型调用分发到前沿模型和开源模型。从这一分工就能看出:模型“思考”的部分交给既有或外部的推理服务,机架解决的是智能体“干活”的部分。分不清这两款产品,采购对象就会选错。知乎华尔街见闻

场景一:主营业务是高并发模型推理,指望纯CPU替GPU干活

智能体确实加重了CPU负载——编排、推理循环、数据处理、安全组件都压在处理器上,花旗在报告里直接把CPU称作“新的瓶颈”。但生成token的大头仍然压在GPU上:按花旗的自下而上测算,一块GB200级别的GPU大约只能服务500名智能体用户。纯CPU机架在这类负载里替代不了推理基础设施;真想私有化推理,AMD为企业准备的配置是带Instinct MI350P GPU节点的一体化机架。把“买机架省GPU”当成预算主线的用户,方向从第一步就错了。36氪华尔街见闻

场景二:把“发布了”当成“能发货”,按新闻日期排采购计划

Helion是基于开放计算项目(OCP)规范设计的智能体AI机架级架构,目标是为智能体AI基础设施提供灵活配置。各项配置目前仍在与生态系统合作伙伴共同开发,官方时间表指向2026年11月正式上市。宣布支持的平台厂商包括思科、戴尔、HPE、联想、超微等八家公司。因此预算和排期应当绑定各合作伙伴的整机方案,而不是发布会日期——AMD自己把Helion定位为开放技术蓝图,现阶段没有可由AMD直接下单的整机。科创板日报华尔街见闻华尔街见闻

场景三:中小企业追“三万核旗舰”

32,768核是纯CPU机架的扩展上限,AMD明确该配置面向超大规模客户,与模型推理基础设施相互独立;普通企业的智能体并发远填不满一台机架级单元。Helion两种配置均支持液冷和风冷,但机架级交付带来的供电、散热和运维门槛,每家企业要拿自家机房条件核对。AMD强调Helion能在客户现有IT基础设施上部署智能体AI能力,帮助企业降低迁移成本和采购门槛。 这是厂商观点,能否在特定机房成立,取决于实测而非发布会话术。华尔街见闻华尔街见闻

场景四:用“CPU复兴”的宏观叙事替代自身负载测量

这轮智能体算力故事多为长期预测:花旗预计CPU-GPU配比将从训练期的1:8向1:1演进,推动2030年CPU市场规模达3000亿美元。该行预计到2030年,专用于智能体的CPU将占据整个CPU市场52%的份额——这是2030年的目标,不是今天的采购依据。眼下商业落地的重订单仍在GPU侧:Helios单机架集成72颗MI455X GPU,可提供2.9 EFLOPS的FP4推理算力。要跟风的企业,该先问的不是市场有多大,而是自己业务的智能体并发和任务构成到底什么样。36氪知乎

什么情况下值得跟:三个条件同时成立再动手

AMD计算与企业AI高级副总裁兼总经理Dan McNamara说得直白:智能体AI不是单一工作负载,它涵盖个人智能体、企业应用、代码执行和复杂工作流,每类场景的计算需求各不相同。纯CPU机架值得考虑的前提有三个:智能体并发规模足够大;负载确实以代码执行、工具调用和编排为主;已有独立的模型推理资源可以对接。三条缺一,就该看一体化版本,或者等11月合作伙伴整机上市后拿真实业务实测再做决定。要不要跟风,从来不取决于“三万核”这个数字,而取决于你的业务能不能对上这台机架的分工。华尔街见闻

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章