张大妈

曦望新一代推理GPU芯片启望S3发布:单位Token推理成本降低90%

源自今日头条:IT之家

02-11 14:01

国产GPU厂商曦望发布了新一代推理芯片启望S3,旨在解决大模型推理成本高昂的行业痛点。该芯片通过架构与存储优化,实现了单位Token推理成本降低约90%,性价比提升超10倍,为大规模AI应用的普及提供了新的可能。

曦望新一代推理GPU芯片启望S3发布:单位Token推理成本降低90%智能速览

  • 曦望发布新一代推理GPU芯片启望S3,性价比提升超10倍。

  • 在主流大模型推理中,单位Token成本较上一代降低约90%。

  • 采用LPDDR6显存方案,显存容量较上代提升4倍。

  • 同步发布寰望SC3-256超节点方案,适配万亿级参数模型。

  • 联合生态伙伴发起“百万Token一分钱”推理成本计划。

曦望新一代推理GPU芯片启望S3发布:单位Token推理成本降低90%精华内容

启望S3究竟是如何实现如此大幅度的成本优化的?其背后的技术细节与生态布局,是理解其市场潜力的关键。

核心性能指标

启望S3是一款面向大模型推理的定制化GPGPU芯片,其核心亮点在于极致的性价比。根据官方数据,在典型推理场景下,该芯片的整体性价比较上一代产品提升超过10倍。这一定提升主要归功于其算力与存储设计的协同优化,使得在处理同等任务时,资源消耗大幅降低,直接转化为显著的经济效益。

存储架构革新

为应对大模型对高带宽、大容量存储的需求,启望S3采用了LPDDR6显存方案。这一选择使其显存容量较上一代产品直接提升了4倍,能够更好地容纳千亿乃至万亿级参数的大型模型,减少数据交换的瓶颈。

同时,芯片支持从FP16到FP4等多种计算精度的灵活切换,允许用户根据不同场景对精度和速度的需求进行动态调整,进一步优化推理效率与成本平衡。

生态与成本计划

曦望并未止步于单一芯片的发布,而是同步推出了面向大模型推理的寰望SC3-256超节点方案。该方案专为千亿、万亿级参数的多模态MoE(混合专家)推理场景设计,提供了一体化的集群部署能力。

更具行业冲击力的是,曦望联合商汤科技、第四范式等伙伴共同发起“百万Token一分钱”推理成本计划,试图将大模型推理成本推向新的量级,加速技术落地。

公司背景与支撑

曦望的前身是商汤科技的大芯片部门,拥有深厚的技术积累。不久前,该公司宣布在近一年内累计完成约30亿元的战略融资,为其研发和市场拓展提供了充足的资金支持。

截至2025年,曦望芯片的交付量已突破万片,标志着其已具备初步的规模化生产和交付能力,这为其产品的市场竞争力提供了有力背书。

启望S3的发布,不仅是一次产品的迭代,更是国产AI芯片在高性价比推理赛道上的一次有力宣言。随着生态合作的深入和产能的爬坡,它能否真正引爆大模型应用的下一次浪潮,值得期待。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章