张大妈

哈佛辍学生拿下5亿美元融资:不造GPU,也要“绕开”英伟达

源自今日头条:DeepTech深科技

01-22 13:56

在AI算力成本高企的当下,一家名为Etched的初创公司提出了一种新思路:不做通用GPU,而是打造一款专为Transformer模型设计的ASIC芯片Sohu。这款芯片旨在通过极致的专业化,实现推理速度与成本效益的数量级突破,为AI硬件发展提供了绕开英伟达主导地位的新可能。

哈佛辍学生拿下5亿美元融资:不造GPU,也要“绕开”英伟达智能速览

  • Etched公司获近5亿美元融资,估值据称达50亿美元。

  • 其Sohu芯片专为Transformer模型设计,号称速度超英伟达GPU一个数量级。

  • 一台8颗Sohu芯片的服务器可替代160块H100 GPU,成本效益显著。

  • 公司策略是做“减法”,专注单一架构,规避通用GPU的软件开销。

  • Etched的成功押注于Transformer模型将持续主导AI领域。

哈佛辍学生拿下5亿美元融资:不造GPU,也要“绕开”英伟达精华内容

当AI算力竞赛从单纯追求性能转向成本与效率的平衡,一款专为Transformer而生的芯片应运而生,它试图通过极致的专精化,重塑市场规则。

极致专注的Sohu芯片

Etched公司推出的Sohu芯片,是一款专为Transformer架构AI模型设计的专用定制芯片(ASIC)。与能够处理多种任务的通用GPU不同,Sohu采取了高度专一的策略,其硬件设计只为最高效地运行Transformer模型服务,而无法运行CNN、LSTM等其他类型的AI模型。这种“做减法”的设计哲学,使其能够规避无关的硬件组件与软件开销,将所有计算资源集中于单一目标。

Sohu芯片采用台积电4nm工艺制造,并已确保了HBM内存和服务器硬件的供应链,以支持其生产与集成。正是这种对通用性的舍弃,换来了在特定领域内的极致性能表现。

性能与成本的颠覆

Etched公布的测试数据显示,Sohu芯片的性能表现十分突出。在运行Llama 70B模型时,其吞吐量可达每秒超过50万个token。Etched CEO加文·乌贝蒂声称,在运行文本、图像和视频Transformer时,Sohu的速度比英伟达最新的Blackwell GB200 GPU快一个数量级,同时价格更低。

更具冲击力的是成本对比。据Etched给出的配置,一台由8颗Sohu芯片组成的服务器,其性能足以替代160块英伟达H100 GPU。这意味着对于需要大规模进行AI推理的企业而言,Sohu提供了一种更为经济、高效且环保的硬件选择,直接挑战了现有GPU服务器的成本结构。

商业逻辑与生态应用

Etched的商业逻辑根植于AI市场的变化。随着大模型训练成本超过10亿美元,而推理应用规模可能超过100亿美元,市场对算力的需求已从单纯的FLOPS比拼,转向成本、延迟和能耗的综合较量。Etched正是瞄准了推理暴涨带来的巨大市场机会。

为了展示其实力,Etched与Decart公司合作推出了AI生成游戏Oasis。这款类似《我的世界》的游戏,其画面由生成模型实时合成,而非预制资产。Etched称,该模型在Sohu芯片上的运行速度提升了10倍以上,这证明了专用芯片在支持全新AI应用形态上的巨大潜力。

创始团队与未来赌注

Etched的背后是一支年轻且背景深厚的团队。2022年,哈佛大学数学与计算机专业的学生加文·乌贝蒂和Chris Zhu因发现运行生成式AI模型的效率提升机会而决定辍学创业。他们与拥有丰富创业和管理经验的罗伯特·瓦亨、马克·罗斯共同组成了核心团队。

然而,Etched的成功也建立在一个巨大的赌注之上:Transformer架构将长期是AI领域的主流。未来如果出现新的、更优越的模型架构,那么Sohu芯片的专用性优势可能瞬间变为劣势。可以说,Etched赌的不仅是一颗芯片,更是对AI技术发展方向的时代判断。

Etched的策略展现了AI硬件领域“术业有专攻”的潜力,它挑战了追求通用性的传统路径。这种以效率为核心的方案能否赢得市场认可,并成为推动AI普及的关键力量,值得整个行业深思。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章