近期,一家名为 Taalas 的芯片初创公司宣布成功融资,计划利用这笔资金研发专用 AI 推理芯片,其独特的技术路线和惊人的性能数据,对由英伟达主导的现有 AI 算力格局构成了潜在挑战,引发了业界的广泛关注。
Taalas 公司由多位曾在 AMD、英伟达和 Tenstorrent 担任核心职位的资深芯片专家创立,其创始人 Ljubisa Bajic 更是知名 AI 芯片公司 Tenstorrent 的联合创始人。这支经验丰富的团队选择了一条与当前主流截然不同的技术路径。目前,以英伟达 GPU 为代表的通用 AI 芯片占据市场主导地位,其优势在于灵活性和成熟的软件生态。然而,这类芯片遵循计算与存储分离的架构,在处理大模型时,数据需要在计算单元和高带宽内存(HBM)之间频繁搬运,这一过程消耗了大量时间与功耗,形成了所谓的“内存墙”瓶颈。为了解决此问题,行业投入巨资研发先进封装、高速互联和液冷散热等技术,使得系统愈发复杂和昂贵。
Taalas 的核心理念是“模型即计算机”,旨在从根本上消除“内存墙”。其首款产品 HC1 芯片采用了一种极端专用的设计思路:通过掩模只读存储器(Mask ROM)工艺,将特定 AI 模型(如 Meta Llama 3.1 8B)的权重参数直接“刻录”或“固化”在芯片的硅片上,与计算逻辑融为一体。这种存算合一的设计彻底抛弃了外部的 HBM,避免了大规模数据搬运,从而在性能和能效上实现了巨大突破。

根据 Taalas 公布的数据,其 HC1 芯片在运行 Llama 3.1 8B 模型时,单用户推理速度可达每秒 17000 个 token,是英伟达最新 Blackwell 架构 GPU 的近 50 倍,也远超其他 AI 芯片初创公司的产品。同时,其成本据称仅为同等性能 GPU 方案的二十分之一,功耗也大幅降低,一个搭载十颗 HC1 芯片的服务器可采用传统风冷散热。此外,该公司还模拟了通过 30 颗芯片集群运行拥有 6710 亿参数的 DeepSeek R1 模型,展示了其架构扩展至更大模型的潜力。

然而,这种极致专用化也带来了显而易见的局限性:灵活性几乎为零。一块 HC1 芯片只能运行其固化的特定模型,无法升级或更换。在 AI 模型快速迭代的今天,这种设计意味着芯片可能很快过时,成为“电子垃圾”。这正是 Taalas 路线的最大风险,也是此前少有公司敢于尝试的原因。
面对这一挑战,Taalas 提出了相应的解决方案和商业逻辑。他们借鉴了“结构化 ASIC”的思路,通过仅修改芯片的少数几层掩模来适配新模型,并声称能将从模型到芯片的生产周期缩短至两个月。Taalas 的目标市场并非需要频繁更换模型的研发阶段,而是大规模部署阶段的垂直应用场景。对于智能客服、车载助手等需要长期稳定运行单一模型的业务而言,极致的成本和能效远比灵活性更具吸引力。当一个模型被验证足够成熟且应用广泛时,为其定制专用芯片在经济上是可行的,节省的推理成本足以覆盖芯片的制造费用。
Taalas 的出现,意味着 AI 芯片市场可能走向分化。未来,算力市场或将形成“通用 GPU + 专用 AI 芯片”的混合格局:以英伟达为首的通用算力继续主导需要灵活性的模型训练和前沿探索;而对于那些已经成熟并大规模部署的AI应用,以 Taalas 为代表的专用芯片将凭借其在成本和效率上的巨大优势,开辟出一个全新的细分市场。这不仅为初创公司提供了一条避开与巨头正面竞争的差异化路径,也为企业用户提供了更精细化的算力选择,最终可能重塑 AI 推理市场的竞争生态。