挑战英伟达！24人团队造出AI芯片，速度快50倍、功耗降10倍

一家仅24人的初创公司 Taalas，以约3000万美元的研发投入，推出了 HC1 推理芯片。这款芯片通过将 Llama 3.1 8B 模型直接固化在硅片上，实现了每秒近 17000 tokens 的惊人推理速度，功耗和成本相比传统 GPU 方案大幅降低。这一极端专用化的设计，为高性能、低成本的 AI 推理部署开辟了一条全新的技术路径，直击当前 GPU 架构的痛点。

智能速览

• HC1 芯片推理速度达 16960 tokens/s，远超英伟达 B200。

• 其功耗仅为 250W，构建成本是 GPU 方案的三十分之一。

• 采用模型权重硬编码技术，彻底摒弃外部 HBM 内存。

• 由前 AMD 高管 Ljubisa Bajic 创立，团队仅 24 人。

• 芯片不可编程，仅能运行 Llama 3.1 8B 模型。

精华内容

HC1 芯片的颠覆性表现源于其激进的设计理念：放弃通用性，将模型直接固化于硬件。这种极端专用化思路，究竟是如何实现的？它在现实应用中又意味着什么？

极致性能表现

HC1 在运行 Llama 3.1 8B 模型时，实测推理速度可达每秒 16,960 tokens。

这一数据是英伟达最新 B200 GPU 的约 48 倍，也是目前市场上最快竞品 Cerebras 的近 9 倍，在速度上实现了断层式领先。

在成本与功耗方面，单颗 HC1 芯片功耗仅 250W，无需昂贵的液冷系统。其构建成本据称仅为同等性能 GPU 方案的三十分之一，每百万 tokens 的生成成本低至 0.0075 美元，展现出显著的经济性优势。

硬编码的奥秘

传统 GPU 的瓶颈在于计算单元与存储单元分离，数据在 HBM 和计算核心间频繁搬运，消耗大量时间和能量。

Taalas 的解决方案是“硬编码推理”，将 Llama 3.1 8B 模型的权重直接固化在硅片的掩模 ROM 中，与计算逻辑共存，从而彻底摒弃了外部 DRAM 或 HBM。

这使得电信号可以在芯片内部直接流动，无需进行存取操作，极大降低了延迟和功耗，是其性能飙升的核心原因。

专用性的代价

HC1 的极端专用化也带来了明显的局限性。芯片出厂后模型无法更改，不支持训练和多模态任务，且在长链推理场景下表现一般。

因此，它最适合模型版本稳定的生产环境、推理即服务以及对延迟和成本极度敏感的大规模部署场景。

对于需要频繁迭代模型、支持多种模型或多模态能力的研发实验阶段，HC1 则并不适用。这种设计选择是典型的用通用性换取极致性能的权衡。

行业冲击与未来

Taalas 的成功验证了极端专用化路线的可行性，对英伟达的通用 GPU 霸主地位构成了潜在挑战。

公司已规划了清晰的产品路线图：2026 年冬季将发布支持更大规模模型和多芯片互联技术的 HC2 芯片，并在年底前推出支持 GPT-5.2 等顶级模型的处理器。

然而，它仍需面对英伟达 CUDA 生态壁垒、市场教育以及量产良率等多重挑战。

Taalas HC1 的出现，是 AI 芯片领域一次大胆的探索。它以牺牲通用性为代价，在特定场景下换来了性能与成本的颠覆性突破。这是否会引领 AI 芯片走向一个更加细分和极致优化的未来？通用与专用之间的平衡，将如何演变？