Taalas公司通过颠覆性架构设计,推出HC1芯片,实现AI推理速度提升10倍、成本降低20倍,为行业解决算力浪费和高成本痛点。
智能速览
Taalas HC1芯片推理速度达17,000 tokens/秒,远超英伟达B200。
创始人Ljubisa Bajic否定冯·诺依曼架构,模型参数直接固化进晶体管。
HC1功耗仅200W,成本便宜20倍,无需批处理即可实时响应。
25人团队用3000万美金研发两年半,融资总额达2.19亿。
技术通过Mask ROM Recall Fabric实现存储计算一体化。
精华内容
深入剖析Taalas如何炸掉内存带宽墙,将模型直接烧入芯片,引发AI推理领域的技术革命。
创新架构
传统芯片依赖内存搬运数据,导致90%算力浪费。Taalas发明Mask ROM Recall Fabric架构,在制造时将模型权重固化进晶体管,使存储与计算合一。
这种设计彻底废除了80年来的冯·诺依曼假设,数据无需搬运,直接在计算点处理。团队采用70年代手工布局方法,申请14项专利,实现了真正意义上的存算一体。
相比Cerebras或Groq的优化方案,Taalas直接消除内存墙,而非打薄,从根源提升效率。
性能数据
实测显示,HC1芯片在Llama 3.1 8B模型上推理速度达17,000 tokens/秒,而英伟达最新B200仅约1,800 tokens/秒,差距近10倍。
功耗方面,HC1仅200W,比竞品低10倍,且因速度极快,无需批处理即可实现低延迟实时响应。成本便宜20倍,专用芯片定制成本仅为训练成本的百分之一。
数据基于TSMC 6纳米工艺,815平方毫米芯片含530亿晶体管,已量产并开放API测试。
团队效率
创始人Ljubisa Bajic曾任AMD和Nvidia架构师,创立Tenstorrent估值32亿后离开。2023年携核心团队三人启动Taalas,以极度聚焦换取高效。
仅25人团队,投入3000万美金研发两年半,远低于行业平均。团队包括AMD/Tenstorrent老兵,如COO Lejla Bajic和CTO Drago Ignjatovic,确保技术深度。
这种聚焦模式在硬科技领域尤为关键,硬件容错率低,每次流片需真金白银投入,迫使团队极致优化资源。
成本革命
HC1的代价是模型专属:每个模型对应一款芯片,如Llama 3.1需专用HC芯片。但Taalas与TSMC合作推出两层金属快速更新方案,换模型仅需改两层金属,周期两个月。
随着模型更新放缓,用户更重稳定性,专用芯片商业可行性提升。Taalas让AI推理成本趋近零,与DeepSeek训练端优化形成呼应,共同推动价格革命。
尽管面临超大参数模型和客户接受度挑战,但低成本高效率趋势不可逆。