新芯片通过物理硬连线技术实现超高推理速度和低功耗，为AI市场带来颠覆性变革，解决传统GPU的能耗和效率问题，开启边缘计算新可能。
智能速览
HC1芯片推理速度达16000 tokens/秒，延迟低于1毫秒。
制造成本降低20倍，功耗降低10倍。
采用物理硬连线技术，将模型权重直接刻入硅片。
针对模型变动，提出半成品晶圆重设计方法。
与英伟达GPU相比，推理阶段优势显著。
精华内容
物理硬连线技术正重塑AI芯片格局，HC1芯片以极致性能挑战传统霸权，其创新架构和成本效益引发行业深思。
芯片大神联手
吉姆·凯勒和柳比沙·巴季奇，两位芯片设计巨擘联手。巴季奇创立Tenstorrent，提出条件计算概念；吉姆加入并升任CEO，引入RISC-V架构，目标颠覆英伟达GPU霸权。
他们的合作源于对GPU低效的共识，认为暴力计算浪费算力和电能。吉姆在Tenstorrent推动开源战略，巴季奇专注底层架构。
颠覆性技术
HC1芯片采用物理硬连线，将大模型如Llama 3.1 8B直接刻入硅片。无外接HBM显存，用Mask ROM技术处理静态权重，SRAM处理动态上下文。实测推理速度16000 tokens/秒，延迟低于1毫秒，体感接近零延迟。
成本降低20倍，功耗降低10倍，200瓦PCIe卡替代数千瓦GPU服务器，能效优势明显。
市场冲击
相比英伟达GPU，HC1在推理阶段性能卓越。传统GPU为灵活性牺牲效率，HC1专用设计在固定模型上无可匹敌。巴季奇的Taalas公司定位推理市场，瞄准成熟模型的大规模部署。
适用场景包括边缘计算设备，如生成论文或代码的即时响应，尤其适合企业级应用。
挑战未来
HC1最大挑战是模型快速迭代。专用芯片在模型变动时需重新制造，巴季奇借结构化ASIC理念，用台积电半成品晶圆快速重设计，几百万美元和两个月时间注入新模型。
支持200亿参数的第二代芯片在计划中，但GPT4级模型需突破858平方毫米晶圆限制。Tenstorrent收购Blue Cheetah，为大规模互联铺路。
这项技术有望大幅降低AI推理成本，推动边缘设备普及。然而，模型迭代速度是关键变量，它能否成为主流取决于AI发展的稳定性。未来或许走向训练与推理分离的生态。
关键评论
NRE成本与模型研发成本可比时，商业模式可行。
类似FPGA，但算法快速迭代可能限制优势。
模型稳定时，这种芯片能发挥最大作用。
大企业可采用此方案降低推理成本。
