首款推理性能超1000 PFLOPs，Tachyum 2纳米Prodigy芯片碾压英伟达

据Tachyum介绍，Prodigy Ultimate的AI机架性能比NVIDIA Rubin Ultra NVL576高出21.3倍。Prodigy Premium的AI机架性能比Vera Rubin 144高出25.8倍。这款2纳米Prodigy的技术细节将在一周内发布，它是首款推理性能超过1000 PFLOPs的芯片。NVIDIA Rubin的推理性能为50 PFLOPs。

当前AI模型的计算规模极为庞大，传统的大规模AI解决方案可能耗资超过8万亿美元，功耗超过276吉瓦。相比之下，Tachyum方案预计仅需约780亿美元的成本和仅1吉瓦的功耗即可实现同等能力，使其能够被多家公司和多个国家所采用。

除开源所有软件外，Tachyum还将其内存技术开放授权，采用标准组件，使基于DIMM的内存带宽提升10倍，可供内存或处理器公司（包括JEDEC采用）授权使用，以实现高普及率和低成本。2023年，Tachyum宣布了可授权的Tachyum AI（TAI）数据类型，其Tachyum处理单元（TPU）核心也已开放授权。目前，Tachyum正在将其指令集架构（ISA）开源。

Tachyum表示，持续升级Prodigy设计，以满足服务器、AI和HPC市场不断变化的需求：整数性能提升高达5倍，AI性能提升高达16倍，DRAM带宽提升8倍，芯片间及I/O带宽提升4倍，通过支持16路插槽实现4倍可扩展性，电源效率提升2倍，且每核心成本更低。

Prodigy芯片升级至2纳米工艺以显著降低功耗。缩小芯片尺寸可抵消昂贵的2纳米晶圆成本。Prodigy封装中的每个芯粒集成256个高性能定制64位核心。降低功耗至关重要，因为多个芯粒集成于单个封装中。

多款Prodigy SKU覆盖广泛的性能和应用场景，包括大型AI、百亿亿次超级计算、HPC、数字货币、云/超大规模、大数据分析及数据库。Prodigy Ultimate集成1,024个高性能核心、24个DDR5 17.6 GT/s内存控制器和128条PCIe 7.0通道。Prodigy Premium配备16个DRAM通道，核心数从512到128可扩展至16路插槽系统。入门级Prodigy配备8或4个DRAM控制器，核心数从128到32个。

Tachyum表示，在获得近期2.2亿美元投资的支持下，2纳米Prodigy正准备流片。Tachyum为Prodigy芯片制定了宏伟的计划，但其中有多少最终成真，以及Tachyum 是否真的能够按时交付2纳米芯片，拭目以待。