380亿美元,亚马逊为OpenAI托管NVIDIA GB200/GB300 AI服务器
OpenAI再次与大型科技公司之一建立了合作伙伴关系,而这一次,对象是亚马逊。亚马逊网络服务(AWS)和OpenAI签署了一项为期7年的380亿美元协议,利用AWS高端云设施提升OpenAI的AI业务。

根据该协议,OpenAI将使用配备数十万个NVIDIA GB200和GB300 GPU的集群,预计到2026年底,全部计划容量将投入使用。这些GPU安装在由快速、高容量网络连接的亚马逊EC2超级服务器上,该网络旨在处理推理和大规模模型训练。AWS此前管理超过50万个芯片集群的经验是OpenAI做出这一决定的关键因素。
新基础设施预计将服务于一系列OpenAI应用,从ChatGPT推理工作负载到下一代基础模型的训练。OpenAI转向AWS之前,刚刚与英伟达、AMD、微软、博通和甲骨文建立了一系列合作伙伴关系,确保能够利用高端芯片和云系统的组合。OpenAI首席执行官Sam Altman表示,该公司计划投资1.4万亿美元建设30吉瓦的计算能力,相当于大约2500万美国家庭的用电量。

到目前为止,OpenAI已与英伟达合作建设10吉瓦、与AMD合作建设6吉瓦、与甲骨文合作建设4.5吉瓦的计算能力,稳步朝着建设30吉瓦AI基础设施网络的目标迈进。
