张大妈

华为云完成智谱GLM-5适配,多款产品已接入可在线体验

源自今日头条:华为云

02-16 11:39

智谱新一代旗舰模型GLM-5已发布,并在华为云上完成适配。此次合作不仅让开发者能免部署调用顶尖模型,还通过昇腾算力优化,将长序列场景下的部署成本大幅降低,为AI应用开发带来了实质性的利好。

华为云完成智谱GLM-5适配,多款产品已接入可在线体验智能速览

  • 华为云MaaS平台已上架GLM-5,支持一键调用API。

  • 企业可通过ModelArts平台,灵活部署推理服务。

  • W4A8量化技术使长序列场景部署成本降低50%。

  • CloudMatrix智算云解决方案实现推理加速。

  • 华为云CodeArts已接入GLM-5,个人版免费。

华为云完成智谱GLM-5适配,多款产品已接入可在线体验精华内容

GLM-5的强大能力,如何通过华为云转化为开发者的实际生产力?关键在于平台、算力与工具链的深度融合。

开箱即用

开发者与企业现在可以便捷地使用GLM-5模型。该模型已上架华为云MaaS平台,提供免部署的API调用服务,支持在线体验。企业用户则可通过华为云魔坊ModelArts训推平台,一键完成推理服务的部署,平台支持公共池与专属池两种资源模式,满足不同业务对算力独占性和服务稳定性的要求。

这种即开即用的方式,极大降低了企业使用先进大模型的门槛。

性能与成本

在性能与成本方面,此次适配实现了显著优化。GLM-5在昇腾算力上首次应用了W4A8混合精度量化技术,有效减少了显存占用,使得单机部署成为可能。这项优化让模型在处理长序列、低时延任务时,部署成本直接减少50%。

同时,华为云CloudMatrix智算云解决方案通过系统级优化,为推理过程提供了加速,进一步提升了整体吞吐量。

赋能开发

针对软件开发场景,华为云码道CodeArts代码智能平台已率先接入GLM-5。CodeArts的个人版本对开发者免费开放,旨在让更多开发者体验到GLM-5在代码生成上的强大能力。

GLM-5模型能够生成系统级的大型复杂项目代码,这将为软件开发和AI应用构建带来范式级的变革,有望重塑未来的开发流程。

华为云与智谱的合作,为GLM-5的商业化落地铺设了一条快车道。它不仅解决了模型部署的痛点,更在成本和效率上做出了显著优化,这或将加速更多创新AI应用的诞生,未来的软件开发生态值得期待。

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章