什么值得买App下载 App ›
连续签到专享现金活动

微软在Ignite 2026上扩展Foundry模型路由器,应对成本攀升

22:02
微软正把“模型路由”放在其面向企业推销方案的中心位置,目标客户是那些担心AI账单失控的企业。Ignite 2026大会于11月17日在旧金山开幕,微软在会上宣布了面向 Microsoft Foundry的扩展版模型路由器,Foundry是微软的AI开发平台,原名为Azure AI Foundry。

微软在Ignite 2026上扩展Foundry模型路由器,应对成本攀升

今年8月,Gartner预测,尽管每个token的价格在下降,但到2028年,每个智能体工作流的AI推理成本将增长五倍以上。与基本的聊天机器人交互相比,把一项任务路由到智能体推理模型,会使推理成本至少增加五倍。作为控制支出的一种方式,Gartner建议采用“推理分层”,即把更简单的请求发送到更便宜的模型。

模型路由器有什么变化

模型路由器并不是新功能。微软在Ignite 2025上已正式发布过,目前已经作为单一部署运行,先评估每个提示,再将其传递给合适的底层模型。根据Ignite 2026的官方新闻汇总,该路由器现在将接入更大的模型池,其中包含Foundry中排名前50的模型,它还能与AI网关协同工作,并支持更多消息和响应API。微软表示,这使客户无需手动选择模型,即可在质量、成本和性能之间取得平衡。微软尚未公布扩大模型池的上线日期。

微软在Ignite 2026上扩展Foundry模型路由器,应对成本攀升

客户可以选择三种路由模式。“平衡”是默认模式,会在每条提示的最佳模型附近一个很小的质量范围内,选择最具成本效益的模型。“成本”模式会扩大这个范围,微软文档中给出的例子约为5%-6%;而“质量”模式无论价格如何,始终选择评分最高的模型。微软没有公布该路由器的平均节省数字,而且路由器本身会按自己列出的费率对输入提示计费。

Decision-1.1与新的成本控制功能

微软还宣布Microsoft-Decision-1.1正式发布,该模型旨在规模化处理软件中的决策任务。微软CEO Satya Nadella表示,公司内部已将其用于路由、数据标注、个性化和内容过滤。微软称,在价格相同的情况下,它比第一版快两倍多。该模型已在Foundry、OpenRouter和Vercel上线。

微软在Ignite 2026上扩展Foundry模型路由器,应对成本攀升

在支出管理方面,Agent 365 Cost Management现已进入预览阶段,可为管理员提供按用量计费的AI服务的统一视图,并支持支出策略、限额和警报。

评论

评论区空态插画

当前文章无评论,是时候发表评论了