微软推出Windows ML框架，在不同硬件架构上部署模型变得更简单

今天，微软在Windows博客上正式发布了可用于生产环境的Windows ML。它是内置的AI推理运行时，针对本地设备的模型推理进行了优化，并且简化了跨CPU、GPU和NPU的模型依赖关系管理。

Windows ML与ONNX运行时相兼容，因此开发者能非常容易地把现有的模型过渡到Windows ML上来，他们也可以通过VS Code的AI工具包转换PyTorch模型并部署到Windows 11 PC上。在新的框架下，Winodws处理ONNX运行时和执行提供者（Execution Providers）的维护和分发。执行提供者是软件框架和芯片之间的组件，可以在NVIDIA、AMD、英特尔和高通的不同芯片上优化模型。

得益于Windows ML框架，开发者可以将他们的模型快速部署到各种硬件架构的设备上，而不需要针对特定芯片构建程序，该框架还支持预编译模型。又因为统一了运行时，Windows ML还能减少应用程序的开销。兼容性和硬件优化同样是这个框架的优点。

目前Adobe、BUFFERZONE、McAfee等多家公司的产品已经准备在新版本中采用Windows ML。以Adobe的Premiere Pro和After Effects为例，他们准备将全部本地运行的AI模型迁移到Windows ML上。McAfee则利用AI模型自动检测网络上的deepfake视频和其他钓鱼手段。

超能网**

**关注我们，浏览热门硬件评测

随时查看最新天梯榜