什么值得买App下载 App ›
连续签到专享现金活动

FlagOS 2.0发布:统一算子库+多芯片支持,AI基础设施迎来大升级

01FlagOS 2.0正式发布
2026年3月27日,众智正式发布FlagOS 2.0操作系统。该版本在原有FlagGems大模型算子库基础上大幅扩展,新增六大领域专用算子库,算子总数达到497个,构建起全球规模最大的多芯片算子库。此次升级标志着FlagOS从“大模型专用”系统迈向覆盖科学计算全领域的通用AI基础设施。FlagGems作为全球最大的Triton单一算子库,已集成超过407个算子,并正式纳入PyTorch基金会生态合作项目,同时支持18个vLLM关键融合算子,在40个主流模型上的推理任务算子覆盖度达90%至100%。
02六大新算子库覆盖科学计算
  • FlagDNN:深度神经网络专用算子库
  • FlagBLAS:基础线性代数运算库
  • FlagFFT:快速傅里叶变换库
  • FlagSparse:稀疏矩阵处理库
  • FlagTensor:张量运算库
  • FlagAudio:语音信号处理库
上述六大领域算子库共计包含90个算子,后续将持续扩充。此举旨在解决AI芯片不仅用于大模型推理,也在气象模拟、生物医药、金融建模等科学计算场景中发挥加速作用的需求。通过统一软件栈支持多领域计算任务,FlagOS 2.0为跨学科AI应用提供底层支撑。
03多厂商支持C++ Wrapper
天数智芯、摩尔线程、华为、寒武纪等多家国产芯片厂商已全面支持FlagGems的C++ Wrapper关键能力,并完成对30个重点算子的C++封装替换。C++ Wrapper作为连接Triton高性能内核与PyTorch推理框架运行时的桥梁,将算子封装、注册机制和运行时管理下沉至C++层,在复用底层Triton Kernel的同时,显著降低Python运行时开销,提升端到端性能。该技术还为多芯片环境下的统一分发、稳定调度和工程化落地提供核心支撑,有助于解决异构硬件生态碎片化问题。
04Triton-TLE支持多架构编程
FlagOS 2.0同步发布多芯片统一编译器FlagTree v0.5,并推出Triton语言扩展版Triton-TLE(Triton Language Extension)。该语言在原生Triton基础上全面扩展,支持31种原语,使算子开发从单一GPU架构拓展至GPU、DSA(专用加速器)及可重构计算三大代表性架构。目前,Triton-TLE已与华为昇腾、清微智能深度合作完成验证,实测性能显著优于原生Triton,部分场景接近甚至超过各芯片原厂C语言实现。开发者现可用统一语言编写算子,在多种硬件上获得接近原生的执行效率,迈出解决“一种芯片一套开发工具”困境的关键一步。
05兼容32款AI芯片
FlagOS 2.0目前已实现对32款主流AI芯片的全面兼容,涵盖国内外GPU、NPU及可重构计算芯片。通过Triton-TLE与C++ Wrapper的协同设计,系统可在不同硬件上自动选择最优执行路径,确保算子性能最大化。这一能力为大模型和科学计算应用在混合芯片集群中的高效部署奠定基础,降低用户在异构算力环境下的迁移与适配成本。

评论

评论区空态插画

当前文章无评论,是时候发表评论了