STEP3-VL-10B的出现,重新定义了模型参数与性能之间的关系。这款仅10B参数的轻量级多模态大模型,凭借创新的预训练与强化学习策略,在多项权威基准测试中,展现出比肩甚至超越百亿级模型的强大能力,为高效能端侧部署和学术研究提供了新的可能性。
智能速览
STEP3-VL-10B在MMBench等60余项测试中取得顶尖成绩,综合性能SOTA。
采用全参数解冻和1.2T多模态Token进行统一预训练,建立视觉语言协同。
引入PaCoRe推理机制,通过并行协调推理扩展测试时计算,提升深度感知能力。
模型性能超越参数量为其10至20倍的GLM-4.6V、Qwen3-VL等主流模型。
为开源社区提供了强大且轻量、适合端侧部署的高效科研基座模型。
精华内容
STEP3-VL-10B的卓越性能并非偶然,其背后是两大核心策略的深度协同:全参数解冻的统一预训练,以及极致的强化学习调优。
性能实测数据
在多项权威评测基准中,STEP3-VL-10B展现了惊人的实力。其AIME2025成绩达到94.43%,MathVision为75.95%,体现了强大的数学与视觉推理能力。在综合理解能力上,MMBench得分92.2%,跨学科知识理解MMMU得分80.11%,这些数据表明它在10B量级模型中达到了性能顶峰。
全参数解冻预训练
模型的成功首先得益于其独特的预训练方法。研究团队采用了全参数解冻策略,使用高达1.2T的多模态Token进行训练。其架构结合了Language-aligned Perception Encoder与Qwen3-8B解码器,旨在从根源上打通视觉与语言之间的壁垒,建立更深层次的协同效应。
强化学习与PaCoRe
后训练阶段的强化学习是另一关键。团队不仅应用了RLVR与RLHF,还创新性地提出了PaCoRe(Parallel Coordinated Reasoning)机制。该机制允许模型在推理时并行探索多种视觉假设,并进行综合协调,从而有效扩展了测试时的计算能力,显著提升了模型的深度感知和复杂推理表现。
以小博大的影响
STEP3-VL-10B的出现,对现有模型格局带来了冲击。数据显示,它的性能比肩甚至超越了参数量是其10到20倍的开源模型(如GLM-4.6V-106B)和闭源商业模型(如Gemini 2.5 Pro)。这证明了通过架构和训练策略的创新,轻量级模型同样可以触及性能天花板,为资源有限的端侧部署和高校研究提供了强大而高效的基座。
STEP3-VL-10B的发布,不仅是开源社区的一大贡献,也为多模态模型的发展指明了一个新方向:效率和智能并非不可兼得。它证明了精巧的设计足以弥补参数规模的差距,未来,这种“小而美”的模型或许将在更多实际场景中发挥关键作用。