阿里发布QwQ-32B:性能超越DeepSeek-R1的开源AI推理模型
2024年3月6日,阿里巴巴正式发布并开源了新的人工智能推理模型QwQ-32B。该模型展示了在强化学习和大规模预训练基础模型上的突破,特别是在数学推理和编程能力上表现卓越。尽管QwQ-32B的参数数仅为320亿,相比DeepSeek-R1的6710亿显得较小,但其性能却能媲美甚至超越DeepSeek-R1。
阿里巴巴团队通过大规模强化学习方法来提升QwQ-32B的模型性能。与传统的依赖奖励模型不同,QwQ-32B在数学及编程任务中采用了直接校验生成答案正确性的方式,以及通过代码执行服务器来验证代码的成功率。这种“一步到位”的训练方式显著提高了训练效果,特别在AIME24和LiveCodeBench等测试集中的表现尤为突出。

QwQ-32B模型还集成了与Agent相关的能力,使其在使用工具的同时,能进行批判性思考并根据环境反馈调整推理过程。这一特性在面对复杂问题时展现了更高的灵活性和准确性,例如在Meta的LiveBench、谷歌提出的IFEval指令遵循测试和伯克利的BFCL工具调用测试中,QwQ-32B均表现优异。
精简参数并未导致性能降低,相反,QwQ-32B在多项基准测试中均取得了优于DeepSeek-R1的成绩。这一现象进一步证明通过大规模强化学习增强预训练基础模型的方法可行且有效。QwQ-32B削减了部署成本,使得在消费级显卡上本地部署变得可能,为普通企业和开发者提供了更加经济高效的解决方案。
开源策略也为QwQ-32B带来了广泛的认可。作为一款以Apache 2.0协议开源的模型,QwQ-32B不仅任由开发者免费下载和商用,还可以通过Hugging Face和ModelScope平台获取。用户也可通过Qwen Chat直接在线体验这一功能强大的推理模型,这样的开放模式在推动技术传播和落地应用上起到至关重要的作用。

阿里巴巴的这一举措不仅在技术层面有着深远的影响,也对人工智能领域的经济和生态环境产生了积极的推动作用。据悉,阿里计划未来三年内在云和AI硬件基础设施建设方面投入超过3800亿元,这些投入必将进一步提升其在全球AI大模型领域的竞争力。

QwQ-32B的发布展现了在不增加模型体积的情况下,通过强化学习和优化训练策略,依然能够实现卓越的推理性能。这一发展方向或将引领AI技术在更广泛的应用场景中落地,从而推动从“大力出奇迹”到“精巧出智慧”的范式转变。阿里巴巴团队的持续创新探索,坚定了其向人工通用智能(AGI)目标迈进的步伐,未来值得期待。

套马的小伙伴
校验提示文案
西柚柚哈
校验提示文案
半晴
校验提示文案
半晴
校验提示文案
西柚柚哈
校验提示文案
套马的小伙伴
校验提示文案