阿里通义千问推出Qwen3.5系列小模型,包括0.8B到9B的多模态版本,支持图文理解。这些模型性能优异,推理速度快,显存占用低,适配手机和笔记本本地部署,为开发者提供高性价比的AI工具,解决资源受限设备的痛点。
智能速览
Qwen3.5发布0.8B至9B多模态模型,支持图文理解
9B模型性能接近GPT-4O-120B,优于去年30B模型
所有版本支持本地部署,显存占用低
推理速度快,适合手机/笔记本使用
Base和Instruct版本均已开源
精华内容
Qwen3.5小模型的推出,标志着本地多模态AI的新突破。这些模型在保持小体积的同时,实现了强大性能,解决了资源受限设备的部署难题。
性能表现
实测数据显示,Qwen3.5-9B在多模态基准测试中表现优异。例如,在MMMU-Pro评测中得分76.2,接近GPT-4O-120B的76.7;在GPQA Diamond中得分59.7,优于Qwen2.5-30B的55.9。推理速度提升22%,显存占用降低15%,适合实时应用。
视频评测中,博主对比显示,9B模型与Gemini 2.5 Flash-Lite性能相当,部分指标如Video-MME(带字幕)得分71.7,超越GPT-4O-20B的69.7。这些数据表明,小模型也能胜任复杂任务。
本地部署
所有Qwen3.5小模型均支持本地部署,显存需求低。0.8B和2B模型可在8G内存设备运行,4B和9B适合16G内存笔记本。量化版本即将发布,将进一步优化速度。
用户评论反馈,手机端也能流畅运行4B模型。部署工具包括Hugging Face Transformers和vLLM,开发者易于集成,实测速度比前代快30%。
多模态能力
这些模型是Image-Text-to-Text类型,能理解图片并生成文本。应用场景包括文档识别(OmniDocBench得分83.2)和视觉问答。博主实测中,模型处理洗车店50米步行问题等现实场景准确率高。
评论中,用户对视觉能力惊喜,0.8B起支持图文理解,扩展了移动端AI的可能性。所有版本均适配多语言场景,覆盖全球20+语言。
Qwen3.5小模型的开源,为本地AI开发注入新活力。高性价比和易部署性使其成为开发者的首选,未来量化优化将拓展应用边界。设备准备好体验这种轻量级多模态AI了吗?
关键评论
用户反馈9B模型思考时间过长,但4B模型在11分钟内得出正确答案
视觉能力获赞,0.8B起支持图文理解,手机可运行4B模型
部署问题存在,部分用户在LM Studio无法上传图片
速度慢是主要槽点,量化版本发布后或可改善
小模型场景应用成焦点,如翻译和辅助编程