张大妈

阿里千问再杀疯!Qwen3.5 0.8B-9B多模态小模型集体开源,性能逆天还能本地跑”,视觉+语言双强,跑起来丝滑又省显存

源自UP主:鲲鹏Talk

03-04 11:05

阿里通义千问推出Qwen3.5系列小模型,包括0.8B到9B的多模态版本,支持图文理解。这些模型性能优异,推理速度快,显存占用低,适配手机笔记本本地部署,为开发者提供高性价比的AI工具,解决资源受限设备的痛点。

阿里千问再杀疯!Qwen3.5 0.8B-9B多模态小模型集体开源,性能逆天还能本地跑”,视觉+语言双强,跑起来丝滑又省显存智能速览

  • Qwen3.5发布0.8B至9B多模态模型,支持图文理解

  • 9B模型性能接近GPT-4O-120B,优于去年30B模型

  • 所有版本支持本地部署,显存占用低

  • 推理速度快,适合手机/笔记本使用

  • Base和Instruct版本均已开源

阿里千问再杀疯!Qwen3.5 0.8B-9B多模态小模型集体开源,性能逆天还能本地跑”,视觉+语言双强,跑起来丝滑又省显存精华内容

Qwen3.5小模型的推出,标志着本地多模态AI的新突破。这些模型在保持小体积的同时,实现了强大性能,解决了资源受限设备的部署难题。

性能表现

实测数据显示,Qwen3.5-9B在多模态基准测试中表现优异。例如,在MMMU-Pro评测中得分76.2,接近GPT-4O-120B的76.7;在GPQA Diamond中得分59.7,优于Qwen2.5-30B的55.9。推理速度提升22%,显存占用降低15%,适合实时应用。

视频评测中,博主对比显示,9B模型与Gemini 2.5 Flash-Lite性能相当,部分指标如Video-MME(带字幕)得分71.7,超越GPT-4O-20B的69.7。这些数据表明,小模型也能胜任复杂任务。

本地部署

所有Qwen3.5小模型均支持本地部署,显存需求低。0.8B和2B模型可在8G内存设备运行,4B和9B适合16G内存笔记本。量化版本即将发布,将进一步优化速度。

用户评论反馈,手机端也能流畅运行4B模型。部署工具包括Hugging Face Transformers和vLLM,开发者易于集成,实测速度比前代快30%。

多模态能力

这些模型是Image-Text-to-Text类型,能理解图片并生成文本。应用场景包括文档识别(OmniDocBench得分83.2)和视觉问答。博主实测中,模型处理洗车店50米步行问题等现实场景准确率高。

评论中,用户对视觉能力惊喜,0.8B起支持图文理解,扩展了移动端AI的可能性。所有版本均适配多语言场景,覆盖全球20+语言。

Qwen3.5小模型的开源,为本地AI开发注入新活力。高性价比和易部署性使其成为开发者的首选,未来量化优化将拓展应用边界。设备准备好体验这种轻量级多模态AI了吗?

阿里千问再杀疯!Qwen3.5 0.8B-9B多模态小模型集体开源,性能逆天还能本地跑”,视觉+语言双强,跑起来丝滑又省显存关键评论

  • 用户反馈9B模型思考时间过长,但4B模型在11分钟内得出正确答案

  • 视觉能力获赞,0.8B起支持图文理解,手机可运行4B模型

  • 部署问题存在,部分用户在LM Studio无法上传图片

  • 速度慢是主要槽点,量化版本发布后或可改善

  • 小模型场景应用成焦点,如翻译和辅助编程

内容由AI生成
0
扫一下,分享更方便,购买更轻松
0评论

当前文章无评论,是时候发表评论了
提示信息

取消
确认
评论举报

最新文章 热门文章