什么值得买App下载 App ›
连续签到专享现金活动

Qwen 3.5 小模型表现惊人!在边缘设备上测试 0.8B 和 2B 版本 | Better Stack

阿里推出的通义千问3.5小模型系列(0.8B和2B参数)近期引发了广泛关注。该系列模型不仅具备多模态能力,能够在老笔记本和手机等边缘设备上离线运行,还支持代码生成与逻辑推理。本次测试在MacBook和iPhone 14 Pro上部署了这两个模型,旨在评估其在本地编码任务、移动端离线部署及视觉理解方面的实际表现。
01本地编码能力测试:0.8B vs 2B
测试维度Qwen 3.5 0.8BQwen 3.5 2B
生成时间约1分钟约3分钟
代码规划缺乏规划,直接生成生成前先进行规划
设计质量基础,设计感差较好,采用了适配的棕色调
功能实现硬编码图片链接(易失效),修复不可靠实现了购物车侧边栏(部分逻辑缺失)
运行稳定性相对稳定特定配置下易陷入死循环

本地编码测试(LM Studio + VS Code Klein插件)对比

在本地编程测试中,任务要求模型使用纯HTML、CSS和JavaScript为一家咖啡馆创建网站。0.8B模型响应速度快,但生成结果较为基础,且存在硬编码外部图片链接导致加载失败的问题,修复指令的执行效果也不稳定。2B模型虽然耗时较长,但在代码生成前会进行规划,最终产出的网站设计更符合场景主题,甚至尝试实现了购物车侧边栏等复杂功能。不过,2B模型在特定配置下容易出现代码死循环问题。总体而言,受限于参数量,这两个版本目前尚不适合直接用于实际生产开发。
02移动端离线部署与多模态测试
在移动端测试环节,测试者使用Swift和苹果MLX框架在iPhone 14 Pro上部署了这两个模型,全程开启飞行模式以确保100%离线运行。测试内容涵盖了基础对话、视觉识别(图片描述)以及OCR(光学字符识别)能力。
测试项目0.8B 表现2B 表现
基础对话自我认知错误(称自己为Alex)正常,逻辑清晰
逻辑推理(洗车测试)通过通过
视觉识别(香蕉)识别为“狗香蕉”,误判不可食用正确识别为熟透的香蕉,确认可食用
视觉识别(狗狗品种)幻觉(声称有两只,误判为金毛)错误(识别为博美犬)
OCR与语言检测错误识别为斯洛文尼亚语,翻译错误成功识别为拉脱维亚语

iPhone 14 Pro 离线环境多模态能力对比

03总结与行业动态
  • 性能评价:尽管存在少量“幻觉”和识别错误,Qwen 3.5 0.8B和2B模型被评价为目前最强大的小模型之一,其智能密度和推理速度令人印象深刻。
  • 边缘计算价值:能够在iPhone 14 Pro等主流边缘设备上以极快的速度离线运行开源多模态大模型,标志着端侧AI能力的显著提升。
  • 团队变动:视频发布时传出阿里巴巴正在重组千问团队的消息,核心成员的变动意味着这可能是该团队在一段时间内的最后重大发布。
  • 1Qwen 3.5 0.8B
  • 2Qwen 3.5 2B
  • 3LM Studio
  • 4VS Code Klein插件
  • 5iPhone 14 Pro

评论

评论区空态插画

当前文章无评论,是时候发表评论了