一位用户通过本地部署Qwen-7B模型并搭配按需调用Claude Pro，实现MoltBot一周零token账单。该实践验证了轻量级本地推理在日常办公场景中的可行性，为AI工具高成本焦虑提供了可复现、低门槛的替代路径。
智能速览
旧i5笔记本+16GB内存即可运行Qwen-7B本地模型
日常任务全由免费本地模型承担，复杂任务才切换至Claude Pro
全程数据不出设备，无云端上传与隐私泄露风险
实测一周模型成本与token支出均为0元
邮件整理、待办归类等高频事务响应延迟可控，可用性达标
建议新手优先用免费额度熟悉流程，再评估付费必要性
精华内容
当AI使用成本从‘按秒计费’回归到‘按需启停’，工具的价值重心便从服务商转向使用者自身。
硬件门槛
旧款i5处理器搭配16GB内存的笔记本完成唤醒与部署，未升级显卡或加装SSD。Docker环境安装耗时约22分钟，Qwen-7B量化版（GGUF格式）加载后内存占用稳定在12.3GB，CPU平均负载68%，未出现卡死或OOM报错。
实测启动单次推理平均响应时间为3.7秒（输入200字以内文本），满足邮件摘要、待办条目生成等轻交互场景。
对比同配置下直接调用GPT-4 API的平均延迟（含网络往返），本地模型减少1.8秒等待，且无连接超时中断问题。
模型策略
采用分层任务路由：Qwen-7B处理邮件分类、会议纪要要点提取、周报初稿润色等结构化程度高的任务，准确率经人工校验达81%；Claude Pro仅用于跨文档逻辑推演、多轮技术方案比选等需强推理场景，单次调用平均耗时47秒，每周总调用频次控制在9次以内。
实测发现，Qwen-7B对中文办公语境理解优于英文微调模型，例如能准确识别‘把张工的出差申请同步给HRBP’中的角色映射与动作意图。
切换机制通过MoltBot内置的‘模型偏好标签’实现，无需重启服务，切换耗时低于0.5秒。
隐私与控制
全部输入文本、中间缓存及输出结果均保留在本地Docker volume中，未触发任何外网HTTP请求。关闭容器后，所有会话数据自动清除，无残留日志。
对比云端方案，规避了三类风险：一是企业邮件内容被第三方模型训练捕获；二是敏感项目代号（如‘星火计划V3’）出现在API请求头中；三是账号级行为画像被平台持续累积。
本地模式下，用户可随时审查模型输入输出，调试过程完全可见，符合中小团队基础合规要求。
这并非追求极致性能的技术秀，而是一次面向真实办公场景的成本再平衡。当本地模型能覆盖八成日常需求，付费API就退回到‘专业协作者’定位。未来随着小参数量中文模型持续优化，这种‘本地主力+云端补位’的混合架构，或将成个人与小微团队的AI使用新常态。下一个值得思考的问题是：哪些任务必须上云？哪些又本就不该离开设备？
