【AI虚拟伙伴】对接本地LM Studio教程 图形化运行LLM和VLM神器(2026版)
本教程旨在指导用户在PC端通过LM Studio零门槛部署本地大模型。内容涵盖软件的下载安装、环境配置、推理引擎选择、Qwen3-VL多模态模型量化版下载流程,以及如何开启本地API服务器,最终实现与公益免费的二次元AI数字人软件“AI虚拟伙伴”的无缝对接,帮助用户构建私有AI助手。
01下载安装与环境配置
- 获取安装包
访问LM Studio官方网站(https://lmstudio.ai)下载最新版客户端,AI虚拟伙伴软件可在其项目主页(https://mewco-ai.github.io/2024/09/12/mateexp/)获取。 - 基础环境配置
安装LM Studio后,根据电脑硬件情况(显卡显存大小)在设置中选择合适的推理引擎(如CUDA或CPU)。 - 模型搜索与下载
在软件内置的搜索栏中输入“Qwen3-VL”,选择量化版模型进行下载。量化版模型能在保持较高性能的同时显著降低显存占用,适合本地部署。
02API服务器开启与对接
- 加载模型并启动服务
在LM Studio左侧聊天界面加载已下载的模型,点击顶部“Local Server”开关启动本地API服务器。系统会自动生成本地API地址(默认通常为http://localhost:1234/v1)。 - 配置AI虚拟伙伴
打开“AI虚拟伙伴”软件,进入设置或API配置界面,将LM Studio生成的本地API地址填入对应的服务器地址栏中。 - 验证连接
保存配置后,在聊天界面发送测试消息。若AI虚拟伙伴能正常回复,说明本地LM已成功对接。此时即可通过图形化界面与运行在本地的Qwen3-VL多模态模型进行交互。
通过上述步骤,用户即可在本地环境中运行LLM和VLM模型,并利用“AI虚拟伙伴”提供的图形化界面进行便捷交互,实现了从命令行操作到可视化使用的转变,适合对数据隐私有较高要求或追求本地化高性能体验的用户。
当前文章无评论,是时候发表评论了