部署后，免费 AI 模型我薅了一个月，一分钱没花

Octopus：

一款面向个人的开源 LLM‑API 聚合网关、负载均衡服务。把各家大模型服务商接口统一封装成一套兼容 OpenAI 标准的 API，方便集中管理多厂商大模型密钥、做路由转发、负载均衡、协议转换、计费统计。

特性：

• 🔀 多渠道聚合 - 支持接入多个 LLM 供应商渠道，统一管理

• 🔑 多Key支持 - 单渠道支持配置多 Key

• ⚡ 智能优选 - 单渠道多端点，智能选择延迟最小的端点请求

• ⚖️ 负载均衡 - 自动分配请求，确保服务稳定高效

• 🔄 协议互转 - 支持 OpenAI Chat / OpenAI Responses / Anthropic 三种 API 格式互相转换

• 💰 价格同步 - 自动更新模型价格

• 🔃 模型同步 - 自动与渠道同步可用模型列表，省心省力

• 📊 数据统计 - 全面的请求统计、Token 消耗、费用追踪

• 🎨 优雅界面 - 简洁美观的 Web 管理面板

• 🗄️ 多数据库支持 - 支持 SQLite、MySQL、PostgreSQL

安装

Docker Compose（个人感觉旧版本更好用）

services: octopus: image: bestrui/octopus:v0.9.28 container_name: octopus ports: - 8080:8080 volumes: - ./data:/app/data restart: always

参数说明（更多参数建议去看文档）

8080（端口）：设置访问端口

/app/data（路径）：存放配置文件

使用

浏览器中输入 http://NAS的IP:8080 就能看到界面

输入默认用户名和密码进行登录（admin/admin）

面板看起来还是非常简洁的，直观看到总的数据统计和每天使用情况

先来到设置，修改一下默认的密码

接下来就是添加渠道（AI 服务提供商）

写渠道站点信息

如果有多个 Key，就能很方便单个账号余额用完切换其他账号

点击“刷新”就可以获取模型了

可以将自动同步模型打开，没问题就可以点击创建

这样就添加好了（这里我还添加多了一个“硅基流动”作为演示）

接下来创建分组（这里玩法很多，大家可以根据需要灵活调整）

填写分组名称，到时候会作为模型名称

首字超时和会话保持，可以根据需要调整

选择切换模型，我个人一般用故障转移，这样一个站点出现问题另外一个也可以顶上

勾选添加模型（可以选择不同渠道站点的模型）

这样就创建好分组了，当站点有问题会自动切换

TIP：玩法很多，比如也可以将不同模型放在一个免费分组，薅羊毛只需要在这里切换，编程工具也不需要改来改去了

来到设置，创建 API 密钥

填写密钥的备注，勾选模型（创建的分组）

复制生成的密钥，到时候需要用到

编程工具请求地址填写 Octopus 的就行，密钥就是上面复制的

回到面板，能看到调用的数据

如果出现问题，可以在日志里查看原因

总结

Octopus 是一款面向个人的 LLM API 聚合网关，把多家大模型服务商的接口统一成一个 OpenAI 兼容的 API，支持多渠道聚合、多 Key、故障转移、协议互转和费用统计。我已经用了一段时间，确实好用——特别是各家有免费模型时，把它们集中到一个免费分组，编程工具指向一个地址就行，省得来回改配置；故障转移功能更省心，一个提供商挂了自动切另一个。适合在用的是 OpenAI 兼容工具、手上有多个模型服务商账号（尤其有免费额度的）的玩家，堪称羊毛党神器。

综合推荐：⭐⭐⭐⭐⭐（羊毛党强推，切换提供商方便）

使用体验：⭐⭐⭐⭐（简单易用，数据展示直观）

部署难易：⭐⭐（简单）︎

作者声明本文无利益相关，欢迎值友理性交流，和谐讨论～