docker妙用 篇十七:在本地部署一个免费的3.5 API服务器|docker应用|绿联NAS|OpenAI

2024-04-04 19:17:11 14点赞 125收藏 12评论

提示:本篇文章1027字符,阅读大约需要2分钟。

写在前面

OpenAI公司近日宣布3.5步入完全开放使用阶段,也就是说用户不用注册账号即可使用网页端3.5模型,什么第三方注册商都可以滚犊子了,当然目前4模型还是需要付费使用的。

本来前一阵子各路媒体都报道说,OpenAI的流量在下降,各路大模型的能力在某些方面就要超越了。结果呢?OpenAI直接放个大招:我不用注册了!

年轻人不讲武德啊!!!

另外就是,3.5模型免费的只有网页端,API使用还是要付费的,而各类AI工具和Chrome浏览器插件都是依托于API使用的,光免费掉网页端还是不行的。那各位是不是可以灵机一动:那用网页端直接模拟API岂不是神了。

于是,这个docker项目它来了!

注1:部署使用前请自行解决网络问题;

注2:请不要频繁请求使用,否则可能会被OpenAI限制IP使用;

注3:如果将服务开放到公网,请一定注意安全使用问题,以及其带来的法律合规性问题(也就是说在本地用用就行了,尽量不要开放到公网使用)。

关于DX4600+

今日我们使用搭载绿联NAS DX4600+进行部署:

DX4600+DX4600+

绿联DX4600+搭载了4核4线程的低功耗CPU——N5105,兼具了性能和节能的特性。同时最高支持16G内存(双8G),使你在部署docker容器时,容量不再捉襟见肘。同时具备双M.2插槽,将docker文件夹放入固态硬盘中,会极大降低系统运行时机械硬盘读写的噪音。同时,两张M.2固态硬盘还能组建RAID1存储池,为你的docker数据保驾护航。

DX4600+DX4600+

同时,在UGOS系统中,dockerUI集成了绝大部分常用功能,大大简化了docker部署的繁琐程度:

绿联的dockerUI绿联的dockerUI

你甚至可以在docker应用中直接为Jellyfin映射核显,非常方便:

为Jellyfin映射核显为Jellyfin映射核显

新手小白不会部署docker怎么办?绿联也为你贴心的准备了各类常用容器的部署教程,实现一键下载,一键部署哦。

常用docker项目常用docker项目docker教程docker教程

部署项目

今日我们使用搭载N5105的绿联DX4600+进行部署:

第一步,打开docker应用;

第二步,点击镜像管理,然后点击镜像仓库,搜索missuo/freegpt35

下载镜像下载镜像确认版本确认版本镜像下载完成镜像下载完成

第三步,点击创建容器;

点击创建容器点击创建容器

第四步,点击创建后启动容器;

点击创建后启动容器点击创建后启动容器端口设置端口设置点击完成后创建容器点击完成后创建容器

第五步,查看容器运行状态。

正在运行正在运行

使用攻略

比如我们可以使用如下代码直接请求使用

curl http://127.0.0.1:3040/v1/chat/completions
-H "Content-Type: application/json"
-H "Authorization: Bearer any_string_you_like"
-d '{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "user",
"content": "你能干什么?"
}
],
"stream": true
}'

下面就是输出结果:

curlcurl

当然,这种使用方式虽然也能看,但是不太优雅。

或者在支持的软件中添加API即可,以下以Bob为例:

Bob配置Bob配置

比如我们翻译一段nascompares网站上有关最新绿联NAS消息的文字:

划词翻译划词翻译

备注:如果需要使用https,用反代即可。

总结

3.5免费确实是一个非常好的消息,对于普通人来说使用AI门槛又进一步降低了。

心动不如行动,赶快部署起来吧。

下期带大家部署一个非常好用的AI API统一管理容器,结合今天的项目,你就可以免费把API分享给你的亲朋好友使用了。

这就是本期的全部内容了,如果这篇文章对您有帮助的话,欢迎您在评论区多多讨论,也欢迎关注、点赞、打赏一键三连,您的支持对我非常重要。

我是冥冰薇,点个关注不迷路,我们下期再见。

关注图关注图

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起

UGREEN 绿联 DX4600 Pro 4盘位NAS(奔腾N6005、8GB)

UGREEN 绿联 DX4600 Pro 4盘位NAS(奔腾N6005、8GB)

1899元起

UGREEN 绿联 DX4600 四盘位NAS存储 (赛扬N5105、8GB)

UGREEN 绿联 DX4600 四盘位NAS存储 (赛扬N5105、8GB)

1749元起

UGREEN 绿联 DX4600+ 4盘位NAS(赛扬N5105、8GB)

UGREEN 绿联 DX4600+ 4盘位NAS(赛扬N5105、8GB)

1968.01元起

UGREEN 绿联 DH2600 双盘位NAS (N5105、4GB)

UGREEN 绿联 DH2600 双盘位NAS (N5105、4GB)

1321.01元起

UGREEN 绿联 DH2100 双盘位NAS(RTD1296、2GB)

UGREEN 绿联 DH2100 双盘位NAS(RTD1296、2GB)

873.01元起

UGREEN 绿联 私有云 DH2600 双盘位NAS网络存储 配2*8TB酷狼硬盘

UGREEN 绿联 私有云 DH2600 双盘位NAS网络存储 配2*8TB酷狼硬盘

1349元起

UGREEN 绿联 立减10% !到手价899 !UGREEN 绿联 私有云DH2100+ 两盘位nas网络存储器个人云存储家庭家用网盘

UGREEN 绿联 立减10% !到手价899 !UGREEN 绿联 私有云DH2100+ 两盘位nas网络存储器个人云存储家庭家用网盘

859元起

UGREEN 绿联 私有云DX4600 Nas网络存储服务器8G版 四核4盘位家庭个人云

UGREEN 绿联 私有云DX4600 Nas网络存储服务器8G版 四核4盘位家庭个人云

1799元起

UGREEN 绿联 私有云DH2600 8T双盘位 Nas网络存储

UGREEN 绿联 私有云DH2600 8T双盘位 Nas网络存储

2849元起

UGREEN 绿联 私有云DX4600Pro/+数据8G版Nas网络存储硬盘服务器

UGREEN 绿联 私有云DX4600Pro/+数据8G版Nas网络存储硬盘服务器

3999元起

UGREEN 绿联 年终好价节直降15%:UGREEN 绿联 私有云DX4600+

UGREEN 绿联 年终好价节直降15%:UGREEN 绿联 私有云DX4600+

1999元起

UGREEN 绿联 私有云DX4600数据8G版Nas网络存储服务器四核4盘

UGREEN 绿联 私有云DX4600数据8G版Nas网络存储服务器四核4盘

4799元起

UGREEN 绿联 私有云DX4600 8G版 16T四盘位

UGREEN 绿联 私有云DX4600 8G版 16T四盘位

2279.01元起

UGREEN 绿联 私有云DX4600+ 8G版 四核四盘位硬盘家用nas网络存储服务器 家庭云存储

UGREEN 绿联 私有云DX4600+ 8G版 四核四盘位硬盘家用nas网络存储服务器 家庭云存储

1999元起

UGREEN 绿联 私有云DX4600+数据8G版Nas网络存储家用硬盘服务器

UGREEN 绿联 私有云DX4600+数据8G版Nas网络存储家用硬盘服务器

3499元起

UGREEN 绿联 私有云DH2600两盘位NAS云存储共享相册网络存储家庭个人云盘

UGREEN 绿联 私有云DH2600两盘位NAS云存储共享相册网络存储家庭个人云盘

1349元起
12评论

  • 精彩
  • 最新
  • 置顶 把3.5API服务器搬到本地,你的亲朋好友都可以无门槛用3.5大模型了。另外,从本期开始,每篇文章会附带视频教程,方便大家观看部署哦 [张小草_心心]

    校验提示文案

    提交
    当然,第一次做视频还比较粗糙,录音什么的也有问题,各位多多担待,本薇会慢慢改进的 [皱眉]

    校验提示文案

    提交
    [赞一个] 感谢分享!

    校验提示文案

    提交
    还有3条回复
    收起所有回复
  • 置顶 支持了,期待下期,有推荐作用api接口的好用的软件吗

    校验提示文案

    提交
    软件的话:Bob、OpenCat、Next-Chat

    校验提示文案

    提交
    收起所有回复
  • 韩国的代理可以访问了吗?我记得原来我用韩国的vps,是不能访问的,坑

    校验提示文案

    提交
    优先推荐美国家宽IP,其他的我也没测试过。欧洲那边的IP也行,尽量别用亚洲的。

    校验提示文案

    提交
    收起所有回复
  • 算了。还是用谷歌的,免费,使用还行

    校验提示文案

    提交
  • api哪里获取

    校验提示文案

    提交
提示信息

取消
确认
评论举报

相关好价推荐
查看更多好价

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
125
扫一下,分享更方便,购买更轻松