玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

2025-09-10 09:04:05 1点赞 24收藏 2评论

Kitten TTS Server:

一个高性能、轻量级的文本转语音(TTS)服务器项目,基于 KittenTTS 模型构建,提供了增强的 API 服务、Web 界面和 GPU 加速功能。

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

核心特点:

  • 轻量级模型:基于仅 1500 万参数的 KittenTTS 模型,文件大小不到 25MB

  • GPU 加速:通过优化的 ONNX Runtime 管道支持 NVIDIA GPU 加速,采用 I/O 绑定技术减少延迟

  • 大文本处理:支持长文本自动分割为可管理的片段,适合生成有声书

  • 双 API 系统:提供 /tts 主端点和兼容 OpenAI 的 /v1/audio/speech 端点

  • 现代 Web UI:直观的用户界面,支持语音选择、参数调整和实时波形可视化

  • 内置 8 种语音:包含 4 种男性和 4 种女性语音

  • 跨平台支持:可在 Windows、Linux 运行,支持树莓派 5(性能优异)和树莓派 4(测试中)

  • Docker 支持:提供 CPU 和 GPU 版本的容器化部署配置

安装

Docker Compose

services: kitten-tts: image: onehandcoding/kitten-tts-cpu:latest container_name: kitten-tts ports: - 8050:8005 volumes: - ./logs:/app/logs - ./outputs:/app/outputs - ./configs:/app/configs restart: unless-stopped

参数说明(更多参数建议去看文档)

/app/logs:保存服务器日志

/app/outputs:保存生成的音频文件

/app/configs:挂载配置目录

使用

浏览器中输入 http://NAS的IP:8050 就能看到界面

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

TIP:

点击生成有可能提示“TTS engine model is not currently loaded or available.”。这应该是个 BUG,因为启动的时候会访问外网模型,检查是否需要更新,如果网络不行的话就会有问题。

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

整体界面比较简洁直观,右上角可以切换为浅色模式

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

操作界面没有中文,需要的话可以网页翻译

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

下面有示例预设,可以选择生成语音看看效果

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

生成音频大概用时 26s 左右,速度比较一般

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

处理器占用率瞬间可以吃满,内存占用也是比较多的

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

示例预设生成的音频,效果还是比较明显的,能听出语气停顿和情感在里面

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

除了使用预设,也可以自由调整,内置 8 种语音

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

需要注意语言目前只有英文,如果输入中文内容是无法合成的(别问我怎么知道的)

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

服务器配置默认就行,根据需要可以修改输出格式

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

支持兼容 OpenAI 格式调用

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

扩展

对构建镜像感兴趣的用户可以看看,提供 CPU 和 GPU 版本的容器化部署配置

https://github.com/devnen/Kitten-TTS-Server

玩转 25MB 模型,NAS 上部署 KittenTTS:轻量文本转语音服务器

如果需要构建,可以参考下面步骤操作

cd /mnt/user/appdata git clone https://github.com/devnen/Kitten-TTS-Server.git cd Kitten-TTS-Server # 使用指定 CPU 配置 docker compose -f docker-compose-cpu.yml up -d --build # 使用默认 GPU 配置 docker compose up -d --build

总结

该项目特别适合需要离线、高性能 TTS 服务的场景,尤其是资源受限的边缘设备(如树莓派),有需要的用户可以试试,如果支持中文对于国内用户才比较实用。

原本我是想构建镜像打包的,但是实在是试了好几次都不成功,需要下载安装东西太多了,还要一直保持良好网络。后来发现了有其他人打包好的,所以就没继续折腾打包了。这个打包的镜像有一个最大问题就是会检查版本,如果不成功就会有问题,加载不了原来模型,本来就是离线使用这点有点说不过去了。

综合推荐:⭐⭐⭐(消耗性能高,担心较弱设备表现)

使用体验:⭐⭐⭐(不支持中文,可调节参数少)

部署难易:⭐⭐(简单)︎

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

展开 收起
2评论

  • 精彩
  • 最新
  • 应该把不能转换中文放在第一句 [喜极而泣]

    校验提示文案

    提交
    确实,浪费时间

    校验提示文案

    提交
    收起所有回复
提示信息

取消
确认
评论举报

相关文章推荐

更多精彩文章
更多精彩文章
最新文章 热门文章
24
扫一下,分享更方便,购买更轻松