BallonsTranstator AI漫画翻译，运行纯本地模型指南

BallonsTranstator 是一个开源的漫画翻译工具。我觉得 BallonsTranstator 最大的亮点在于：整合调用多个 AI 模型，来实现 AI 漫画翻译功能。

BallonsTranstator 可以运行纯本地 AI 模型来进行漫画翻译，本教程就来详细介绍一下。用到的几个主要 AI 模型如下：

文本检测：YSGDetector（BallonsTranstator 内部部署，可选）

OCR：PaddleOCR-VL（通过 Docker 部署）

翻译：Hunyuan-MT-7B（通过 Ollama 部署）

一些常用文件我有分享到网盘。

纯本地化运行的硬件要求，建议 12-16G 显存的英伟达显卡，性价比较高的方案我推荐 Tesla V100、Tesla T10。

WSL2 部署 PaddleOCR-VL

首先通过 WSL2 安装 docker 来部署 PaddleOCR-VL 服务。

为什么通过 docker 部署 PaddleOCR-VL，而不是部署到 BallonsTranstator 内部，因为大模型非常占用空间。把模型部署成服务的性价比更高，可以作为基础功能给其他工具调用。

大多数人没有高性能 Nvidia 显卡的 Linux 服务器，通过 WSL2 来部署 PaddleOCR-VL 是相对容易实现的方案。WSL2 部署 PaddleOCR-VL 也非常简单，只需要通过 docker-compose 即可快速部署。

创建一个文件夹，把 compose.yaml 和 .env 文件放入文件夹，运行 sudo docker compose up -d 等待镜像拉取完毕即可:

compose.yaml

services: paddleocr-vl-api: image: ccr-2vdh3abv-pub.cnc.bj.baidubce.com/paddlepaddle/paddleocr-vl:${API_IMAGE_TAG_SUFFIX} container_name: paddleocr-vl-api ports: - 8080:8080 depends_on: paddleocr-vlm-server: condition: service_healthy deploy: resources: reservations: devices: - driver: nvidia device_ids: ["0"] capabilities: [gpu] # TODO: Allow using a regular user user: root restart: unless-stopped environment: - VLM_BACKEND=${VLM_BACKEND:-vllm} command: /bin/bash -c "paddlex --serve --pipeline /home/paddleocr/pipeline_config_${VLM_BACKEND}.yaml" healthcheck: test: ["CMD-SHELL", "curl -f http://localhost:8080/health || exit 1"] paddleocr-vlm-server: image: ccr-2vdh3abv-pub.cnc.bj.baidubce.com/paddlepaddle/paddleocr-genai-${VLM_BACKEND}-server:${VLM_IMAGE_TAG_SUFFIX} container_name: paddleocr-vlm-server deploy: resources: reservations: devices: - driver: nvidia device_ids: ["0"] capabilities: [gpu] # TODO: Allow using a regular user user: root restart: unless-stopped healthcheck: test: ["CMD-SHELL", "curl -f http://localhost:8080/health || exit 1"] start_period: 300s

.env

API_IMAGE_TAG_SUFFIX=latest-offline VLM_BACKEND=vllm VLM_IMAGE_TAG_SUFFIX=latest-offline

玩 AI 最大难点是网络环境，有时候一些数据国内网络环境很慢或者拉取不下来，遇到此类问题得自己想想办法。

Ollama 部署 Hunyuan-MT-7B

Hunyuan-MT-7B 是腾讯的一个开源翻译模型，我建议通过 Ollama 部署。Ollama 部署模型非常简单，而且支持作为服务给其他工具调用。安装完毕 Ollama 后，搜索 Hunyuan-MT-7B 然后通过拉取命令 ollama run huihui_ai/hunyuan-mt-abliterated 。等待模型拉取完毕即可: