Máy Chủ Remote
Triển khai VieNeu-TTS như một máy chủ API hiệu suất cao được hỗ trợ bởi LMDeploy.
Bắt Đầu Nhanh
docker run --gpus all -p 23333:23333 pnnbao/vieneu-tts:serve
Với Đường Hầm Công Khai
docker run --gpus all -p 23333:23333 pnnbao/vieneu-tts:serve --tunnel
Chạy Mô Hình 0.3B (Nhanh Hơn)
docker run --gpus all pnnbao/vieneu-tts:serve --model pnnbao-ump/VieNeu-TTS-0.3B --tunnel
Phục Vụ Mô Hình Đã Fine-tune
docker run --gpus all \
-v $(pwd)/finetune/output:/workspace/models \
pnnbao/vieneu-tts:serve \
--model /workspace/models/merged_model --tunnel
Kết Nối Client
Xem Chế Độ Remote để sử dụng SDK phía client.