Chuyển tới nội dung chính

Máy Chủ Remote

Triển khai VieNeu-TTS như một máy chủ API hiệu suất cao được hỗ trợ bởi LMDeploy.

Bắt Đầu Nhanh

docker run --gpus all -p 23333:23333 pnnbao/vieneu-tts:serve

Với Đường Hầm Công Khai

docker run --gpus all -p 23333:23333 pnnbao/vieneu-tts:serve --tunnel

Chạy Mô Hình 0.3B (Nhanh Hơn)

docker run --gpus all pnnbao/vieneu-tts:serve --model pnnbao-ump/VieNeu-TTS-0.3B --tunnel

Phục Vụ Mô Hình Đã Fine-tune

docker run --gpus all \
-v $(pwd)/finetune/output:/workspace/models \
pnnbao/vieneu-tts:serve \
--model /workspace/models/merged_model --tunnel

Kết Nối Client

Xem Chế Độ Remote để sử dụng SDK phía client.