Python实现的强大的少样本语音转换与语音合成工具源码，输入 5 秒的声音样本，即刻体验文本到语音转换

<div align="center"> <h1>GPT-SoVITS-WebUI</h1> パワフルな数発音声変換・音声合成 WebUI。<br><br> [](https://github.com/RVC-Boss/GPT-SoVITS) <img src="https://counter.seku.su/cmoe?name=gptsovits&theme=r34" /><br> [](https://colab.research.google.com/github/RVC-Boss/GPT-SoVITS/blob/main/colab_webui.ipynb) [](https://github.com/RVC-Boss/GPT-SoVITS/blob/main/LICENSE) [](https://huggingface.co/lj1995/GPT-SoVITS/tree/main) [**English**](../../README.md) | [**中文简体**](../cn/README.md) | [**日本語**](./README.md) | [**한국어**](../ko/README.md) </div> --- ## 機能: 1. **ゼロショット TTS:** 5 秒間のボーカルサンプルを入力すると、即座にテキストから音声に変換されます。 2. **数ショット TTS:** わずか 1 分間のトレーニングデータでモデルを微調整し、音声の類似性とリアリズムを向上。 3. **多言語サポート:** 現在、英語、日本語、中国語をサポートしています。 4. **WebUI ツール:** 統合されたツールには、音声伴奏の分離、トレーニングセットの自動セグメンテーション、中国語 ASR、テキストラベリングが含まれ、初心者がトレーニングデータセットと GPT/SoVITS モデルを作成するのを支援します。 **[デモ動画](https://www.bilibili.com/video/BV12g4y1m7Uw)をチェック！** 未見の話者数ショット微調整デモ： https://github.com/RVC-Boss/GPT-SoVITS/assets/129054828/05bee1fa-bdd8-4d85-9350-80c060ab47fb ## インストール ### テスト済みの環境 - Python 3.9, PyTorch 2.0.1, CUDA 11 - Python 3.10.13, PyTorch 2.1.2, CUDA 12.3 - Python 3.9, PyTorch 2.3.0.dev20240122, macOS 14.3 (Apple silicon) _注記: numba==0.56.4 は py<3.11 が必要です_ ### Windows Windows ユーザーの場合（win>=10 でテスト済み）、[事前にパッケージ化されたディストリビューション](https://huggingface.co/lj1995/GPT-SoVITS-windows-package/resolve/main/GPT-SoVITS-beta.7z?download=true)を直接ダウンロードし、_go-webui.bat_ をダブルクリックして GPT-SoVITS-WebUI を起動することができます。 ### Linux ```bash conda create -n GPTSoVits python=3.9 conda activate GPTSoVits bash install.sh ``` ### macOS モデルをトレーニングできるMacは、以下の条件を満たす必要があります： - Appleシリコンを搭載したMacコンピュータ - macOS 12.3以降 - `xcode-select --install`を実行してインストールされたXcodeコマンドラインツール **すべてのMacはCPUを使用して推論を行うことができ、GPU推論よりも優れていることが実証されています。** まず、`brew install ffmpeg`または`conda install ffmpeg`を実行してFFmpegをインストールしたことを確認してください。次に、以下のコマンドを使用してインストールします： ```bash conda create -n GPTSoVits python=3.9 conda activate GPTSoVits pip3 install --pre torch torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu pip install -r requirements.txt ``` _注：PyTorch Nightlyをインストールした場合にのみ、モデルのトレーニングが可能です。_ ### 手動インストール #### 依存関係をインストールします ```bash pip install -r requirementx.txt ``` #### FFmpegをインストールします。 ##### Conda ユーザー ```bash conda install ffmpeg ``` ##### Ubuntu/Debian ユーザー ```bash sudo apt install ffmpeg sudo apt install libsox-dev conda install -c conda-forge 'ffmpeg<7' ``` ##### Windows ユーザー [ffmpeg.exe](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/ffmpeg.exe) と [ffprobe.exe](https://huggingface.co/lj1995/VoiceConversionWebUI/blob/main/ffprobe.exe) をダウンロードし、GPT-SoVITS のルートディレクトリに置きます。 ### Docker の使用 #### docker-compose.yaml の設定 0. イメージのタグについて：コードベースの更新が速く、イメージのパッケージングとテストが遅いため、[Docker Hub](https://hub.docker.com/r/breakstring/gpt-sovits) で現在パッケージされている最新のイメージをご覧になり、ご自身の状況に応じて選択するか、またはご自身のニーズに応じて Dockerfile を使用してローカルで構築してください。 1. 環境変数： - `is_half`：半精度／倍精度の制御。"SSL 抽出"ステップ中に`4-cnhubert/5-wav32k`ディレクトリ内の内容が正しく生成されない場合、通常これが原因です。実際の状況に応じて True または False に調整してください。 2. ボリューム設定：コンテナ内のアプリケーションのルートディレクトリは`/workspace`に設定されます。デフォルトの`docker-compose.yaml`には、アップロード／ダウンロードの内容の実例がいくつか記載されています。 3. `shm_size`：Windows の Docker Desktop のデフォルトの利用可能メモリが小さすぎるため、異常な動作を引き起こす可能性があります。状況に応じて適宜設定してください。 4. `deploy`セクションの GPU に関連する内容は、システムと実際の状況に応じて慎重に設定してください。 #### docker compose で実行する ```markdown docker compose -f "docker-compose.yaml" up -d ``` #### docker コマンドで実行する 上記と同様に、実際の状況に基づいて対応するパラメータを変更し、次のコマンドを実行します： ```markdown docker run --rm -it --gpus=all --env=is_half=False --volume=G:\GPT-SoVITS-DockerTest\output:/workspace/output --volume=G:\GPT-SoVITS-DockerTest\logs:/workspace/logs --volume=G:\GPT-SoVITS-DockerTest\SoVITS_weights:/workspace/SoVITS_weights --workdir=/workspace -p 9880:9880 -p 9871:9871 -p 9872:9872 -p 9873:9873 -p 9874:9874 --shm-size="16G" -d breakstring/gpt-sovits:xxxxx ``` ## 事前訓練済みモデル [GPT-SoVITS Models](https://huggingface.co/lj1995/GPT-SoVITS) から事前訓練済みモデルをダウンロードし、`GPT_SoVITSpretrained_models` に置きます。 中国語 ASR（追加）については、[Damo ASR Model](https://modelscope.cn/models/damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch/files)、[Damo VAD Model](https://modelscope.cn/models/damo/speech_fsmn_vad_zh-cn-16k-common-pytorch/files)、[Damo Punc Model](https://modelscope.cn/models/damo/punc_ct-transformer_zh-cn-common-vocab272727-pytorch/files) からモデルをダウンロードし、`tools/damo_asr/models` に置いてください。 UVR5 (Vocals/Accompaniment Separation & Reverberation Removal, additionally) の場合は、[UVR5 Weights](https://huggingface.co/lj1995/VoiceConversionWebUI/tree/main/uvr5_weights) からモデルをダウンロードして `tools/uvr5/uvr5_weights` に置きます。 ## データセット形式 TTS アノテーション .list ファイル形式: ``` vocal_path|speaker_name|language|text ``` 言語辞書: - 'zh': 中国語 - 'ja': 日本語 - 'en': 英語 例: ``` D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin. ``` ## Todo リスト - [ ] **優先度 高:** - [x] 日本語と英語でのローカライズ。 - [ ] ユーザーガイド。 - [x] 日本語データセットと英語データセットのファインチューニングトレーニング。 - [ ] **機能:** - [ ] ゼロショット音声変換（5 秒）／�