GPT-SoVITS
1分程度の音声データから高品質なTTS(テキスト音声合成)モデルを作れる、few-shot音声クローニングのオープンソースプロジェクト。リポジトリはRVC-Boss/GPT-SoVITSで、MITライセンス。2024年公開後、59,000以上のスターを集めている。
アーキテクチャ
名前の通り2つのモデルを組み合わせた2段構成。
- GPT部分: 自己回帰モデルで、発話内容と韻律(リズム・抑揚・間の取り方)を生成する。
- SoVITS部分(SoftVC VITSベース): GPT部分が生成した特徴から、実際の波形とクローン対象の声色(timbre)を合成するボコーダー。
ゼロショットとfew-shotの違い
- ゼロショット: 参照音声5秒程度だけで、訓練なしに即座にその声でTTSできる。
- few-shot: 1分程度の音声で追加の微調整(ファインチューニング)を行うことで、声の類似度と自然性が向上する。
対応言語
英語・日本語・韓国語・広東語・中国語に対応。訓練データと異なる言語での推論(クロスリンガル)も可能。
音声クローニング・音声変換ツールの中での位置づけ
MITライセンスで無償・商用利用可能なTTS系ツールの代表。同じくTTS系のFish Speechとは異なり商用ライセンス取得の手間がない一方、Fish Speechほど大規模な学習データ・多言語対応は謳っていない。