基本:ボイスチェンジャーとは?
ボイスチェンジング(声変換)とは、話者の声が違って聞こえるようにリアルタイムで音声を変更するプロセスです。単純なエフェクト(声を低くしたり高くしたりする)から、完全なアイデンティティ変換(全くの別人のように聞こえる)まで、その範囲は多岐にわたります。最近のボイチェンはデスクトップアプリとして動作し、マイクからの音声をキャプチャして処理し、その結果を他のアプリがマイク入力として使用できる仮想オーディオデバイス(仮想マイク)を通じて出力します。
レベル1:ピッチシフト
最もシンプルな声変換の方法です。ピッチシフトは、あなたの声の基本周波数を上げたり下げたりします。ピッチを上げるとチップマンクのような声に、下げると巨人のような声になります。ピッチシフトはほぼ瞬時(1ms未満の遅延)でCPUもほとんど使用しませんが、声の響き(フォルマント)を調整せずにすべての周波数を均一に変化させるため、結果は明らかに不自然に聞こえます。Clownfishなどの製品がこのアプローチを採用しています。
レベル2:DSPオーディオエフェクト
より高度なボイチェンは、ピッチシフト、フォルマントシフト、リバーブ、ディストーション、イコライゼーションなど、複数のオーディオエフェクトを組み合わせて適用します。フォルマントシフトは、生のピッチシフトからの重要なアップグレードです。ピッチとは独立して声の共鳴周波数を調整することで、より自然な異性の声やキャラクターボイスのエフェクトを可能にします。いくつかのDSPエフェクトをチェーンで組み合わせることで、説得力のあるキャラクターボイス(ロボット、エイリアン、悪魔など)を作成できます。VoicemodやMorphVOXなどの製品がこのアプローチを採用しています。結果は生のピッチシフトよりは良く聞こえますが、それでも加工されていることは認識できます。
レベル3:AI音声変換(RVC)
最も高度なアプローチは、ニューラルネットワークを使用してあなたの声を完全に再構築します。AI音声変換(RVC — Retrieval-based Voice Conversionなど)は、あなたの音声信号を加工するわけではありません。代わりに、あなたの話し方から言語的な内容とピッチを抽出し、あなたの声のアイデンティティを完全に捨て去り、学習済みのボイスモデルを使用して全く新しい音声を合成します。AIが学習データからターゲットの声の特徴(音色、息遣い、響き、フォルマント構造)を学習しているため、結果は自然に聞こえます。Echo Liveはこのアプローチを採用しています。RVCの4段階パイプラインについての詳しい解説は、「RVCとは?」のガイドをご覧ください。
オーディオルーティングの仕組み
デスクトップのボイチェンは、処理した音声を他のアプリケーションに送る方法が必要です。これは仮想オーディオケーブル、つまりシステム上に仮想マイクデバイスを作成するソフトウェアドライバーを介して行われます。Windowsでは最も一般的な選択肢がVB-Cable(無料)、macOSではBlackHoleです。あなたの物理マイクがボイチェンアプリに入力され、ボイチェンが音声を処理し、出力が仮想ケーブルにルーティングされます。Discord、OBS、Zoomなどのアプリケーションは、この仮想ケーブルを通常のマイクとして認識し、変換された音声を使用します。VoicemodやClownfishのように独自の仮想オーディオドライバーをバンドルしているボイチェンもあれば、Echo Liveやw-okadaのように別途インストールされた仮想ケーブルに依存するものもあります。
リアルタイム処理のパイプライン
リアルタイムで使用するためには、ボイチェンは音声が到着するよりも速く処理しなければなりません。パイプラインは個別のチャンクで動作します:
- ●音声キャプチャ — ボイチェンは、OSのオーディオAPI(WindowsではWASAPI、macOSではCoreAudio)を介してマイクから生の音声を読み取ります。
- ●バッファリング — 音声はチャンク(通常128〜512サンプル)に集められます。チャンクはAIモデルが十分なコンテキストを得るのに十分な長さである必要がありますが、チャンクが短いほど遅延は少なくなります。
- ●前処理 — ノイズゲートやコンプレッサーなどのDSPエフェクトが、AIの推論の前に生の入力をクリーンにします。これにより、ニューラルネットワークが背景ノイズを音声に変換しようとするのを防ぎます。
- ●AI推論 — ニューラルネットワークがチャンクを処理し、コンテンツ特徴とピッチを抽出し、ターゲットのボイスモデルを使用して出力を合成します。これは最も計算負荷の高いステップであり、GPUアクセラレーションの恩恵を非常に大きく受けます。
- ●クロスフェード — 隣接する処理済みチャンクは、チャンクの境界で聞こえるクリック音やギャップを防ぐために、クロスフェードアルゴリズム(SOLAなど)を使用してブレンドされます。
- ●出力 — 最終的な音声は、他のアプリケーションが使用するために仮想オーディオケーブルに送信されます。
遅延について
遅延とは、あなたが話してから処理された音声が聞こえるまでの総遅延時間のことです。ボイチェンにおける主な遅延の原因は、チャンクサイズ(AIは完全なチャンクを収集するまで音声を処理できない)、推論時間(GPUがニューラルネットワークを実行するのにかかる時間)、およびクロスフェード時間(チャンクの境界を滑らかにするために必要なオーバーラップ)です。さらに、オーディオドライバーのバッファリングや受信側アプリケーションからの遅延も加わります。GPUアクセラレーションと最適化された設定により、現代のAIボイチェンはリアルタイムの会話に適した総遅延を実現しています。チャンクサイズを小さくすると遅延は減りますが、GPUの負荷が増加します。適切なバランスを見つけることは、お使いのハードウェアに依存します。
GPUアクセラレーション
AIボイチェンは、GPUアクセラレーションから劇的な恩恵を受けます。GPUでのニューラルネットワーク推論は、CPU上よりも10〜50倍高速になることがあり、これは直接的に低遅延とより安定した音声につながります。ほとんどのボイチェンはCUDAを介してNVIDIA GPUに対応しています。一部(Echo Liveを含む)はDirectMLを介してAMDおよびIntel GPUにも対応しています。専用GPUがない場合、ボイチェンはCPUでも実行できますが、遅延が大きくなり、システムの負荷に敏感になります。ゲームを同時に実行すると、音声が途切れる可能性があります。