基本概念:什麼是變è²ï¼Ÿ
è®Šè²æ˜¯æŒ‡å³æ™‚修改音訊,讓說話者è½èµ·ä¾†ä¸åŒçš„éŽç¨‹ã€‚é€™åŒ…æ‹¬å¾žç°¡å–®çš„æ•ˆæžœï¼ˆè®“ä½ çš„è²éŸ³è®Šä½Žæ²‰æˆ–變高亢)到完全的身份轉æ›ï¼ˆè½èµ·ä¾†åƒä¸€å€‹å®Œå…¨ä¸åŒçš„人)。ç¾ä»£è®Šè²å™¨ä½œç‚ºæ¡Œé¢æ‡‰ç”¨ç¨‹å¼é‹è¡Œï¼Œå®ƒæœƒæ“·å–ä½ éº¥å…‹é¢¨çš„éŸ³è¨Šï¼Œé€²è¡Œè™•ç†ï¼Œç„¶å¾Œé€éŽä¸€å€‹è™›æ“¬éŸ³è¨Šè£ç½®è¼¸å‡ºçµæžœï¼Œå…¶ä»–應用程å¼å¯ä»¥å°‡è©²è£ç½®ä½œç‚ºéº¥å…‹é¢¨è¼¸å…¥ä½¿ç”¨ã€‚
ç‰ç´š 1:Pitch Shifting(音高變æ›ï¼‰
這是最簡單的變è²å½¢å¼ã€‚Pitch Shifting 會æé«˜æˆ–é™ä½Žä½ è²éŸ³çš„åŸºé »ã€‚æé«˜éŸ³é«˜æœƒè®“ä½ è½èµ·ä¾†åƒèŠ±æ —é¼ ï¼›é™ä½ŽéŸ³é«˜æœƒè®“ä½ è½èµ·ä¾†åƒå·¨äººã€‚Pitch Shifting å¹¾ä¹Žæ˜¯å³æ™‚的(延é²ä½Žæ–¼ 1 毫秒),並且幾乎ä¸ä½”用 CPUï¼Œä½†çµæžœè½èµ·ä¾†æ˜Žé¡¯ä¸è‡ªç„¶ï¼Œå› ç‚ºå®ƒçµ±ä¸€æ”¹è®Šäº†æ‰€æœ‰é »çŽ‡ï¼Œè€Œæ²’æœ‰èª¿æ•´è²éŸ³çš„å…±æŒ¯ï¼ˆå…±æŒ¯å³°ï¼‰ã€‚åƒ Clownfish 這樣的產å“就使用這種方法。
ç‰ç´š 2:DSP 音訊效果
更複雜的變è²å™¨æœƒåŒæ™‚應用多種音訊效果——Pitch Shiftingã€å…±æŒ¯å³°è½‰ç§»ã€æ··éŸ¿ã€å¤±çœŸã€ç‰åŒ–ç‰ç‰ã€‚å…±æŒ¯å³°è½‰ç§»æ˜¯ç›¸å°æ–¼åŽŸå§‹ Pitch Shifting 的關éµå‡ç´šï¼šå®ƒç¨ç«‹æ–¼éŸ³é«˜èª¿æ•´è²éŸ³çš„å…±æŒ¯é »çŽ‡ï¼Œå¾žè€Œå¯¦ç¾æ›´è‡ªç„¶çš„跨性別或角色語音效果。é€éŽå°‡å¤šå€‹ DSP 效果串è¯èµ·ä¾†ï¼Œä½ å¯ä»¥å‰µé€ 出令人信æœçš„角色è²éŸ³ï¼ˆæ©Ÿå™¨äººã€å¤–æ˜Ÿäººã€æƒ¡é”ï¼‰ã€‚åƒ Voicemod å’Œ MorphVOX 這樣的產å“å°±ä½¿ç”¨é€™ç¨®æ–¹æ³•ã€‚çµæžœè½èµ·ä¾†æ¯”原始的 Pitch Shifting 好,但ä»ç„¶å¯ä»¥è¾¨è˜å‡ºæ˜¯ç¶“éŽè™•ç†çš„。
ç‰ç´š 3:AI èªžéŸ³è½‰æ› (RVC)
æœ€å…ˆé€²çš„æ–¹æ³•æ˜¯ä½¿ç”¨ç¥žç¶“ç¶²è·¯ä¾†å®Œå…¨é‡æ§‹ä½ çš„è²éŸ³ã€‚AI 語音轉æ›ï¼ˆå¦‚ RVC——檢索å¼èªžéŸ³è½‰æ›ï¼‰ä¸¦ä¸æ˜¯ä¿®æ”¹ä½ çš„è²éŸ³è¨Šè™Ÿã€‚相åï¼Œå®ƒå¾žä½ çš„èªžéŸ³ä¸æå–èªžè¨€å…§å®¹å’ŒéŸ³é«˜ï¼Œå®Œå…¨æ¨æ£„ä½ çš„è²éŸ³èº«ä»½ï¼Œç„¶å¾Œä½¿ç”¨ä¸€å€‹è¨“ç·´å¥½çš„èªžéŸ³æ¨¡åž‹åˆæˆå…¨æ–°çš„éŸ³è¨Šã€‚çµæžœè½èµ·ä¾†å¾ˆè‡ªç„¶ï¼Œå› 為 AI 已經從訓練數據ä¸å¸ç¿’了目標è²éŸ³çš„ç‰¹å¾µâ€”â€”éŸ³è‰²ã€æ°£æ¯æ„Ÿã€å…±é³´ã€å…±æŒ¯å³°çµæ§‹ã€‚Echo Live 就使用這種方法。想深入了解 RVC 的四階段æµç¨‹ï¼Œè«‹åƒé–±æˆ‘們的「什麼是 RVCã€æŒ‡å—。
音訊路由如何é‹ä½œ
桌é¢è®Šè²å™¨éœ€è¦ä¸€ç¨®æ–¹æ³•將其處ç†éŽçš„音訊傳é€åˆ°å…¶ä»–應用程å¼ã€‚這是é€éŽè™›æ“¬éŸ³è¨Šç·šå®Œæˆçš„——這是一種軟體驅動程å¼ï¼Œå®ƒæœƒåœ¨ä½ 的系統上創建一個虛擬麥克風è£ç½®ã€‚在 Windows ä¸Šï¼Œæœ€å¸¸è¦‹çš„é¸æ“‡æ˜¯ VB-Cable(å…費);在 macOS 上,則是 BlackHoleã€‚ä½ çš„å¯¦é«”éº¥å…‹é¢¨è¼¸å…¥åˆ°è®Šè²å™¨æ‡‰ç”¨ç¨‹å¼ï¼Œè®Šè²å™¨è™•ç†éŸ³è¨Šï¼Œç„¶å¾Œè¼¸å‡ºè¢«è·¯ç”±åˆ°è™›æ“¬éŸ³è¨Šç·šã€‚åƒ Discordã€OBS 或 Zoom é€™æ¨£çš„æ‡‰ç”¨ç¨‹å¼æœƒå°‡è™›æ“¬éŸ³è¨Šç·šè¦–為一個普通的麥克風,並使用轉æ›å¾Œçš„音訊。一些變è²å™¨ï¼ˆå¦‚ Voicemod å’Œ Clownfish)會æ†ç¶è‡ªå·±çš„虛擬音訊驅動程å¼ï¼Œè€Œå…¶ä»–一些(如 Echo Live å’Œ w-okada)則ä¾è³´æ–¼å–®ç¨å®‰è£çš„虛擬音訊線。
峿™‚è™•ç†æµç¨‹
ç‚ºäº†å³æ™‚使用,變è²å™¨å¿…é ˆæ¯”éŸ³è¨Šåˆ°é”的速度更快地處ç†éŸ³è¨Šã€‚這個æµç¨‹ä»¥é›¢æ•£çš„å€å¡Šé€²è¡Œï¼š
- ●音訊擷å–——變è²å™¨é€éŽä½œæ¥ç³»çµ±çš„音訊 API(Windows 上的 WASAPI,macOS 上的 CoreAudioï¼‰å¾žä½ çš„éº¥å…‹é¢¨è®€å–原始音訊。
- ●ç·©è¡â€”—音訊被收集æˆä¸€å€‹å€å¡Šï¼ˆé€šå¸¸æ˜¯ 128–512 個樣本)。å€å¡Šå¿…é ˆè¶³å¤ é•·ï¼Œä»¥ä¾¿ AI æ¨¡åž‹æœ‰è¶³å¤ çš„ä¸Šä¸‹æ–‡ï¼Œä½†è¼ƒçŸçš„å€å¡Šæ„味著較低的延é²ã€‚
- ●é 處ç†â€”—åƒé›œè¨Šé–˜å’Œå£“縮器這樣的 DSP 效果會在 AI æŽ¨è«–å‰æ¸…ç†åŽŸå§‹è¼¸å…¥ã€‚é€™å¯ä»¥é˜²æ¢ç¥žç¶“網路試圖將背景噪音轉æ›ç‚ºèªžéŸ³ã€‚
- ●AI 推論——神經網路處ç†è©²å€å¡Šï¼Œæå–å…§å®¹ç‰¹å¾µå’ŒéŸ³é«˜ï¼Œç„¶å¾Œä½¿ç”¨ç›®æ¨™èªžéŸ³æ¨¡åž‹åˆæˆè¼¸å‡ºã€‚這是計算最密集的一æ¥ï¼Œä¸¦ä¸”極大地å—益於 GPU åŠ é€Ÿã€‚
- ●äº¤å‰æ·¡åŒ–——相鄰的處ç†å€å¡Šä½¿ç”¨äº¤å‰æ·¡åŒ–演算法(如 SOLA)混åˆåœ¨ä¸€èµ·ï¼Œä»¥é˜²æ¢åœ¨å€å¡Šé‚Šç•Œå‡ºç¾å¯è½è¦‹çš„å–€å™ è²æˆ–間隙。
- ●輸出——最終的音訊被傳é€åˆ°è™›æ“¬éŸ³è¨Šç·šï¼Œä¾›å…¶ä»–應用程å¼ä½¿ç”¨ã€‚
了解延é²
延鲿˜¯æŒ‡å¾žä½ 說話到è½åˆ°è™•ç†å¾ŒéŸ³è¨Šçš„ç¸½å»¶é²æ™‚間。在變è²å™¨ä¸ï¼Œå»¶é²çš„主è¦ä¾†æºæ˜¯å€å¡Šå¤§å°ï¼ˆAI 在收集到完整å€å¡Šä¹‹å‰ç„¡æ³•處ç†èªžéŸ³ï¼‰ã€æŽ¨è«–時間(GPU é‹è¡Œç¥žç¶“網路所需的時間)以åŠäº¤å‰æ·¡åŒ–æŒçºŒæ™‚間(平滑å€å¡Šé‚Šç•Œæ‰€éœ€çš„é‡ç–Šæ™‚間)。é¡å¤–的延é²ä¾†è‡ªéŸ³è¨Šé©…動程å¼ç·©è¡å’ŒæŽ¥æ”¶æ‡‰ç”¨ç¨‹å¼ã€‚é€éŽ GPU åŠ é€Ÿå’Œå„ªåŒ–çš„è¨å®šï¼Œç¾ä»£ AI 變è²å™¨å¯ä»¥å¯¦ç¾é©åˆå³æ™‚å°è©±çš„總延é²ã€‚減å°å€å¡Šå¤§å°å¯ä»¥é™ä½Žå»¶é²ï¼Œä½†æœƒå¢žåŠ GPU è² è¼‰â€”â€”æ‰¾åˆ°åˆé©çš„å¹³è¡¡é»žå–æ±ºæ–¼ä½ 的硬體。
GPU åŠ é€Ÿ
AI 變è²å™¨æ¥µå¤§åœ°å—益於 GPU åŠ é€Ÿã€‚åœ¨ GPU 上進行神經網路推論å¯ä»¥æ¯”在 CPU 上快 10-50 å€ï¼Œé€™ç›´æŽ¥è½‰åŒ–為更低的延é²å’Œæ›´ç©©å®šçš„音訊。大多數變è²å™¨é€éŽ CUDA æ”¯æ´ NVIDIA GPU。有些(包括 Echo Live)也é€éŽ DirectML æ”¯æ´ AMD å’Œ Intel GPU。如果沒有ç¨ç«‹ GPU,變è²å™¨å¯ä»¥åœ¨ CPU 上é‹è¡Œï¼Œä½†å»¶é²æ›´é«˜ï¼Œä¸”å°ç³»çµ±è² è¼‰æ›´æ•æ„Ÿâ€”â€”åŒæ™‚é‹è¡ŒéŠæˆ²å¯èƒ½æœƒå°Žè‡´éŸ³è¨Šå¡é “。