大家應該都知道聲音克隆技術(shù),通俗的來說就是借助深度學習算法,可以完全模擬某個人的聲音,而且由機器合成的語音連情緒都能夠完美表達出來,基本可以以假亂真,只要不見面,你根本就察覺不出來向你發(fā)出聲音的知識一個機器。
語音克隆最大的創(chuàng)新之一是減少創(chuàng)建語音所需的原始數(shù)據(jù)量。過去,該系統(tǒng)需要數(shù)十甚至數(shù)百小時的音頻。但是,今天猿妹要和大家分享的這個工具5秒鐘就可以克隆成功,這個工具名叫——MockingBird。
MockingBird已經(jīng)登上Github熱榜,收獲3.5K的Star,累計分支 303(Github地址:https://github.com/babysor/MockingBird)
MockingBird具有如下特性:
支持普通話并使用多種中文數(shù)據(jù)集進行測試
適用于 pytorch,已在 1.9.0 版本(最新于 2021 年 8 月)中測試,GPU Tesla T4 和 GTX 2060
支持 Windows + Linux
僅使用新訓練的合成器(synthesizer)就有良好效果,復用預訓練的編碼器/聲碼器
MockingBird如何使用
MockingBird的安裝要求如下:
首先,MockingBird需要Python 3.7 或更高版本
安裝 PyTorch
安裝 ffmpeg。
運行pip install -r requirements.txt 來安裝剩余的必要包。
安裝 webrtcvad 用 pip install webrtcvad-wheels。
接著,你需要使用數(shù)據(jù)集訓練合成器:
下載 數(shù)據(jù)集并解壓:確保您可以訪問 train 文件夾中的所有音頻文件(如.wav)
使用音頻和梅爾頻譜圖進行預處理:python synthesizer_preprocess_audio.py 《datasets_root》 可以傳入參數(shù) --dataset {dataset} 支持 adatatang_200zh, magicdata, aishell3
預處理嵌入:python synthesizer_preprocess_embeds.py 《datasets_root》/SV2TTS/synthesizer
訓練合成器:python synthesizer_train.py mandarin 《datasets_root》/SV2TTS/synthesizer
當你在訓練文件夾 synthesizer/saved_models/ 中看到注意線顯示和損失滿足您的需要時,請轉(zhuǎn)到下一步。
使用預先訓練好的合成器,如果沒有設備或者不想慢慢調(diào)試,可以使用網(wǎng)友貢獻的模型。
訓練聲碼器
預處理數(shù)據(jù): python vocoder_preprocess.py 《datasets_root》
訓練聲碼器: python vocoder_train.py mandarin 《datasets_root》
啟動工具箱
然后你可以嘗試使用工具箱:python demo_toolbox.py -d 《datasets_root》
責任編輯:haq
-
開源
+關注
關注
3文章
3402瀏覽量
42712 -
克隆
+關注
關注
0文章
22瀏覽量
7825 -
深度學習
+關注
關注
73文章
5513瀏覽量
121551
原文標題:5秒內(nèi)克隆你的聲音,并生成任何內(nèi)容,這個工具細思極恐...還特么的開源~
文章出處:【微信號:AndroidPush,微信公眾號:Android編程精選】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關推薦
NPU與機器學習算法的關系
NPU在深度學習中的應用
AI大模型與深度學習的關系
用TPA3112設計的一個音頻功放電路,上電1-3秒后就沒有聲音輸出了,怎么解決?
FPGA做深度學習能走多遠?
深度識別算法包括哪些內(nèi)容
基于大數(shù)據(jù)與深度學習的穿戴式運動心率算法
![基于大數(shù)據(jù)與<b class='flag-5'>深度</b><b class='flag-5'>學習</b>的穿戴式運動心率<b class='flag-5'>算法</b>](https://file.elecfans.com/web2/M00/36/6B/pYYBAGIy9O2AcuPtAAAjwZfmzn8505.png)
深度學習算法在嵌入式平臺上的部署
深度學習算法在集成電路測試中的應用
利用Matlab函數(shù)實現(xiàn)深度學習算法
深度學習中的無監(jiān)督學習方法綜述
深度學習的基本原理與核心算法
深度學習模型訓練過程詳解
基于深度學習的鳥類聲音識別系統(tǒng)
深度解析深度學習下的語義SLAM
![<b class='flag-5'>深度</b>解析<b class='flag-5'>深度</b><b class='flag-5'>學習</b>下的語義SLAM](https://file1.elecfans.com/web2/M00/D6/82/wKgZomYnfe-ARm_pAAAcYiwkMFk951.png)
評論