AI配音新革命!MMAudio一鍵為視頻配環境音,效果驚豔!
2024年12月31日
各位朋友大家好,歡迎來到AI技術分享頻道。
今天我們要為大家介紹的開源項目,叫做MM Audio。
它能夠自動的為視頻配置聲音。
更嚴格的來說,它能夠依據我們的提示詞,為視頻自動的配置環境的聲音,而不是人的對話聲音。
那麼它的這種能力和潛力,能夠廣泛的用於電影電視,或者是紀錄片的製作,從而降低製作的成本。
那麼首先的話呢,其實我們可以來查看一下它的效果。
通過剛才的基本展示,那麼我們也能夠瞭解到,環境配音的效果還是非常不錯的。
那麼如果我們希望自己動手,使用自己的視頻對它進行更廣泛的測試。
項目的作者其實在Hackingface的網站當中,也為我們提供了一個在線測試的程序。
所以現在呢,我們就已經打開了這一個頁面。
然後我們就可以選擇上傳一個自己的視頻。
上傳完成這個視頻之後,我們可以在這裡選擇對它進行播放。
首先我們能夠瞭解到視頻當中的內容,同時也能夠知道這個視頻當中,現在它是沒有聲音的。
然後接下來的話呢,我們就可以通過提示詞的方式,描述這個視頻當中的內容。
其實呢,我們也可以藉助TrustGPT這樣的一些工具,幫助我們去完成提示詞的生成。
所以在這裡的話呢,我們可以去複製這樣的一個信息,然後重新回來之後,在這裡選擇粘貼。
那麼對於當前的這個視頻來說的話,它的長度其實是5秒,所以這個時間我們也可以做一個調整。
其他的選項現在我們都保持默認,然後選擇提交之後,它就已經開始幫助我們去完成聲音配置的過程,也就是配音的過程。
現在我們就能夠查看到,這個結果已經出來。
然後的話呢,我們就可以選擇播放。
可以看到它的效果也是非常不錯的。
當然如果有需要的話,我們也可以對於這個提示詞進一步的調整。
那麼除了在線體驗這種方式之外,如果我們希望在自己的計算機當中也擁有這樣的一個程序,對它進行更廣泛的測試,或者直接使用它來配音,那也是沒有問題的。
所以在這裡的話呢,我們去打開這個項目的主頁。
在它的主頁當中,它就會告訴我們,我們應該如何去完成它的安裝過程。
安裝的時候其實非常簡單。
首先的話呢,我們選擇複製這一條命令,然後打開命令提示符之後,選擇粘貼。
選擇回車之後去克隆這一個項目。
克隆完成項目之後,然後的話我們就可以進入到它的目錄當中。
創建運行環境。
所以的話呢,我們選擇回車之後,完成運行環境創建的過程。
然後我們就可以選擇激活它的運行環境。
激活完成之後,為了確保推理的過程當中使用GPU。
所以這時候的話呢,我們也可以打開PyTorch的頁面,然後選擇複製相應的命令。
在它的運行環境當中,完成PyTorch組件安裝的過程。
完成了PyTorch組件的安裝之後,然後我們又可以重新回到這個項目的主頁當中。
它還會告訴我們,我們需要去完成所有的依賴的組件的安裝。
所以呢,我們可以運行這條命令。
這時候的話,我們就能夠查看到,它所依賴的所有的這些不同組件安裝的過程,其實也已經開始。
完成了所依賴的組件的安裝之後,那麼對於這個項目在本地計算機當中安裝的過程,其實就已經結束。
如果我們也希望去使用HackingFace當中同樣的WebUI的工具,這個項目其實也是為我們提供了這個工具的。
所以呢,我們可以運行這條命令,然後去啟動這個工具。
在我們啟動的過程當中,其實呢,它會幫助我們去下載很多它所依賴的模型。
那麼這個模型文件的大小其實非常大。
所以在這裡呢,我們已經提前的完成了所有的這些模型的下載。
現在呢,我們準備好了兩個不同的文件夾,所以我們選擇複製這兩個不同的文件夾。
然後接下來的話呢,可以找到這個項目,我們的目錄當中,並且選擇粘貼。
粘貼完成之後,重新回到項目的主頁當中,並且選擇複製這個命令。
然後的話呢,選擇回車之後,它就會幫助我們同樣的去啟動WebUI的工具。
我們剛纔是拷貝了兩個不同的文件,那麼除了這兩個不同的模型文件之外,其實呢,還會有其他的一些模型文件。
那麼這些模型文件,也會在我們啟動WebUI的過程當中,自動的幫助我們完成它的下載過程。
但是它下載所在的位置,其實呢,是一些臨時文件,緩存文件所在的位置。
所以在這裡的話呢,其實我們就能夠查看到,它會告訴我們,這個模型文件的話,它會幫助我們下載到這個目錄當中。
那麼因為之前我已經運行過這些程序,所以在緩存當中,已經有了這些不同的文件。
所以在這裡的話呢,其實我們就能夠查看到,它會嘗試幫助我們去完成所有的這些不同模型文件下載的過程。
那麼一旦完成了所有的這些不同模型文件的下載之後,接下來的話,它就會告訴我們,這個程序啟動的過程就已經結束。
並且告訴我們輸入本地的地址,然後呢,我們就可以在當前的這一臺計算機當中,訪問到WebUI的工具。
所以在這裡的話呢,我們就可以輸入這個地址之後,選擇回車,同樣獲得了WebUI的工具。
同樣我們可以首先選擇這樣的一個視頻,然後重新回來,我們去複製提示詞,同樣的去修改它的長度,然後選擇提交。
提交之後的話,我們也能夠查看到,它也會幫助我們去完成配音的過程。
而在這個過程當中,它也會使用本地GPU進行加速。
最終的話呢,我們也是能夠得到一個結果,我們選擇播放,也能夠查看到它的效果也是不錯的。
另外的話呢,其實我們還準備好了另外的一個視頻,這個視頻它的長度是30秒,同樣對於這個視頻來說的話,現在它也是沒有聲音的。
然後接下來的話呢,我們也可以調整它的長度,另外的話呢,也可以去指定它的提示詞。
這個提示詞同樣我們可以通過視頻的內容,然後使用ChargeGPT幫助我們去生成提示詞。
如果有需要的話,我們也可以對於這個提示詞進行調整,同樣我們可以在這裡選擇提交。
然後接下來的話,它也會幫助我們去完成環境配音的過程。
另外的話,其實我們查看到這裡還會有一些視力,我們也可以選擇這些不同的視力,然後的話呢,它也是可以幫助我們通過視力生成環境聲音的。
現在我們就能夠查看到推理的過程就已經結束,我們也可以選擇播放,能夠查看到它的聲音基本上也是可以接受的。
當然我們也可以調整提示詞,然後再去嘗試生成的效果。
另外的話呢,其實我們也可以按照自己的需求去調整這些不同的選項,同樣查看它的效果。
那麼除了為視頻配音之外,其實我們可以通過這個工具瞭解到,我們還可以在這裡去選擇通過提示詞去生成聲音。
比如在這裡的話呢,我們選擇提交之後,它也是可以幫助我們生成聲音的。
然後我們選擇播放,那麼我們就能夠查看到這個效果其實會更好。
當然對於我們當前的這個視頻來說,其實它本身這個指針轉動的速度就非常快,所以的話呢,我們也可以按照自己的需求不斷去調整就行。
那麼這個呢,就是對於這樣的一個工具來說,它可以幫助我們去完整視頻的環境的配音,而不是人的對話或者是人的聲音的配音。
其實它也是有廣泛的用途的,比如對於電影特效,或者是電視劇,紀錄片,或者是自媒體,只要有視頻的地方,其實它都有自己發揮的潛力。
我們這一期的節目分享到這裡就已經結束,如果你喜歡我們的這一期節目,也希望大家能夠點贊並且去分享這一期節目。
同時呢,去訂閱我們的這一個頻道,我們下一期節目再見,謝謝大家。

