如何白嫖GPU顯卡算力,google colab 入門,不會編程照樣玩轉!openAI whisper 的靈活運用

軟件開發 阿倫
10粉絲
3 次觀看·2024年5月19日
視頻信息:
jupyter notebook
https://jupyter.org/
colab 分享,mp3轉錄srt字幕文件
https://colab.research.google.com/drive/1CK1v2WRqIGeOO_ZrWyeK0sk5rIK2sg12?usp=sharing
視頻中的鏈接:
個人介紹:
朋友們好,歡迎來到我的頻道,本人自2015年開始從事Android開發崗位,見證了移動互聯網 如日中天 的時期,目前也面臨著其,日薄西山的 境地。開創頻道的目的是
1:想要分享一些我在本行業所學到的互聯網知識,當然了都是對朋友們日常使用電腦,和互聯網有所幫助的內容,非編程知識。
2:想要嘗試做一做youtuber,使自己的收入分散化。
3:telegram群組,【不方便貼出來的內容】 會上傳至群組,如果朋友們不想自己搜索,可以在群組提取:
https://t.me/+fY7KycQlQXYwMzU1
個人博客:
https://ruanjianlun.xyz
個人小工具: pdf word轉換:pdf合併
https://alunpdf.com
本期視頻我們來聊一下Google的colab
colab是一個基於Jupyter Notebook的服務
並且它還提供了一塊免費的GPU算力
那麼什麼是Jupyter Notebook呢?
我們來看一下這張圖
我們可以把Jupyter Notebook想象成一個環境
可以讓我們用來編寫、運行和分享代碼
而其中以Python代碼爲主
通常情況下如果我們需要編寫運行代碼
我們是需要配置環境的
比如說在我這臺電腦上
首先我們需要安裝Python
比如我現在的Python版本是3.11.5
如果我們想要使用CUDA
我們除了有一張英偉達的顯卡以外
也需要額外的安裝CUDA
比如說我現在的CUDA版本是12.1
而這些環境都是需要我們單獨來配置的
我們這邊舉了兩個例子
而現實中往往需要安裝更多的配置
非常的繁瑣
而我們使用Jupyter Notebook就避免了這種情況
它已經把我們基本的環境全部安裝好了
而它所提供的這些功能
編寫通常情況下是程序員來寫好代碼
而運行和分享
即便是我們不懂任何的編程知識
我們拿到一份現成的代碼
我們想要把它運行起來
同樣也是需要這些環境的
而通過這個筆記本
我們就可以直接來運行這些代碼
不需要繁瑣的環境配置
這樣的一個好處
即便是我們沒有任何的編程知識
那麼我們也可以運行和分享
由程序員編寫好的代碼
而Google的colab是在它的基礎上
又爲我們加了一塊顯卡
那麼這樣我們就直接可以在雲端
使用他人編寫的Python代碼
加上谷歌提供的免費的GPU
來運行一些AI程序
好的說完這個概念
接下來我們就去實際的演示一下
我們先來看一下這個juypter Notebook
做一個簡單的演示
我們在瀏覽器裏面操作
這邊我們來選擇Python
這邊可以選擇Python
給我們提供了一個Demo
給我們提供了一個Demo
但是爲了直觀
我們再新建一個
保持默認 點Select
在這裏我們就可以編寫Python代碼
雖然它提供了編寫代碼的功能
但是通常情況下
我們都是在專門的軟件裏邊來編寫對應的代碼
比如說這個是一個Demo的代碼
比如說用PyCharm編寫Python
我們準備好了一些示例代碼
運行這段代碼會打出一個星形的形狀
但是這個是在我本地配置了Python環境
以及使用了PyCharm
這個專門的軟件的編寫下來達成的
那麼如果我想在任何的一臺設備上
都能執行代碼 我們就需要配置同樣的環境
但是使用jupyter Notebook都避免了這個環節
我們把它複製到這邊
然後Alt加Enter執行一下
可以看到輸出結果在我本地是一樣的
下面我們找一個稍微複雜點的程序來運行一下
在colab上
因爲colab爲我們提供了免費的GPU算力
我們還是要利用一下的
打開谷歌Colab
Open colab
這個需要我們有一個谷歌的賬號
要不然別人分享的鏈接
我們也是打不開的
這邊我已經準備好了一個
Python的示例代碼
使用我們之前錄過視頻的Whisper
用它來生成字幕文件
我們來簡單的介紹一下這個Demo
首先第一部分
任何的colab文件
我們都可以把它簡單的封成兩個部分
第一部分是!pip install
這個意思是用來裝一些依賴文件的
比如說下載一些模型
比如說裝Touch
第一部分運行的時候
它會有這些提示
就是去連接這個庫
然後下載這些東西
基本上都是可以看到一些進度條
這樣的內容
而第二部分是我們的核心邏輯
在這個Demo裏邊
我們使用了OpenAI的開源模型Whisper
從MP3裏邊來提取轉錄字幕文件
通常情況下 此類功能在視頻剪輯軟件裏邊
可能是需要會員纔可以
而現在有了OpenAI的Whisper模型
我們只需要不到 一百行的代碼 就可以實現這個功能
這個Demo裏邊
我們只需要不到 一百行的代碼 就可以實現這個功能
而且準確度相當高
那麼下面呢
我們先把第一部分這個代碼
讓它運行一下
好的運行完畢
結果沒有報錯
如果報錯了
這邊是紅色的
然後底下會有這個錯誤的提示
當然這個我提前準備的代碼
它肯定沒有問題
因爲我已經測試過了
而下邊呢
我們只需要兩個參數
第一個就是我們這個MP3
這個音頻文件
第二個是我們的輸出字幕文件
我們點擊左邊這個按鈕
然後呢
點擊上面這個返回
這個會返回到它的更路徑
這邊我們看起來呢
它像不像一個Linux的文件目錄呢
就是啊
然後當前的路徑是哪裏呢
當前路徑是content
這個呢 是我打印的這行日誌
那麼我們呢
就需要上傳一個.mp3的文件
在這個content路徑下
因爲我這個參數呢
是在當前路徑下來讀的
當然我們也可以把它換到別的地方
如果我們呢
就先這樣123.mp3
這個文件呢
我們可以這樣上傳下載 可以這樣上傳
這邊呢 已經存在了 我們就不重複上傳了
我們運行第二部分的代碼
這個執行完畢以後呢
會生成一個123.srt的字幕文件
而底下這行呢
尤爲重要
這個是在我昨天運行的時候
報錯了
報了一個內存溢出的錯誤
而用上這個代碼呢
就沒有問題了
所以說呢
我們一定要仔細的看這個錯誤信息
在使用任何軟件的時候呢
通常情況下
只要它出錯了
那麼它就會有提示
或者是有錯誤信息
或者是有彈窗
這個時候呢
我們一定要注意
它報的什麼錯
然後呢
我們拿對應的錯誤
或者是錯誤碼
去它的論壇裏邊啊
官網裏邊啊
谷歌裏邊啊
來找這個解決問題的原因
當然了
前提是我們本身
根據這個錯誤信息
查不到是哪裏的問題
我們才需要去搜索
如果你一眼就看出是哪兒的問題啊
那大可不必
那麼說明呢
你已經是個高手了
這個123.mp3的文件呢
大概在7分鐘左右
而我們現在運行的是
這個T 4
特斯拉4
這個算力卡
它的這個算力呢
還不到3060的算力
這邊呢
還有一個要注意的問題
就是說
我們運行的時候呢
在這邊
可以更改運行時類型
比如我們更改
默認它是CPU了
那我們一定要改成這個 GPU啊
它使用CPU的話
是很慢的
運行這些AI模型
剛剛的已經運行了
那已經執行了end
那麼我們刷新一下這個路徑呢
它就會有這個123.srt的
字幕文件出現
刷新一下
可以看到 這已經出來了
這個名字是一樣的
把它下載下來看一下
這個是剛剛我做的測試
1123吧
來看一下
可以看到它的 這個 這個識別呢
還是很準的
雖然我這裏面呢是 簡體中文
但是我裏面說的英語呢
它也識別出來了
它有大概90%的準確率吧
還是需要我們稍微的
調整一下的
因爲有時候我還沒有開始說話
但是呢
它這個
這個時間呢 已經給我們出來了
比如說我在4分05纔開始說話
然後它呢在4分鐘的時候
就把這個
字符塊給我們彈出來了
這個字呢 基本上是準確的
然後這邊
有一個提示
比如說我們想要讓它這個
回覆繁體中文對吧
完全沒有問題
那我們可以改一下
我們只需要改一下提示就可以啊
當然這個考慮到是簡體和繁體
可能有的這個說法不一樣啊
還需要這樣的提示
如果只是
錄音的時候
就是你說繁體
然後你想字幕也是繁體
那就是
直接請 繁體輸出
就可以了
我們呢
一定要靈活使用
因爲它這邊的這個提示
相當靈活的
我們再運行一下
我們給它改個名吧
就叫456
下邊呢已經
Use device CUDA
然後下邊呢是
已經開始了
因爲我這邊做了判斷啊
如果是CUDA是能用的話
那就用這個CUDA
如果不能用
那我們就用CPU
CPU啊它不適合幹這些事情
CPU它是什麼都能幹
但是什麼都幹不快
而GPU呢
它是適合 幹一些這個簡單的東西
但是它乾得很快
比如說它可以同時幹10件
100件
這個呢就是
它倆之間的區別吧
這邊執行呢還是大約呢
是在兩分鐘多一點
我們可以監控一下
這個colab它的 使用情況
可以看到我們這邊呢
系統分配了我們12G 內存
15G的這個顯存
磁盤呢是78G
這個配置還可以啊
雖然這個特斯拉4算力不高
但是它 這個顯存
還是挺大的
OK這邊呢已經運行完畢了
我們來刷新一下
出現一個456
然後我們把它下下來
同樣來看一下
可以看到呢它已經變成了這個
繁體中文
那麼關於這個Google的這個colab
我們就用一個簡單的例子呢
把它給 說了一下
其實很多這個
這個開源軟件啊
他們都提供了colabb這個 實例
比如我們用這個動漫高清化的
開源軟件爲例
我們往下拉 看到沒有 這邊呢有這個 高排音 Collab
它也提供了這個
運行實例
所以說很多時候呢
我們不需要就是
會寫代碼
但是我們呢一定要大概的知道
它是什麼意思啊
他們的結構呢是一樣的
我們只需要修改幾個參數就可以讓它來運行起來
就像我們一開始說的
它最主要的功能呢我認爲還是
運行和分發代碼
而不是編寫
那麼最後呢我也會把這個來分享出來
點擊這個分享
然後是這個查看着呢就是
知道這個鏈接的任何人
因爲雖然也就100行的代碼嘛
但是也花費了一些時間
好的那麼本期的視頻呢就到此爲止了
最後如果視頻對你有用呢
那麼麻煩按贊 訂閱 支持一下這個頻道吧 那我們就 下期再見 拜拜
