Linux上搭建Jupyter Notebook開發環境,以及使用GPU的方法

TechDL
11粉絲
本期視頻為你詳細介紹如何在自己的服務器上搭建類似 谷歌colab的開發環境,jupyter notebook。最後,給你分享一下,如何通過jupyter使用GPU來運行大模型。
#AI #jupyterlab #notebook #colab #谷歌 #linux
AI開發前途無限
歡迎來到AI開發者的頻道
本期視頻爲你詳細介紹
如何在自己的服務器上
搭建類似谷歌colab的開發環境
也就是Jupyter Notebook
最後呢再給你分享一下
如何通過Jupyter使用GPU來運行大模型
好的下面我們正式開始
首先講講
爲什麼要搭建Jupyter Notebook的開發環境
簡單來說呢
就一句話
不想看谷歌colab的臉色了
最近啊我使用這個colab時啊
經常提醒我GPU配額已經用完
一旦碰到這種提示呢
少則啊等幾個小時
更多的時候啊
要等一天的時間
才能申請到GPU來使用啊
看來今後啊
免費蹭GPU來用啊
真的是越來越難了
那解決的方法呢
第一個呢
就是可以交錢升級
成爲colab的Pro用戶
另一種方法呢
如果你有自己的服務器的話呢
可以像我一樣
自己搭建一個服務器來使用
從此呢就實現了colab自由了
安裝方法呢
也超乎想象的簡單啊
下面就爲你介紹一下
這邊呢是我的服務器的環境
那我的目的呢
就是要使用GPU機器啊
所以啊
要求服務器上呢必須要有GPU的顯卡
下面的安裝呢
也就啊需要配置擴大
所以啊安裝的第一步
首先呢就是要設置擴大的環境變量
然後使用conda創建一個新的運行環境
安裝完成後
激活新的運行環境
第二步執行這個命令呢
來安裝Pytorch
這裏的Pytorch呢是擴大版本的第三步
呢就是安裝Jupyter
執行這邊的兩行命令呢
來安裝Jupyter和Jupyter lab
到這裏啊
安裝就完成了
下面我們來啓動Jupyter服務
我們使用這個jupyter-lab的命令呢
來啓動這個服務
如果只是在本機方面的話
那直接運行這個jupyter-lab的命令
啓動就可以了
那如果要通過網絡訪問呢
需要執行這個命令
啓動後呢
可以從這裏呢找到訪問的鏈接
這邊呢就是鏈接打開後的界面
看起來呢
與谷歌的colab還是非常相似的
下面我們就運行一下
谷歌最新開源的摘碼模型
首先呢需要安裝Transformers的開發庫
然後我們將這個代碼呢拷貝過來
執行一下這個代碼
這個模型啊我已經下載過了
這裏可以看到模型導入後呢
很快就出現了結果
這裏啊我們可以看到
他並沒有使用我們的GPU啊
來進行處理
那這是爲什麼呢
這一點呢
是與使用colab時啊是不一樣的
在colab上
當我們選擇使用GPU加速的時候啊
它的代碼
默認會首先選擇使用GPU來執行
但是在我們自己安裝的
這個Jupyter的服務上呢
它默認的是使用CPU來進行運算
之所以這樣呢
是因爲啊
這個pytorch默認的就是使用CPU
而不是GPU
如果要使用GPU的話呢
需要在代碼中啊進行明確的指示
也就是使用這個to cuda的命令
這裏呢
我們通過添加這個tocuda命令
之後呢我們就可以看到它就
可以使用GPU進行運算了
除了在代碼中顯示的指定GPU之外呢
還可以通過
改變pytorch默認設備的方式
來實現同樣的功能
通過執行這個代碼呢
我們就將pytorch的默認設備啊
改成了GPU
不過這裏我們可以看到
與剛纔的代碼相比呢
這次佔用的GPU顯存啊就更加多了
所以呢我們更加推薦前一種方法
也就是呢
值得需要的地方
將模型和數據呢
轉移到GPU上來進行處理
通過簡單的使用呢
我個人感覺在便利性上
Jupyter比colab呢是略差一些的
比如它的執行按鈕呢是在最頂部
那colab呢是在cell的左邊
使用起來啊就非常的方便
另外呢這個Jupyter在執行的時候呢
沒有狀態的顯示
所以
這個代碼執行時間比較長的時候啊
什麼時候結束呢就不是很清楚
第三點呢
就是GPU的顯存佔用之後呢
它是不會主動釋放的
需要我們手動重啓kernel呢
來釋放GPU的顯存
那自己安裝Jupyter的最大優點呢
就是這是自己的機器
想怎麼用就怎麼用
不用再看colab的臉色了
好的以上呢
就是今天的分享
感謝大家的收看
我們下期視頻再見
