
Hello大家好
歡迎再次來到歐陽的視頻頻道
那麼本期歐陽將跟大家分享
如何在本地簡易的一鍵訓練我們的Flex模型
不需要那麼多步驟
那麼既然是簡易訓練
歐陽跟大家推薦的本地部署的項目
就是這樣一個項目
Flex GYM
這個項目非常的簡潔
就這樣一個界面
它也集合了快要這樣一個腳本
我們也可以設置一些高級的選項
來定製化我們的訓練步驟或者是訓練過程
全端也是通過 AI toolkit的一個分支而來的
這個toolkit相信如果做訓練的朋友也不陌生
早期也就是Flex訓練剛出來的框架
其實AI toolkit它是最早出來的
那麼秋葉的腳本也是基於快要的腳本之上
進行修改的
這就是它簡單的一個情況
而且最主要的是它對顯存進行了優化
我們可以最低12GB
就可以訓練Flex的第一位開發者模型
如果想快一點
我們也可以選用16或者20G的顯存的顯卡
當然了這裏我推薦的還是16G比較好一些
其實說到這還是有一點抱怨
雖然說這個是簡潔一鍵訓練
但是它卻沒有一鍵安裝包
還是需要我們通過不同的方式進行安裝
在這裏作者提供了三種不同的安裝方式
第一種是使用 Pinocchio 直接安裝
Pinocchio 說白了它是一個國外的一個部署工具
Pinocchio當中有很多我們AI的部署項目
可以一鍵配置一鍵安裝
所有的依賴它都會自動安裝
但是有一點不好的是
它對我們國內的網絡支持不是特別的好
我之前用過一段時間
整體感覺還是網絡上不太順暢
或者是在網絡上部署一些項目
偶爾會失敗
大家可以去嘗試
如果你的網絡好
第二個就是我們手動的來部署了
直接拉取Clone我們的項目地址
然後進行一些手動的部署
最後一種就是使用Docker
當然了這種是需要我們本地安裝Docker
有Docker可以運行的
所以這三種安裝方式
其實都不利於新手部署
這個就很糾結
所以這也是歐陽一直沒有分享它的原因
使用很簡單
但部署很麻煩
對於我們來說
這期爲什麼要跟大家分享
就是因爲我們有了這樣一個工具
一個克隆AI的部署器
這個部署器其實剛開始是
咱們羣的一個小夥伴
自己去開發的一個簡單的安裝器
就是爲了讓新手來迅速的安裝
Kafui又或者是SD等等的這些項目
所以說纔有了這個部署器
之後歐陽跟小夥伴聊了一下
他又把各種各樣
歐陽曾經去跟大家做演示的一些AI項目
添加進來了
所以說通過這個部署器
我們就可以一鍵的部署
任何它支持的AI項目
同時也支持了網絡的加速
也就是我們下載東西
不需要配置網絡
我們有國內的源
和國內的加載節點
之後歐陽也會把一些項目跟進的
讓小夥伴看看能不能有時間就開發一下
一鍵安裝的這麼一個神器
覺得是特別的好用
正因爲有了這個
歐陽才覺得有必要跟大家分享一下
我們本地部署怎麼的最快的
讓它訓練起來
這裏比如說我們新建一個文件夾
這樣一個最好是英文名的文件夾
然後我們把這個部署器
放到我們這個文件夾裏面來
之後我們直接來雙擊
第一次運行它需要初始化一下
它會加載一些所配置的文件
也就是我們這個項目裏面
包含了哪些項目的安裝和配置
它就會加載一遍
可以看到多一個bin的文件夾
這就是它的配置文件
然後這邊我們就可以看到
這就是我們小夥伴所做的AI部署器
我們只需要在選擇項目這邊
選擇我們想要的部署的項目
可以看到它現在已經支持不少了
Configurer SDUI以及Focus
還有GPT Service Chat TTS等等
我們之前都講過的這些AI項目
都可以一鍵部署
之後我們來簡單看一下下面的要求
比如說CUDA是不是需要安裝
Git有沒有安裝
安裝了以後你就可以看到
都已經檢測到了
沒有安裝我們可以通過小夥伴提供的
下載鏈接去下載安裝一下
那麼最後有一個FFMP去用於多媒體切分的
這麼一個算是一個組件
如果沒有安可以看到未檢測到
我們可以通過這樣一個命令來安裝一下
這裏也不需要我們輸入
很簡單的最下角這邊點綠色的點
可以看到有些常用命令
我們就點最後一個來回車
它就會自動配置
可以看到很智能
我們也可以看到上面中間這個地方
因爲我的字體有點大
中間這個地方有我們的下載進度
當我們下載完畢以後
它會自動的幫我們配置
那麼第二個就是我們可以看到
它沒有使用全局的Python
也就是說我們電腦沒有安裝Python都沒有關係
因爲它裏面內置了一個嵌入版的Python
也就是我們所謂的便攜版的Python
直接用這個裏面的PipeList
或者是PipeInstall
來進行這個組件的安裝
所以說還是比較便捷便利的
OK那麼可以看到它下載完成後
就自動的解壓以及安裝
最終給我們配置一下FFMGEP
這就是簡單的一個配置
那麼之後我們來直接一鍵部署我們的FlexQAM
首先如果我們沒有配置網絡
要在這裏勾選使用國內鏡像
這樣的話我們就不需要進行網絡加速了
之後我們選擇一下Touch的版本
以及CUDA的版本
這裏根據我們的顯卡來定
如果是腳心我們就默認這兩個版本就可以
之後我們來點擊一鍵部署
依次的來安裝我們Flex所需要的組件
因爲我現在已經安裝過了
所以說它會詢問我是否需要繼續安裝
我們可以嘗試一下讓它重新安裝一下
一共是38步
它會配置很多不同的東西
因爲我安裝過
所以它很快
OK那麼這樣的話
我們就過了一遍這個流程
這裏這個小夥伴還貼心的告訴我們
要下一下模型對吧
因爲我們這個項目安裝完以後
可以看到文件夾裏
就多了一個Flex GYM的文件夾
這就是我們部署的項目
直接啓動就可以了
當然在訓練之前
我們是不是就要放進來一些模型
在Flex GYM這個文件夾下
找到MODOS一樣的
我們要把CLIP UNIT
以及VAE都放到對應的文件夾
這裏我們就可以通過小夥伴提供的來進行下載
當然如果我們本地有的話
就可以把模型全部拷貝過來了
我們直接來點擊下載
這樣的話就跳到小夥伴的
他在部署的一個網站了
這網站可以看到下面它提供了下載地址
同時也貼心的提供了一個網盤
我們也可以通過網盤下載
當然我跟大家分享的網盤地址也有
放到對應的位置
我們就可以直接在這個地方來啓動
我們訓練的項目了
可以看到這邊直接提供給我們一個IP地址
我們直接來複制一下
打開一個我們新的瀏覽器粘貼進來
這樣的話我們訓練項目就正式的打開了
我們就可以正常的使用了
因爲我這裏本地是沒有安裝模型的
只是跟大家示範一下
小夥伴的部署器到底應該怎麼使用
相同的方式我們可以部署這裏列出來的
各式各樣的AI項目
這就是算是我想提供給大家的一個粉絲福利
就是我們羣裏的小夥伴開發的這麼一個
很好用的AI部署器
特別適合新手
你不知道怎麼安裝
這裏提供了很多不同的AI應用程序的安裝方式
這只是第一點
本地如何去安裝 Flex GYM
接下來我們說第二點
訓練項目應該怎麼使用
這一步因爲我們要涉及到訓練
這裏我們還是以端腦雲平臺爲例
因爲我們端腦雲平臺也推出了
這樣一個訓練項目了
特別適合新人
我們可以直接點擊這個應用來開啓一個應用
對於訓練來說
我們肯定性能越高越好
這裏我們選擇4090來立即使用
就可以開啓這樣一個鏡像
之後我們來重新開機
應用啓動以後
我們直接點擊訓練器
打開它的web頁面
這和我們剛纔本地打開的是一模一樣的
其實它的使用方法就很簡單了
我們在這邊來命名一個自己
Laura的名字名稱對吧
比如說我叫oyccgirl01
比如說我們訓練一個女性角色
那麼第二個就是我們的出發詞
也就是我們Laura的一個收斂詞對吧
這裏我們要給它一個比較獨特的收斂詞
我們就給它一個還是相同類似的
我們叫oycc
這裏我們給一個名稱
比如說叫它一個小倩
對吧
這就是我們的一個收斂詞
下面我們選一下我們的配置
我們的顯存到底有多大
應該如何優化
因爲是服務器
我們選20G也沒有什麼問題
再下面我們的圖像的批次
也就是單張圖像訓練幾次
以及下面的輪數
這樣加起來
我們會得到一個訓練的總步數
這個步數現在是零
因爲我們沒有圖片
當我們上傳了圖片以後
它就會計算出來我們的總步數
所以這個時候我們來上傳一組圖片
這裏我有一組隨便的一個人物圖像
一個圖像集
我整理了一共21張的樣子
我們可以直接把它拖拽到
我們這邊的圖片上傳窗口裏面來
然後下面我們會看到
我們的圖像列表對吧
數據集的列表
之後我們進行打標
就直接用florence2
這樣一個項目進行打標
直接點擊一下
它就開始運行了
其實很快的
就是提詞反推
簡單的一個florence2
是集成到訓練項目裏面的
所以它是一個高效快捷的訓練項目
但是提示詞
我們之前訓練LOL的時候講過
要對提示詞進行一個
細節方面的修整
比如說我們的收斂詞
要包含哪些細節的提示詞
比如說對於這個人物來說
他頭髮可能是他特徵
我們需要把他黑色的頭髮
這一部分給它去掉
如果不在意的話
我們只是在意他的面部
因爲我們下頭
可能還有一個短髮的照片
對吧
有些短髮或者盤發等等的髮型
如果不在意的話
我們可以使用原始的提示詞
其實最好就是把人物特徵
全部取消掉
比如說眼睛的顏色
比如說嘴的顏色
這裏應該沒有
因爲我們是寫實照
如果你要是特殊的一個動漫角色
眼睛和頭髮有固定的顏色
我們是需要把這個去掉的
這裏演示
我們就不去詳細調提示詞了
如果還不知道提示詞應該怎麼設置
可以看我之前兩期
關於LOL訓練的提示詞的書寫
其實原理都一樣
唯一不同的就是
對於我們flex訓練
或者是SD3的訓練
它應用的這個clip是T5clip
所以說我們最好不要用這個Tag
而要用自然語言
這樣的話它理解的更透徹
因爲它的這個clip
不是已經升級了嗎
對吧
已經是T5clip了
那麼現在當我們生成了提示詞以後
可以看到我們這邊上傳的是21張照片
我們看一下
這裏統計錯誤了
我這裏不是21張照片
而是18張照片
沒有細數
當中那些文件命名
可能我刪了一些
擴一下看一下
這邊是18個照片
18個項目
所以應該是180乘以16
我們來算一下
180乘以16
完成步數是2880
對吧
就是我們這邊的計算出來的總步數
這就是我們的批次
以及單張圖片的訓練次數
這個次數我們默認就行
因爲這提供的參數都是最優參數
我們要訓練簡單的一個概念的最優參數
如果你要想訓練一個複雜的概念
可能我們可能需要步數再多一點
之前訓練的時候跟大家說
可能四五千步
甚至五六千步都可以
多一些我們有更多的參數可以挑選
對吧
下面我們就可以設置一下分辨率
因爲這個數據集的
我都裁減成了768的
所以我們分辨率儘可能給的多一些
按理說Flex數據集
我們要更好的質量的話
要給到1024
這樣的話整體訓練出來的細膩度
它纔會更好
基本上這些就完事了
我們直接點擊最後一步
開始訓練就沒有問題了
現在它就進行圖像的加載
以及最終的步數統計
就正式開始訓練了
先讓它訓練
我們值得說
最終就是有一個高級選項了
在這裏可以看到Advanced的一個高級
這個高級裏面所涉及到的所有的內容
其實和我們之前的所有的腳本
涉及到的東西都是一模一樣的
比如說最重要的學習率
默認是81-4
還有下面我們給到的輪次
多少輪來保存一輪模型
我們現在是四輪來保存一個模型
如果對這邊的高級設置
大家需要更精細的設置
就是說你曾經用過訓練腳本
來設置這些高級參數
其實這裏是一樣的
大家根據之前的設置經驗
在這裏進行設置就可以
如果沒有訓練經驗的話
不知道參數代表什麼
可以直接忽略
直接訓練的一個概念
或者是一個物件
或者是一個角色
也沒有太大的問題
真的沒有太大問題
如果你想特別精細的修整的話
還不瞭解
我們可以去看一些更多的
關於使用腳本的牢牢訓練
這些參數都意味着什麼
都代表着什麼
這個訓練教程也有很多朋友做過了
大家瞭解一下
同等的在這裏進行一個設置
也是一樣的
就沒有任何問題
現在我們來看一下
它目前的一個訓練狀況
可以看到統計出來的是
3060步
3到5個小時
我們把這個服務器放在這裏
等訓練完成以後
我們再回來
OK
那麼經過了將近三個小時的訓練
我們已經把這個模型訓練完成了
現在我們直接就回到
我們這邊端腦雲的文件管理
output這個文件夾下
可以找到我們剛纔創建的名稱
對吧
這裏面有我們所需要的模型
因爲我們保存的步數
最後一輪它沒有輸出
所以說我們最多的就是16輪
接下來我們把這4個模型
下載到我們的本地傳一下
在這裏我下載了一個文件夾
並解壓出來
就這4個模型了
然後我們上傳到我們的服務器
這邊我是後面打開了一個
Windows Team上傳的
然後來到服務器這邊
我們測試一下
這裏我們加載一個Flex的工作流
調用我剛纔上傳的這麼一個模型
我們可以看一下最後這一輪
就16輪的效果
然後全是0.9
我們複製一下這邊的反推提示詞
這個坐在凳子上
刪除一些沒必要的描述詞
白色的衣服什麼的都給它刪掉
粉色的袋子什麼的也都給它刪掉
就是這麼一個簡單的提示詞
我們看一下效果
OK可以看到我們的強度給到0.9的話
人物的還原還是可以的
對不對
接下來我們就要說到
對於LoRa模型的測試了
我們可以簡單的做一個XYZ圖
那麼做XYZ圖的方法有很多
大家可能通過不同的節點
或者是套裝
對吧
各種各樣ezuse或者是效率節點
都可以出XYZ圖
但這裏因爲上一次說
Full循環的時候
有些朋友還是不瞭解
String是怎麼循環的
我們就來說一下
如何使用原始的Full循環
我們手動的來構建一個
測試LoRa模型的XYZ圖
那麼現在我們直接來添加一個
Full循環的開始和結束
流這邊我們串出來來接一個結束
把結束給到上面這個流
同時這一期我們再講一下
Full循環的一個嵌套
就兩個Full循環
我們要測試兩個
對吧
一個是Flex4個模型
我們訓練了4個模型
對不對
每個步數不一樣
第4輪第8輪和第12輪
所以說需要便利4個模型的效果
同時對每個模型的強度
來進行不同的測試
對不對
這個時候我們先來便利
這個模型的名稱
也就是我們所謂的便利String
我們需要先把這個名稱複製一下
這裏我們可以把文件名
起的簡單一點
這樣的話輸入就方便一點
如果比較複雜
像我這樣我簡單用一下識別工具
我們來識別一下這個名稱
這樣的話也可以順利正確識別的
對不對
我們複製一下
然後這邊我們就把它給提升了
同時這邊我們要創建一個
Text文本輸入列表
找到WAS字符串的一個文本字符串
可以看到有4個輸出
正好是夠我們4個loa進行測試的
如果不夠的話
我們可以再繼續添加兩個
三個或者4個
都可以這樣疊加
對不對
我們目前就用一個
然後把這個文本放進來
就是我們loa的名稱
對吧
全名
這第一個
我們可以改一下
比如說最低的是4輪
之後是08
依次類推012
以及最後的016
這樣的話
我們就把4個loa的文本輸進來了
對吧
我們有4個不同的輸出
之後我們來找一個index
也就是我們這個edios節點當中
有一個文本的切換
編號切換
可以看到這裏有個編號
在這個地方
我們就可以把值全部傳輸過來
相當於我們的一個選擇節點
下面有一個選擇編號
這個編號也就是從0一直對應到3
對不對
我們就可以把什麼串過來
把它提升爲變量
把我們的索引
正好我們第一輪
它就使用第一個字符串
第二輪就使用第二個
對不對
之後我們索引是對應的
之後把我們這個值
傳給到我們這邊的loa
那自然而然
它就達到了一個切換的效果
那當然了
有一個值以後
我們還需要第二個值進行什麼
進行一個圖像的輸出
一樣我們這邊有一個watchanim
這樣一個拼合節點
把我們圖像拼合到工作流
image
那這樣的話我們拼合過來
對吧
那這就是一個完整的輸出
來的預覽圖像
OK
那麼這第一步便利我們loa的名稱
這是一個第一個循環
那之後我們在裏面再套一個循環
嵌套一個循環的話
我們可以再加一個for循環的開始和結束
那麼這個結束
我們要循環的就是我們這個強度
對吧
那強度的話自然不用多說
我們這邊給到一個float
一個浮點數
浮點數我們可以給0.1
或者是我們高一點給到0.2
我們不要讓它便利特別的多
因爲0的話沒用
對吧
沒有意義
那強度我們從0.4開始
那這樣我們可以把這個初始值1
進行一個簡單的運算
我們來個map
同時我們這個值每一輪加多少
加0.2這樣的強度
所以說第一輪我們的初始值是0.2
過來以後
它再加0.2就是0.4
對吧
我們把loa加載器這邊強度也給它提升一下
同時把我們這邊的浮點數
傳給我們的模型強度以及clip強度
那最後一樣
這邊我們的圖像一樣是要給過來
這個浮點數我們還是給到1
那麼2的話我們就是圖像
圖像這邊我們一樣是fudgeanim
然後把我們的value2傳過來
同時把我們最終圖像拼合過來
然後再給到我們這邊的value2
這個value2就是我們的強度
最終我們來進行一個預覽
然後最後一次閉合
那也就是根據我們上一層的循環
還要有個閉合
還是要把這個圖像的列表
這個列表最終傳到給我們上面
上一層的Full循環
這樣的話我們會先選擇上面的大循環
選擇一個loa進來
進來以後又會便利loa的不同強度
然後最終形成一個loa
不同強度的一個p1次傳上來
之後再給到第二個loa的string
傳過來再進行不同強度的循環
再傳上來
那麼這就是一個Full循環的嵌套
以及string的切換
OK
如果這邊我們還需要更多的string
想便利更多的loa
或者是提示詞也是這樣的
我們也可以繼續複製
往上傳
一直拼到編號切換裏面
那麼這就是我們整體的一個邏輯
所以說現在我們來便利
4次不同的loa模型
以及每個模型的4種不同的強度
分別是從0.4到1
4個強度
現在我們就使用這樣一個提示詞
便利一下
看看我們4個模型的強度到底如何
這個過程可能需要有點久
我們現在來直接運行一下
OK
那麼這樣最終就便利出來
我們4個loa的4種不同強度的效果了
我們可以把預覽再擴大一點點
因爲每張圖的分辨率還是很大的
對不對
給到我們一個更全的視圖
更宏觀的一個視圖
這樣的話第一行就是第4輪的loa
強度最後是1的強度
也不是特別的像
第8輪其實就好一些了
相似度會有一些0.9
最後一輪我們可以看到
這個效果還是慢慢遞增的
這就是我們如何通過復循環
來便利我們的loa模型
看一看它的訓練效果
但是其實還是有一些細節要說的
比如說剛纔這個地方我說錯了
因爲我們當時這個stream
沒有傳給數值
而是直接給它索引
用索引來調用不同的stream傳過來的
所以說當時我是給到的2
是image的batch對吧
其實不用
直接是1imagebatch拼過來就可以
那麼第二個方面就是我們的採樣
flex我們之前也說過
它在25步到26步之間
是有一個怎麼說有個質的變化
所以說如果我們要預覽的效果更好一點
渲染的更完整一點
最後給到25六步
那麼第三個方面
就是在我們在訓練的時候我們回來
在我們訓練這個地方
因爲我們是默認值
其實對於普通一鍵訓練是完全夠的
但是如果我們想更精細一點
這個地方除了學習率
我們還可以去調一下它的深度
也就是dim這樣一個默認值
這個其實是它的一個降解
一個模型的降解分置
就是說越高它的神經元
就是模型的神經元越多
但是也不一定說越多越好
如果越低它的神經元越少
它重組的次數就越多
所以說我們可以適當的
把它的dim加一加
深度加一加
通常我們加到8或者是16就夠了
這樣的話它也會影響模型的大小
可以看到我們訓練出來的模型
只有30多兆
對吧
我們的神經元比較少
也就是它的質比較低
我們通常會給到16或者是到8
這樣的話訓練出來的模型
應該是在100多兆
也就是通常我們經常看到
LOL的體量
所以我們可以調一下這個方面
OK
那麼這就是我們這一期
如何在本地部署flex GYM的訓練項目
以及如何進行簡單快速的
flex模型訓練
最後也說了一下
我們如何在卡夫UI中
利用我們for循環
來隨意的搭建
我們想循環電力的參數
最後我也會把簡單的循環工作流
放到視頻簡介下方
大家需要的話也可以自取
基本上就是這些內容
那麼因爲在評論區
最近有不少小夥伴說
如何通過訓練flex模型
來達到我們角色的一致性
這也是一直以來的問題
但對於flex LORA模型來說
它能很好的解決這一點
同時它對語言的理解
也很
就是說已經很精確了
我們可以給到它更豐富的語言
對於我們的flex角色還原更好
保持一致性也就自然就更好了
我們下期就來說一下
卡夫UI中如何定製角色
以及定製角色的訓練素材
以及訓練集
同時通過我們訓練框架
不管是本地也好
雲端也好
來一鍵訓練我們的角色模型
以及配合多個角色模型
來實現這種角色的重組
或者是構圖的實現
本期內容就到這裏
如果對大家還有所幫助的話
就千萬不要忘了點擊
訓練按鍵來支持歐陽一下下
那麼最後如果本地配置不行的朋友
也可以在端島雲來嘗試
線上的這樣一個flex訓練項目
大家可以直接通過歐陽的下方簡介
或者是評論區置頂區的連接
來註冊端島雲平臺
同時通過連接註冊
也可以獲得5000的端島雲平臺的順利
來快捷的嘗試線上的
這樣一個flex的訓練項目
那也再次感謝端島雲
一直以來的支持和幫助
那我們本期就到這裏
我們下期再見