誰是最人氣的LLM微調工具?

TechDL
11粉絲
本視頻介紹一下大模型微調相關的工具。一起來看看誰是最人氣的大模型微調工具。
#LLM微調 #llamafactory
#peft
#unsloth
#huggingface
#MoE
#視覺模型
#swift
#魔搭
AI開發前途無限
歡迎來到AI開發者的頻道
這期視頻
我們介紹一下大模型微調相關的工具
希望可以爲學習大模型微調的小夥伴
提供一些參考
11月份呢
我們的共學題目是大模型微調
關於此次共學活動
可以參考本頻道b站的動態
或者是交流羣的羣公告
這次共學呢推薦了兩個任務
一個呢是最基本的模型微調任務
做完這個任務呢
可以對大模型微調的任務呢
有一個初步的瞭解
那第二個任務呢是訓練一個moe
或者呢
是爲大模型接入視覺或者語音功能
這個任務呢
需要對大模型
有一個比較深入的瞭解
也需要小夥伴們
熟練掌握大模型的訓練技巧
是一個呢比較有難度的任務
小夥伴們呢
可以根據自己的情況
選擇一個任務來挑戰一下
關於大模型的微調呢
有很多文章
也有很多的視頻都做過介紹
但是學習技術
看多少文章和視頻都不如親手
去動手試一下
這個共學活動發佈之後呢
有小夥伴問
大模型微調該使用什麼樣的工具
有沒有什麼推薦的學習文檔呢
針對這個問題
這幾天呢
我就整理了一下
大模型微調相關的開發庫
下面呢爲小夥伴們介紹一下
關於大模型的微調工具
不搜不知道
一搜是嚇一跳
我一下蒐集了十幾款工具
那這麼多的工具該選擇哪一個呢
我們繼續
還是要用數據來說話
所以我整理了一下這些開發庫
在Github上的各種數據
並將好評數量
提問提交等次數呢進行了相加
作爲這個開發庫的呢人氣指數
這是第一次收集
等下週再收集數據呢
我們就可以看出
他最近一週的人氣指數
這樣就可以方便我們瞭解
這些工具最新的開發和使用情況
根據我這次蒐集的情況呢
我們可以看到總的人氣指數呢
第一名呢是lllama factory
第二名呢是Peft
第三名呢是unsloth
如果根據獲得好評的次數
來排名的話呢
也是這三個
只是第二名和第三名的名次呢
有一個變化
其中好評次數過萬的呢一共有四個
分別呢是llamafactory sloth peft litGPT
總的人氣指數過萬的呢
一共有7個工具
下面呢我們來看一下前三名的工具
首先呢看一下這個llama factory
關於這個工具呢
在我們這期視頻中呢
曾經有過簡單的介紹
感興趣的話呢
可以去看一下我們這個視頻
那作爲排名第一的工具
這個工具可以說是功能非常的強大
不僅支持最新的模型
還支持很多的優化算法訓練方法
另外呢它還提供的有操作的界面
非常的適合新手入門使用
第二名呢就是這個Peft
這是Huggingface開發的
一個參數高效微調用的開發庫
llamafactory等很多工具呢
也都會用到這個開發庫
剛開始入門呢使用llamafactory等工具呢
它比較容易上手
那如果要進一步的詳細瞭解
或者做一些定製的話呢
就需要去代碼層面去看
這個時候呢你就
需要學習Peft之類的開發庫了
在大模型這個方向上呢
Huggingface不僅提供的有模型下載
數據下載
還提供的有多種的開發庫
也實現了呢很多最新的方法
所以呢學習大模型的話呢
Huggingface的內容呢
是最推薦大家去研究和學習的
這下面呢
我也列出了一些
Huggingface關於大模型相關的教程
小夥伴們可以在學習室參考
第三個呢是unsloth開發庫
這個開發庫呢
它提供了很多的
這個基於谷歌colab的教程
對於
可以使用谷歌colab的小夥伴來說呢
使用這些教程呢
非常的方便大家來學習
這個開發庫呢
他提供的有免費版和付費版
免費版呢只支持單GPU的模型訓練
要支持多GPU訓練呢
就需要他們的收費版
使用多GPU多節點進行訓練
就需要付費
這一點呢
我不知道
他這是一個什麼樣的設計邏輯
因爲多GPU多節點的訓練呢
通過使用deepspeed的等工具
可以非常方便的來實現它
那麼它這個付費版
到底提供了什麼樣的附加值呢
如果有熟悉這個工具的小夥伴呢
歡迎在視頻下面留言分享你的看法
除了前三名的這個工具呢
這裏再介紹一下這個Swift
這個開挖庫呢
它是魔達社區提供的
這裏之所以推薦它呢
是因爲
它這個教程和這個文檔呢
做的非常的好
它提供了一系列的
模型微調的最佳實踐
不僅包括大語言模型
還包括QwenAudio以及多款視覺
模型的微調方法
非常適合呢大家學習時來參考
在學習微調時
應該參考什麼樣的資料呢
首先推薦大家呢
去參考你所使用的開發庫的使用手冊
比如lllamafactory Swift提供的相關文檔
再進一步的話呢
推薦大家去學習
Huggingface提供的相關教程
這裏呢
我列出了一些供大家參考使用
以上呢
就是模型微調相關工具的介紹
歡迎在留言區
寫下你喜歡或者推薦使用的開發庫
並分享你自己的看法
以上就是今天的分享
感謝收看
我們下期視頻再見
