
AI超元域
10粉絲
19 次觀看·2024年10月14日
🔥🔥🔥视频简介:
🟢🟢🟢本期视频演示了LangFlow本地安装以及搭建简单的chatbot还有本地RAG知识库,LangFlow是一款强大的开源可视化框架,用于构建多智能体和检索增强生成(RAG)应用。
🟢主要内容包括:
1️⃣LangFlow简介:无需编码即可创建AI工作流,支持多种大语言模型和向量存储。
2️⃣LangFlow本地安装教程:详细展示如何在本地部署LangFlow。
🟢实践演示:
1️⃣使用LangFlow+ollama创建基础聊天机器人工作流
2️⃣使用LangFlow+ollama构建RAG系统,包括向量数据库的创建和查询以及使用chromaDB数据库和mistral-nemo大模型。
3️⃣API集成:演示如何将创建的工作流通过API接口集成到其他应用中。
🟢🟢🟢通过LangFlow,可以轻松创建复杂的AI工作流,包括聊天机器人、文档问答系统等。
👉👉👉视频中所用到的代码 https://blog.stoeng.site/20240804.html
👉👉👉我的开源项目 https://github.com/win4r/AISuperDomain
👉👉👉赞赏一下 https://ko-fi.com/aila
🔥🔥🔥YouTube时间戳:
0:00 介绍LangFlow可视化框架
0:39 演示最简单的chatbot工作流
1:04 LangFlow的概念和特点
2:01 本地安装LangFlow
3:39 创建基础聊天工作流
6:05 创建RAG系统工作流
10:05 测试RAG系统
11:33 通过API调用工作流
12:42 结束语
歡迎來到AI超圓域
本期視頻將爲大家講解一款非常強大的開源可視化框架
LineFlow
在LineFlow中
我們可以以工作流的形式創建我們所需要的任務
這是我用LineFlow創建了一個最簡單的Chatbot工作流
我們可以看到這裏分成三個模塊
第一個就是用戶的輸入
第二個就是我們所使用的模型
我們所使用的是歐拉瑪中的拉瑪3.11
第三個模塊就是輸出響應信息
我們只需要點擊右下角的這個Playground
然後這裏就會出現一個聊天的界面
最底部就是輸入框
我們直接輸入一個內容
然後點發送
然後這裏就會輸出響應信息
這個響應信息就是我們調用的歐拉瑪中的拉瑪3.11
它給出的回覆
而且我們還可以直接在這個工作流的輸入框
輸入我們所需要提的問題
輸入完成之後
我們直接在這個Chat output這個模塊這裏
直接點擊這個三角號來運行
我們點擊Playground
就可以看到我們剛纔提的這個問題
tell me a joke
然後這裏就是他給講的這個笑話
而且我們還可以用Liveflow創建RAC系統
從而不需要寫一行代碼
就能通過工作流的方式實現本地知識庫
這是我創建的這個知識庫
然後我這裏使用的向量數據庫是ChromaDB
我們直接點擊左側的向量存儲
就可以選擇各種類型的向量數據庫
它這裏支持非常多的向量數據庫
而且Liveflow它還支持多種智能體
我們直接點擊這個agents
這裏面就包含多種常見的AI智能體框架
其中就包含我們最常見的這個
Core AI的智能體框架
本期視頻將爲大家演示
我們如何在本地部署Liveflow
並且爲大家演示
我們如何用Liveflow創建RAC工作流
打造自己的本地知識庫
並且還會爲大家演示
我們如何通過藉口的方式
調用我們創建好的工作流
因爲只有將我們創建好的工作流
做成API的形式
才能方便給客戶去使用
先爲大家講解一下Liveflow的概念
以及Liveflow的特點和優勢
Liveflow它是一個開源的可視化框架
旨在構建多智能體和減速增強生成應用
它提供了一個無需編碼的AI生態系統
能夠無縫集成各種工具和技術站
而且以Python爲基礎
非常靈活
支持多種大VM模型和向量存儲
它具有直觀的可視化界面
用戶無需編寫大量代碼
就能構建複雜的AI工作流
這樣就可以讓懂技術和不懂技術的用戶
都能輕鬆上手
而且它具有強大的集成功能
它支持與衆多AI和數據服務進行集成
比如說OpenAI,HuggingFace,LanChain等平臺
而且支持各種安裝選項
可以在本地,Google Cloud
以及虛擬機環境中安裝
這樣可以使用戶選擇最適合的配置
並且採用組件化結構
用戶可以通過拖放各種元素
比如說模型,提示和數據源
來創建所需的工作流
而且這些組件可以定製
並以不同的方式進行連接
這樣就可以構建更加複雜的AI應用
而且支持異步處理
使用戶能夠更有效地處理長時間運行的任務
它可以實現聊天機器人,文檔問答系統
而且還可以創建具備複雜功能的AI智能體
下面爲大家講解一下我們如何在本地安裝
然後本地安裝的方式有非常多
我們可以直接安裝Lanflow的派生庫
我們直接用這條命令
然後直接在終端輸入這條命令
以派生庫的形式進行安裝
這裏我們要稍等一下
這些依賴全都安裝好了
下面我們就可以用這條命令
來運行Lanflow這個框架
運行之後它會自動在瀏覽器中
打開這個UI界面
首次打開之後我們需要先設置API Key
我們直接點擊
然後在右上角出現這個API Key的按鈕
我直接點擊
然後這裏會出現這個API Key的輸入框
下面我們直接點擊這個筆記中的鏈接
打開這個網址去生成我們的API Key
直接點擊這個Generate New
來創建一個新的API Key
創建好API Key之後
我們直接輸入
然後點擊保存
好,這個API Key創建好之後
我們就可以來下載和使用
Lanflow商店裏的這些工作流了
我們只需要點擊對應工作流的這個加號
就可以來安裝這個工作流
下面爲大家講解一下
我們如何來創建自己的這個工作流
我們直接點擊上方的MyCollection
再點擊右上角的New Project
這裏會出現多種模板供我們去選擇
第一個就是空的工作流
第二個就是基礎的聊天工作流
第三個是具有記憶功能的聊天工作流
這一個就是文檔問答系統
這一個就是博客寫作的工作流
這個就是知識向量數據庫的REG系統
下面這三個就是AI智能體的工作流
這裏我先點這個空的工作流
然後爲大家演示一下
我們如何快速搭建一個聊天機器人
點擊之後它就到了這個工作空間
我們可以看到左側有非常多的這些組件可以去選擇
我們想搭建一個具有基礎功能的聊天機器人非常簡單
首先這個聊天機器人它會像ChatGPT一樣
具有這個輸入的功能
輸入之後的內容會發送給模型
經過模型處理再輸出這些處理後的這些響應
這樣的話我們要搭建一個具有基礎聊天功能的工作流的話
首先我們需要點擊這個inputs的這個組件
然後將ChatGPT的組件拖到這個工作空間
拖到這裏之後我們可以看到這裏有這個text的這個輸入框
有了用戶輸入的這個組件
然後下面我們就需要將用戶輸入的內容發送給這個模型進行處理
下一步我們就要選擇一個模型
然後我們直接點擊這個models這裏
可以看到這裏支持非常多的模型
包括這些在線的模型
以及這些本地的模型
我們直接拖動這個歐拉碼拖到這個工作空間
我們可以看到這裏有這個模型的名稱
我們需要選一個我們已經在歐拉碼中安裝的模型
我這裏直接選一個Metro的模型
這個模型選好之後
我們可以看到這裏有這個input也就是輸入
這裏輸入的內容我們需要用我們剛纔拖動的這個用戶輸入的這個組件來進行輸入
可以看到ChatGPT這裏有這個message
message這裏有這個藍色的圓圈
我們需要用鼠標來拖動這個圓圈
然後這裏會拖出一條線來
我們將這個虛線與這個input這裏相連接
這樣的話就將用戶的輸入與這個模型進行了連接
也就是用戶輸入的信息會發送到這個模型的這個input這裏
這樣就實現了用戶輸入
然後發送給模型進行處理
模型處理後的內容需要輸出
所以我們需要再加一個用於顯示輸出的這個組件
我們還是看左側的這些組件
然後點擊output
可以看到這裏有這個ChatOutput
我們用鼠標拖動
拖放到這個工作空間
我們需要將這個處理後的輸出的內容
與這個ChatOutput的這個text進行連接
這樣的話這個工作流就組件完成了
我們在這個ChatInput的組件裏輸入了一個hide
然後我們就可以來運行整個工作流
我們直接在這個ChatOutput點這個三角號來執行
這裏是歐拉瑪正在處理
這裏有這個進度的圓圈
這個模型處理完用戶輸入的信息之後
就出現一個綠色的對號
然後我們直接點擊右下角的playground
然後這裏就會彈出這個對話的窗口
這裏就顯示我們剛纔輸入的這個hide
下面就是歐拉瑪中模型給出的這個響應
而且我們還可以直接在這個聊天窗口中進行對話
我們直接讓他講個笑話
然後這裏他就立即給講了一個笑話
這樣的話我們就搭建了一個最基礎的聊天工作流
我們如果想實現複雜的RAG系統
這個難度也不大
我們還是點擊最上方的mycollection
然後再點擊右上角的這個newproject
然後我們直接選擇這個向量存儲的RAG工作流
我們直接點擊
點擊之後就可以看到這裏出現了兩個工作流
最下方是一個簡單的工作流
然後上方是一個比較複雜的工作流
我們放大看一下最下面的這個工作流
這個工作流是我們創建這個向量數據庫的工作流
可以看到這裏他使用了openai的嵌入模型
我們這裏不使用openai的
爲大家演示我們如何使用本地的
而且他這裏使用的向量數據庫是AstroDB
然後這裏我們也會給它改掉
好想修改這個嵌入模型這裏也非常簡單
我們直接選用這個
然後點擊鍵盤上的刪除按鈕
然後我們直接在左側點擊這個unbindings
然後往下拉找到歐拉瑪的嵌入模型
我們直接將這個歐拉瑪拖到這個工作空間
然後下面我們需要選擇一個嵌入模型
我們直接在終端用歐拉瑪list
來查看一下我們的嵌入模型的名稱
我在歐拉瑪中安裝的嵌入模型是numic的嵌入模型
然後將這個模型的名稱粘貼在這個位置
下面我們需要刪除這個自帶的數據庫
然後我們點擊左側的向量存儲
選這個chroma db直接拖放在工作空間
這裏有這個存儲路徑
隨便給它輸入一個名稱即可
下面我們需要將這些工作流進行連接
我們用鼠標拖動這個紅色的原點
與這個chroma db的這個紅色進行連接
再拖動歐拉瑪的這個unbinding的這個綠色的原點
與chroma db的unbinding進行連接
這個構建向量數據庫的工作流就已經創建好了
下面我們需要在這個file組件這裏
選擇一個我們需要做成向量數據庫的文件
我們直接點擊這裏
然後選擇一個我們需要做成向量數據庫的文件
我這裏直接選擇這個用於chattypt提示詞的一個文件
做成向量數據庫
選擇好之後我們在chroma db這裏
點擊這個三角號來運行整個工作流
讓它來創建向量數據庫
好 這裏出現這個對好
說明這個向量數據庫已經創建完成
然後我們再回到上面這個工作流
最上面的這個工作流就是針對這個向量數據庫
進行查詢和回答的
先將他默認的這個嵌入模型給它去掉
然後我們回到第二個工作流
我們直接複製這個歐拉瑪的嵌入模型
然後再回到這個位置直接粘貼
這樣的話我們就將歐拉瑪的這個嵌入模型
已經粘貼在這個位置了
然後我們再刪除他默認的這個數據庫
我們再回到第二個工作流
將我們剛纔創建的這個chroma db的數據庫進行復制
然後再粘貼在這個位置
這樣的話我們就可以進行連接了
我們先將歐拉瑪的這個安排
與這個chroma db的安排進行連接
再將message這裏與這個search query進行連接
再將這個search result與這個pathdata進行連接
右側這裏這個語言模型是openai的
我們還是換成我們的歐拉瑪
我們直接給它刪掉
在左側的模型這裏我們選擇歐拉瑪
將歐拉瑪拖動到工作空間
然後就非常簡單了我們進行連線
將這個提示信息這裏
然後與這個輸入的藍色點進行連接
然後將下面這個text這裏
與這個輸出的這個text進行連接
這樣的話這個用於向量查詢的工作流
我們也構建成功
然後我們點擊右下角的playground
就可以在這個聊天窗口
來對我們做成向量數據庫的這個文件進行檢索
我們打開這個文件看一下
我們直接問這個第7章關於這個提示詞的
我在輸入框輸入
請爲我展示幾個關於這個提示詞的例子
然後直接點發送
看一下它能否檢索正確
這裏報錯
這也說明我們剛纔忘記選擇這個語言模型了
我們直接再回到這個工作流
然後在歐拉瑪這裏我們選擇一個模型
我這裏還是選擇mystro吧
選擇好之後我們再點playground
我們再發送這個提問
直接它檢索出來的這些內容
這裏我們就不再具體去看了
這樣的話我們就通過構建工作流
來輕鬆實現了檢索增強生成的系統
而且全程不需要我們寫一行代碼
我們只需要拓動這些組件
然後修改一下這些模型和參數
並且對這些組件進行連接
就輕鬆實現了一個功能非常強大的
檢索增強生成的工作流
而且我們還可以通過接口來調用這些工作流
這樣的話我們就會將我們創建好的這些知識庫
或者聊天機器人通過接口的方式集成到其他應用中
我們就以剛纔我們創建的這個
簡單的聊天機器人的工作流作爲演示
然後實現一個API接口
這個工作流的右下方有這個API的這個選項
我們直接點擊
點擊之後這裏就會出現這個API的這個命令
我們可以測試一下第一個用curl調用接口的命令
我們直接在中段輸入這個命令
然後按回車
這裏就給出了顯示信息
這說明這個接口調用成功
而且這裏還給出了調用接口的passing代碼
這樣的話我們就可以將我們創建的這個接口
集成到其他應用中
本期視頻所用到的指令和代碼
我都會放在視頻的下方
好本期視頻就做到這裏
歡迎大家點贊關注和轉發
謝謝大家觀看
