【👨🏻‍💻無代碼創建AI應用】可視化AI應用開發平台：Defy.ai | 支持雲服務&Docker本地部署 | 可接入專有大模型或自託管大模型 | 支持RAG | Workflow模板創建AI應用示例

歡迎來到苔科技MiniMoss 如今 我們身處在一個AI大模型爆發的時代 我們能如數家珍地說出 各種大模型的名字 Llama3、Claude、Gemini groq等等等等等等 但很多時候我們並沒有物盡其用 只是把大模型當做搜索引擎 或者翻譯工具 大模型能做的遠不止這些 要使用大模型處理特定需求 就需要開發專門的應用 但大多數人並不具備編寫代碼的能力 Dify的出現成功解決了上述痛點 Dify是一個旨在通過無代碼 創建AI應用的開發平臺 通過可視化界面和豐富的內置組件 搭建應用 將AI技術應用於特定的需求 無需大量編碼 即可快速實現AI應用程序的創建 部署和管理 Dify提供了一張強大的視覺畫布 並內置豐富的節點組件 通過節點組件的組合 用戶就可以根據業務邏輯 構建複雜的AI工作流 無需編寫代碼 Dify無縫集成的 數百個來自推理提供商的專有大模型 以及Ollama 等自託管解決方案的開源大模型 涵蓋GPT Mistral Llama3及兼容OpenAI API的大模型 Dify支持檢索增強生成RAG 涵蓋從文檔攝取到檢索所有流程 支持PDF PPT等常見文檔格式 Dify提供超過50種預構建的AI智能助手 應用模板 用戶也可以從零構建 一個專屬於你自己的智能助手 幫助你完成財務報表分析 撰寫報告、LOGO設計、旅程規劃等任務 Dify平臺提供 雲服務和本地部署兩種方案 雲服務用戶 可以獲得200次免費調用GPT4的試用資格 超出之後 需要每月花費59美元訂閱 纔可以繼續使用 並不便宜 好在Dify是開源的 可以通過Docker部署在本地免費使用 按照Dify的官方文檔 本地運行Dify 需要滿足一定的系統和硬件要求 以蘋果電腦爲例 要求Mac OS系統版本在10.14以上 雙核CPU內存大於8GB Linux系統和Windows系統的要求 請參照官方文檔 文檔地址我會放在視頻文字介紹中 接下來我們按照文檔的步驟 將Dify部署到本地 首先在命令行工具中運行命令 將Dify原代碼克隆到本地 下一步在啓動Dify之前 需要先檢查安裝的Docker版本 在命令行工具中運行docker compose version 如果系統安裝了Docker compose V2而不是V1 請使用docker compose而不是Docker -compose 可以看到我運行的是V2版本 導航到Dify原代碼中的Docker目錄 並執行以下命令以啓動Dify 報錯是因爲沒有在後臺啓動Docker 我將Docker啓動後 再次運行啓動命令 等待Docker將Difyle安裝在本地 安裝完成後 運行docker compose ps檢查是否安裝成功 可以看到系統提示已經安裝成功 如果需要升級Dify 可以運行以下命令 最後在瀏覽器中訪問 http://localhost/install 就可以使用本地部署的Dify了 在本地使用Dify前 需要輸入郵箱 用戶名及密碼先註冊 密碼要求字母和數字組合大於8位 註冊完成後 用已註冊的郵箱和密碼登錄 登陸後首先進入Dify的studio工作室界面 通過該界面 我們可以可視化創建聊天機器人（chatbot） 智能助手（Agent） 以及工作流（Workflow）三種類型的AI應用 由於Dify是部署在本地 我們需要首先配置大模型 才能創建基於大模型的AI應用 點擊右上角頭像 選擇Setting -> Model Provider 可以看到 Dify支持目前主流推理提供商的專有大模型 我們還可以使用Ollama 部署自託管大模型 如何使用Ollama部署自託管大模型 請點擊視頻右上角的標籤 查看之前關於Ollama的使用教程 今天我將使用groqcloud的API 調用groq的雲端大模型進行演示 groq是一家專注於人工智能 推理加速的公司 他們開發了一種名爲LPU 的全新推理引擎 LPU在大型語言模型 和生成式人工智能推理任務上 比GPU和CPU快數個數量級 目前groq在其雲服務上部署了Gema-7B Llama2-70B Llama3-8B、70B 以及Mistral 支持在線運行API調用 最重要的是 完全免費 如何申請groqcloud的免費API 這裏不做贅述 請單擊視頻右上角標籤 查看之前的視頻 複製groqcloud的API key 回到Dify配置頁面 將API key粘貼在groqcloud配置中 配置完成後 可以查看groqcloud提供的四個大模型 已經配置在Dify中 最後 我們將系統默認模型設置爲 Llama3-70B 設置完成後 接下來我將演示如何使用 Dify + Llama3大模型 通過工作流創建一個AI應用 Dify創建AI應用的所有操作 都是在studio工作室頁面進行 我們可以根據需求自定義創建應用 Dify還內置了豐富的應用模板 我們選擇與需求相對應的模板 快速創建AI應用 並對創建好的應用模塊進行調整 以精準適應需求 以workflow模板中的郵件助手 Email assistant爲例 點擊郵件助手模板 並將該應用命名爲MiniMoss Email Assistant 點擊創建 可以在畫板中看到 通過模板預設的各種節點串聯在一起 組成了整個AI應用的功能 在畫布空白處右鍵單擊 選擇創建節點 即可加入各種類型的節點 還可以加入Dify支持的內置工具 例如谷歌維基搜索等等 要使用這些內置工具 需要取得授權API key 流程中必須包含start節點和end節點 用於輸入和最終結果的輸出 點擊運行 可以看到start節點呈現的效果 start節點包含了三個輸入字段 分別爲input)_text字段，用於輸入郵件內容 user_request字段 用於輸入基本需求 例如總結、回覆、編寫郵件 以及改進郵件內容 how_polish字段 用於輸入精細化需求 例如壓縮字數、精簡郵件內容 以作者口吻重寫等等 雙擊某個組件 可以對其進行編輯 選擇頂部的字段類型可以將 組件切換爲輸入框、下拉選擇等形式 打開底部的可選開關 可以將該組件切換爲必選項 畫布中有兩個問題分類器節點 分別對應start節點中的user_request字段 和how_polish字段 問題分類器節點的功能是 將start節點中傳入的內容 整理成提示詞 提交給AI大模型進行分類 傳給後續節點進行處理 這裏Dify默認設置的大模型爲GPT3.5 我們點擊它 將模型改爲我們之前配置好的 groqcloud的Llama3-70B max-token設置大一些改爲4096 LLM節點 接收問題分類器節點傳來的信息 利用AI大模型對信息進行處理後 輸出反饋 以summary節點爲例 system輸入框中預設好的提示詞 總結郵件內容 郵件內容爲start節點中的input_text字段 下一步LLM節點將大模型生成的內容 傳遞給 template節點 模型也同上一步一樣改爲Lama3-70B max-token設置爲4096 Template節點 接收到LLM節點大模型生成的內容後 通過Jinja引擎 將文字轉換爲html格式的文案 傳遞給end節點 end節點 收到template節點傳遞來的html文本後 輸出給用戶 運行應用前 記得將所有節點中的默認GPT3.5模型 更改爲之前配置過的Llama3-70B max-token設置爲4096 所有配置完成後 我們任意搜索一篇電子郵件文本 並複製其內容 在Dify中點擊運行 將郵件內容粘貼在Email輸入框 基本需求選擇回覆郵件reply 精細化需求選擇改進寫作 讓內容表達更清晰 improve writing and clarity 點擊start run，可以看到畫布中 信息沿着對應的節點流動 等待一段時間 我們可以看到經過大模型處理後 重寫的郵件內容 以上就是使用Dify + groqcloud的 Llama3-70B大模型 開發的一個AI應用示例 沒有編寫一行代碼 如果喜歡我的節目 請點贊、訂閱我的頻道 下期節目見