RAG共學二:RAG中如何進行查詢轉換?

TechDL
11粉絲
2024年5月10日
本期視頻為您介紹 RAG-LangChain 官方教程的第二部分query transformation查詢轉換
AI開發前途無限
歡迎來到AI開發者的頻道
今天呢
我們來繼續學習RAG的第二部分
也就是查詢轉換
這部分的內容
看起來很多
但是呢理解起來其實非常的簡單
查詢轉換的這個方法的原理呢
就非常類似於咱們常說的
三個臭皮匠頂個諸葛亮
下面我們就從這個角度
來看一下這個查詢轉換
首先我們來看看什麼是查詢轉換
查詢轉換呢
它是爲了更好的檢索信息
而對檢索問題呢
進行重寫或修改的一系列方法
簡單直白的說
就是將你問的問題換個說法
換個表達的方式來進行檢索
那爲什麼要換個說法
換個表達方式呢
這邊呢是LangChain官方
從技術角度的一個解釋
他這裏介紹說呢
RAG檢索呢
是將文本向量化之後
在一個高維空間進行檢索
那這種檢索方式
容易受到措辭表達的影響
從而難以捕捉到數據真實的語義
那這樣的結果呢
就是RAG的檢索效果呢可能會不好
也就是文檔的召回率呢比較低
那麼該如何解決呢
那這一部分他提供的這些方法呢
就是使用了這個三個臭皮匠
頂個諸葛亮的原理
那一個臭皮匠呢
肯定是比不過諸葛亮的
那三個爲什麼就可以了呢
因爲三個人嘛
每個人考慮問題的角度不一樣
那通過三個人的合作和相互補充呢
結果就是做到了比諸葛亮更厲害
好的那下面我們就來看看
這三個臭皮匠是怎麼給整出
來的
這裏
他一共介紹了4種查詢轉換的方法
我們先通過這種圖呢
來看一下這幾種方法的關係
中間呢是這個用戶最初的查詢描述
橫向呢表示的是與原問題相似的描述
也就是這個Multi query的方法
這個方法呢
它通過重寫改寫的方法呢
生成多個相似的查詢
那再往上面呢
就是表示更加抽象的描述
也就是這裏的step back的方
他是將查詢問題進行總結概括
通過更加概括的描述呢
來進行文本的檢索
最下面呢
表示更加具體細節的描述方式
也就是這裏的
decomposition的問題分解方法
他是將一個複雜的抽象問題
分解爲多個子問題
除了上面的方法呢
最後還有一個
基於假設解答的一個查詢方式
方法呢
就是先使用大模型對問題呢進行解答
然後根據這個解答呢
來進行文本的檢索
那上面呢
就是4種製作臭皮匠的方法了
3個臭皮匠有了
那麼怎麼將他們的想法進行合併呢
這就是這邊提到的
這個RAG fusion的方法
這一部分呢就講了這麼多內容
看起來內容很多
其實呢除了這個rag fusion的方法
有些算法在裏面之外
其他的四種方法呢
都可以理解爲是提示詞工程的方法
也就是呢
通過使用一個大模型
以及不同的提示詞
讓大模型呢將用戶輸入的問題呢
轉換爲另一種我們希望的描述
基於這種新的描述呢再進行檢索
最後呢生成最終的答案
好的下面
呢我們就來分別再看一下這四種方法
首先呢是第一個
也就是這個Multi query的方法
通過這個圖我們可以看到
首先呢他將用戶問題進行重寫改寫
生成了多個問題
然後呢基於這個新的問題進行查詢
最後呢將查詢結果呢進行合併
最終呢生成答案
那我們
可以看一下他的提示詞是怎麼寫的
這裏呢我講這個提示詞
翻譯成了中文
我們來讀一下
他這裏說呢
你是一個人工智能語言模型助手
你的任務呢
是生成5個不同版本的用戶問題
以從向量數據庫中呢檢索相關的文檔
通過從多個角度生成用戶問題呢
你的目標
是幫助用戶克服基於距離
相似搜索的一些限制
請提供這些替代問題
並用換行符分割
在後面呢是給出了原始的問題
通過這個提示詞的寫法
你可以看到
他不僅告訴大語言模型他要做什麼
還告訴了大語言模型
是在什麼場景下使用
以及是爲了克服什麼樣的問題來使用
大家在寫提示詞時呢
可以參考一下這種思路
下面我們再來看一下
這個decomposition的方法
也就是將問題分解的一個方法
這邊我們可以看到
它也是先生成不同的問題
然後進行文本檢索
分別產生回答
最終答案產生的時候呢
他這裏呢提出了兩種方法
一個是遞歸的回答方式
另一個呢是獨立回答
最後合併的方式
一規的方式呢
是將前面回答的問題和答案呢
作爲下一個問題解答過
程中的提示詞的一部分
來使用獨立回答的方式呢
是先將各個問題呢獨立進行解答
然後呢再將這所有解答的內容呢
整合爲提示詞
最後
再用大語言模型做一次最終的解答
所以這個的主要工作呢
它也是一個提示詞工程
這個提示詞的寫法呢
教程中都有介紹
這裏我們就不做詳細解釋了
在下面呢是這個step back的方法
也就是將問題進行抽象
通過抽象後的問題呢
再進行文本的檢索
這裏呢
是因爲對問題進行了抽象和概括
所以在最終的答案生成時呢
會與原問題檢索的結果
一起來進行使用
那具體的方法呢
可以看教程中的這部分的代碼
最後呢就是這個Hyde這個方法
也就是呢假設文檔嵌入計數方法
這邊呢
我找到了一個與標準方法的對比圖
我們來看一下
左邊呢是標準的RAG的檢索過程
右邊呢是這個HYDE方法的檢索過程
我們可以看到
標準的方法呢
是直接基於問題來進行文本的檢索
最後呢返回檢索的結果
但是這個HYDE這個方法呢
它是呢
首先基於原問題產生一個回答
然後基於回答的文本呢進行檢索
好的以上呢就是這4種方法
最後呢
我們再來看一下這個rag fusion的部分
雖然這個教程裏
將fusion的方法呢放在前面介紹的
但是呢我覺得這個fusion的方法
它不僅可以用於這個multiquery的方法
也可以對上面4種方法做檢索結
果的合併處理
所以這裏
我把它放到最後
來介紹
這個教程當中
有兩個結果合併處理的方法
第一種呢是這個方法
這個方法呢
相對來說是比較簡單粗暴的
他是呢
直接將檢索到的文本進行了去重
然後將所有的文本呢送給大語言模型
進行最終的答案生成
最終能使用到多少裏面的知識呢
就完全依賴於大語言模型的能力了
第二種方法呢是這個RAG fusion的方法
這個方法呢是根據一個文本
在各個子問題檢索出來的文本當中
排序的位置
來對這個文本
進行重新打分的一個方式
對文本進行重新排序
這樣做的好處是呢
越排在前面的文本呢
相關性應該是越大
尤其是
你只希望選擇有限的檢測文本
來進行生成時
效果呢就會更好
以上呢
就是這個教程第二部分介紹的內容
教程中都有相關的代碼
大家可以執行一下這些代碼測試一下
看看這些方法呢是否真的有效
尤其是呢
可以嘗試一下這幾種方法的組合
看看呢是否可以獲得更好的結果
好的以上就是今天的分享
感謝你的收看
我們下期視頻再見
