中英文句子向量化之原理,利用RAG原理圖像化 向量座標|檢索系統|大語言模型
247 次觀看·2025年5月13日
在大規模語言模型(LLM)如BERT中,句子向量化是一個重要的步驟。首先,我們需要將句子轉換成一系列的Token,即單詞或符號的向量表示,例如「Paris is a beautiful city.」和「I love Paris.」會被分割成不同的Token。接著,透過三種嵌入方式:Token嵌入、段嵌入(Segment embedding)、位置嵌入(Position embedding),我們可以得到每個Token的最終嵌入表示。
Token嵌入 代表每個Token的語義信息,像是詞彙「Paris」、「is」等各自對應一個嵌入向量。
段嵌入 用來區分兩個句子的來源。例如,第一句子對應於「A」段,第二句子對應於「B」段。
位置嵌入 用來表示每個Token在句子中的位置順序。
這三種嵌入會相加,形成最終的向量表示,讓模型能夠理解句子的結構與含義。
在應用程式中,這些嵌入向量可以被用來進行文本的匹配與分析。在程式碼中,利用BERT模型來將PDF中的句子轉換為嵌入向量,然後與查詢句進行比較,找出最接近的句子。最後,透過MDS(多維尺度分析)將嵌入向量降維,並以2D或3D的方式視覺化查詢句與其他句子的關係,方便觀察與分析。
關於影片中【sentence_embedding.py】或【中英文句子向量化.py】 的下載網址:github.com/deepmind-python/nltk
請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
好的各位觀眾 現在我們來講
Token Embedding
我們在
待會會用那個大語言模型來做試驗
但是我們現在先做一個
就是基本的介紹 什麼叫Token Embedding
這樣待會我們用大語言模型
用Token Embedding 就會看到
我們Token Embedding 它的圖像化
它在那個二維座標下面的那種圖的感覺
讓我們瞭解什麼叫做Embedding
它的目的是什麼
我們現在舉一個很簡單的例子
我們給兩個句子就好
給兩個簡單的英文句子
來說明什麼叫Embedding
怎麼樣把英文的句子
轉換成Embedding
比如說我現在說第一句話
我們叫
我就說
巴黎是個漂亮的地方
然後我們再給它一句話 兩句話就好
我們用這兩句話轉換成Embedding
看是什麼樣情形
就這麼簡單
I love Paris
第一個意思就是說
巴黎是個漂亮的城市
第二個句子是說 我愛巴黎
好 現在呢
我們首先第一步要把它轉換成Token Embedding
Token Embedding這個東西
怎麼樣轉換呢
我們現在隨便選一個大語言模型
比如說
我們選的大語言模型
我們現在假設說我們是用Bird
Bird是一個
它是一個Open Source
可以用
假設說我們的大語言模型是Bird
然後呢
我們首先第一步要把它怎樣
先把這兩個句子呢
把它轉換成
我先畫不同顏色
先把這兩個句子
轉換成Token
Token就是所謂的符記
就是說它不只包含英文字母
不只包含英文的單字
還有包含英文的什麼
比如說標點符號
空格那些
所以我們統稱它叫做Token
中文字叫符記
好 首先
我們把這兩個句子呢
把它轉換成Token
會怎麼轉換呢
我們就要給它一個列表
用那個Python
程式語言的寫法
我們用列表
我們現在說
Token
等於
中文這個要小寫
變數名稱最好是小寫
Token等於
好 給它一個列表
給它一個很長的
很長的列表
比如說給它到這邊
好
然後呢
我們就可以
把所有的單字先放進去
因為要先把它符記化
先把它轉換成Token
然後纔能夠
做向量
Token就很簡單 直接照抄
Paris
就是每個單字就是一個Token
Paris 然後空格
然後椅子
當然啦 這直接照抄了
這麼少 多了一個逗點
Beautiful
然後怎樣
City
好 第二個句子
我們就直接接在
上一個句子後面
因為我們要的是Token
這邊所看到的這個列表
是一個Token
I love
這邊可能長度不夠了
看一下
這空格打太多了
我們把它列過來
I love 什麼
Paris
好像前面講過
沒關係 我們這邊再打個字
Paris
好 我們已經把它
順利的轉換成Token
對不對
把這兩個句子
已經轉換成Token
那下
下一步就是
我們要加上一個所謂的
一個特殊的符記
一個叫做CLS
一個叫做SEP
我們可以把這個Token很快的
就是要告訴它
這個是句子的開頭
這個是句子的結尾
讓它知道 讓我們的程式知道
所以我們在Paris前面
我們加了一個Token
叫做CLS
這邊我們是要做分類
所以是用CLS
加了一個新的Token
叫CLS
Paris is a beautiful city
這是一個句子
要告訴它 句子已經結束了
再加上一個新的Token
叫做SEP
就是Separated的意思
分開 分隔
好
這樣子
分隔之後
我們還有一個分隔
I love Paris
這邊也要再加一個分隔
符號 就是SEP
好
這樣子就完畢了
我們這個階段
我們把兩個英文句子
先合併成一個列表
列表裡面
告訴它
句子的開頭是CLS
句子的結尾是SEP
第二個句子就不用寫開頭了
就不用寫CLS了
好
我們在電腦裡面
就會把這些東西
全部
變成一個
阿拉伯數字
比如說 0123
000111
我們就開始變成
向量了
假設我們輸入的東西
是這個東西的話
那它的輸出向量呢
我們現在先用一個
符號表示
我們就說
它的輸出向量
我們就用embedding
這邊寫的是token embedding
我們就說
它是一個token embedding的話
它的情況會是怎樣
因為很長
這邊再開一節
就是會變成
我們給它一個數值
embedding的符號是1
我們給它1
我們就稱它叫
1的
括弧好了
CLS
第一個embedding
然後下一個再給它一個
embedding的符號
就是這樣
1
事實上這個1就是
012333
這樣子點下去
我現在再舉個例子
下一個就是1
1就是
一直
它的符號embedding
然後就一直到
到哪裡?
到最後
到這邊的時候
就會有一個1的
SEP
它要變成一個embedding的符號
然後這要逗點
才對
然後就一直下去
全部都一樣
一直到這邊
一直到最後
這邊也是
SEP的embedding
好
我們的embedding
這是什麼意思呢?
我們這個1呢
就是指的是說
我們現在是用英文符號去代表
它的那個向量的數字
比如說我們這邊給它說
010
好
我們現在第一個
就是010
然後這個paragraph
020
等等
然後這個1的意思你可以說
001
等等
然後就可以點下去
點點點
好
這邊我們就不談了
我們主要是用英文的符號
embedding的1
來去代表這些數字
那這些數字呢
這些數字就是一個向量
這個向量就是每一個數字的向量
我們把它分類成paragraph1
就是指的是020
一直到這個SEP
就是等於多少
比如說這邊還沒有寫
我們就等於說
0
你可以說077也可以啊
這是一個範例
就是告訴我們說它轉換成embedding
就是一個數值
我們從這個英文句子慢慢演變過來的
最後就變成這樣子一個數值
好
講完這個token embedding之後
我們現在要講一個叫做
segment embedding
現在再抄一次
好
這是分段
因為我們要讓電腦知道說
我們的句子
它的段落是到哪裡
segment embedding
給它不同的顏色
粉色好了
好
segment embedding呢
也是一樣我們這很快
就是告訴它們說
我們現在有兩個句子
我們稱它這個embedding
就是為一個a
這個embedding就是b好了
所以說
這個segment embedding呢
我們就可以寫成說
我把它貼過來好了
這個怎麼轉換呢
怎麼轉換成segment embedding呢
就是
會變成什麼樣
就是cls
是屬於怎樣
這邊到這邊
paris is a beautiful city
sep separator
好到這邊我們就畫一個
畫一個不同的顏色就可以
這邊呢
我們就取它這個叫做
segment embedding
這邊的embedding就是1
a好了
1的a
到這邊到這邊就是a
這邊到這邊就是b
告訴它們
分節分段
1a
看這邊有幾個單字有幾個伏記
1 2 3 4 5 6 7
7個
那我們就要這邊寫7個
1 a
它們都是在同一個段落
同一個段落
同一個節
所以它們的embedding都是相同的
但是要7個
所以我們這邊複製比較快
好這已經6個了
然後呢再加一個就是7個
好7個
我們這個已經做完了
我們現在要做後半段的embedding
後半段的embedding我們稱它叫做
1 b
我們給它不同的顏色
我們給它這個顏色
這個顏色太淡了
我們給它
綠色綠色可以
1 b
然後這邊全部都是1 b
1 b
它總共有幾個單字呢
1 2 3 4
4個所以我們要給它
4個我們再給它2個
這是它的segment embedding
好
做完了
這就是我們的
segment embedding
就是這樣子
那這個1 a呢
你也可以說它是一個
畢竟是一個數值
你可以給它說-1
0 1
那你1 b 就是
0 1 1
等等這只不過是電腦
電腦給的一個數值
這個可以經過
人影學會的
這就是一個數值
1 a 1 b
你可以說到1 b的話
你就可以說
0 2 0
0 2 1
怎樣怎樣
點點點點點
我們是用
這個英文符號1 a 1 b
是來代表這個數值
這樣比較好表達
好我們已經講完了
segment embedding
就是這麼簡單
好最後一個
我們要講的position embedding
我們要把最後position embedding
說完之後我們把這3個
把這3個embedding全部
加起來
全部加起來的話
就會得到最後的
embedding
就是最後的向量
這些資訊都有了
我們告訴他有兩個句子
每個句子的單字
他的embedding的
那個向量
然後告訴他說
這個單字屬於哪一個節
第一節
第一個句子
這個單字屬於第二節
第二個句子
也告訴他這個資訊
還剩一個資訊沒告訴他
就是position embedding
position
embedding
把他隔開一點就好了
好我們現在要講的是
position embedding
就是位置的向量
就是每個單字
他在句子中的位置
就是說
他在比如說
我們舉一個
我們用符號的10
也是一樣我們
把這個
貼過來好了
原來的句子貼過來
然後把他變成
position embedding
就是第一個
CLS
他的位置
他的在這個句子裡面的位置
是10
那paragraph
就是11
這樣子一直點下去
但是這個時候
要告訴他說
你這單字是在哪一個位置的話
所以我們總共有幾個單字
1234567
七個單字
所以你就從這邊一直數下去
12
13
14
15
16
17
總共有
七個單字
這是1234567
後面還有
我是指前面的句子
現在是後面
後面的句子有幾個
12344個
所以你要說
18
我這邊寫一下
後面這個句子是
1819
10
181910
11
一直到11
這就是我們的句子
一樣這個10我們可以
給他一個數字
110
567
等等
只不過是一個像樣的數字
我們現在
是用這個符號
去代表他
我們已經學完了
position embedding
現在我們把這三個加起來
就是等於最後的
final
final embedding
就是
final
embedding
這三個加起來就對了
這三個要怎麼加呢
其實很簡單就是加法
就是他們的像量
像量加法就是
第一個跟第一個加
第二個跟第二個加
這樣加下去
我們就會變成
我們到下頁
final embedding
就是從第一個開始
final embedding
就是
等於
final embedding
加
final embedding
加
position embedding
我們放在一行
final embedding
就是這個意思
這怎麼加呢
就是我們剛才寫的那些符號
我們把它
再列到這邊來
把這個
token等於這個東西
等於這兩句話
我們把他一個一個加上來
第一個是
token embedding
我們現在要加第一個
先把第一個放進去
用不同顏色
這個顏色好了
token embedding 開始了
token embedding
很簡單到前面找
token embedding 是哪些
token embedding
複製
token embedding
下一個
我們要找的是
segment embedding
segment embedding 在哪裡
在這邊
segment embedding
好
講完之後
我們最後一個是position embedding
我們把
position embedding 找出來
在這邊
不用那麼長
直接寫在後面
這個是精確的
10到11
所以我們這樣子
複製
好
我們把這三個
全部加起來
我們把這三個 embedding
全部加起來就是最後的
final embedding
就是
第一個加第二個
第二個加第三個
這邊我們用加號就可以了
我們這邊
拉長一點
中間是一個加號就對了
加號
全部加起來
我現在做個示範
第一個就是
1的
直接照抄比較快
1的cls
加1a
加
10
這就是第一個
相量加起來
我們這第二個相量
一樣
1paris
加1a
加
11
其他1此類推
不寫了
其他1此類推
最後算出來這個就是我們的
final embedding
最後就是final embedding
這個就是我們的final embedding
告訴大家
他們是如何加起來
我們待會用電腦計算
好
我們現在已經大致
向大家介紹
這個embedding
embedding的觀念
我們看下一章節
我們就是
不是我們看下一段影片
就是
下一個段落影片
就是要把這個embedding
應用於這個
大圓模型裡面
好
各位觀眾我們繼續來看
我們的相量的程式
剛才已經說明瞭
相量的原理
現在我們選一篇文章
我們這邊看
叫privatect
這是一個中文的文章
這是某一本書的前言
什麼是純文字
故事
冒險遊戲之類的
我們先看一下
我們隨便選了一個文章
我們先看一下這個程式
執行結果是怎麼樣
因為我們這個程式
我這個電腦沒有用GPU
也是蠻快的
出來了
這是第一個畫面
我們把我們的相量圖
用SY座標
這邊叫MDS Component 1
Component 2
顯示出來
你看我的滑鼠的點
就是什麼會造成
網癮
這是我們的疑問
我們剛纔看的那篇文章
每個句子
都放在這個座標上面
最接近的距離是這個紅點
因為是海洛因
玩手機造成
網癮
我們看一下
下一張圖
這是一個3D圖
讓你看得更清楚
3D立體的
我們先關掉一下
我們看一下我們的程式
程式這邊基本上就是
我們就
做一個RAG
RAG的功能
就是
我們的大語言模型
沒有PDF的知識
我們取這個PDF叫做
Practice-CT
我們讓大語言模型
知道我們有這個知識
在裡面
然後我們的query是問他說
什麼會造成網癮
這是看我們文章裡面
隨便讀了一段
說造成網癮是什麼東西
我們看一下
這邊有說
喜好玩
手機或網路
遊戲是現今一世代的天性
但是
沉溺於這種電子海洛因
則會造成網癮
我們就是
來測試
我們要問
我們的AI
什麼會造成網癮
看它能不能用我們的知識
把它轉換成
用我們這個PDF檔的知識
把它每一句話
轉換成像量
然後我們的疑問
什麼會造成網癮
也轉換成像量
這是一個視覺化
這個層次就是讓我們能夠視覺化
看到我們的像量圖
我們再執行一次
這是第一個
我們是用二度空間去表達
我們按每一個綠點
就是我們PDF的每一句話
它在這像量圖空間中的
位置
我們隨便按一個
這個論點不就已經否決了
一般人認為機器不會像人一樣思考嗎
然後我們的疑問
是用藍色這個點
什麼會造成網癮
紅點就是它找到的
就是因為沉溺於這種海洛因
影響學業
我們
關掉我們這邊還有一個立體的
也是一樣的原理
這是每一個藍
每一個點按進去它都會顯示
每一個綠點按進去它都會顯示
這是我們的紅點
藍點是我們的
query
紅點是我們匹配到的句子
在這個3D空間中
的感覺
就是我們的像量圖
embedding 句子的像量
然後我們這個程式裡面
還執行還去比對
就是說我們每一句話
跟我們的query
跟我們的詢問
距離是多遠
它們的像量距離是多遠
全部寫出來
全部算出來
你看最後一直到這邊
最後一句話
最後它說distance是10
你看上面的distance
不是12就是11
都是很高的
最接近的是
距離distance是10的
是它的
process sentence
最接近的句子就是這個
但是沉溺於這種電子海洛因
之中則會造成網癮
等等
所以它就找到我們利用像量的原理
我們為什麼把句子
弄成像量呢
就可以這樣子去
讓機器去了解我們人類的意思
就是我們的語意
我們句子的語意
就是靠這個像量去理解的

