中英文句子向量化之原理，利用RAG原理圖像化 向量座標|檢索系統|大語言模型

在大規模語言模型（LLM）如BERT中，句子向量化是一個重要的步驟。首先，我們需要將句子轉換成一系列的Token，即單詞或符號的向量表示，例如「Paris is a beautiful city.」和「I love Paris.」會被分割成不同的Token。接著，透過三種嵌入方式：Token嵌入、段嵌入（Segment embedding）、位置嵌入（Position embedding），我們可以得到每個Token的最終嵌入表示。

Token嵌入 代表每個Token的語義信息，像是詞彙「Paris」、「is」等各自對應一個嵌入向量。
段嵌入 用來區分兩個句子的來源。例如，第一句子對應於「A」段，第二句子對應於「B」段。
位置嵌入 用來表示每個Token在句子中的位置順序。
這三種嵌入會相加，形成最終的向量表示，讓模型能夠理解句子的結構與含義。

在應用程式中，這些嵌入向量可以被用來進行文本的匹配與分析。在程式碼中，利用BERT模型來將PDF中的句子轉換為嵌入向量，然後與查詢句進行比較，找出最接近的句子。最後，透過MDS（多維尺度分析）將嵌入向量降維，並以2D或3D的方式視覺化查詢句與其他句子的關係，方便觀察與分析。

關於影片中【sentence_embedding.py】或【中英文句子向量化.py】 的下載網址：github.com/deepmind-python/nltk
請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上，然後在鍵盤上按 Enter鍵。