在大規模語言模型(LLM)如BERT中,句子向量化是一個重要的步驟。首先,我們需要將句子轉換成一系列的Token,即單詞或符號的向量表示,例如「Paris is a beautiful city.」和「I love Paris.」會被分割成不同的Token。接著,透過三種嵌入方式:Token嵌入、段嵌入(Segment embedding)、位置嵌入(Position embedding),我們可以得到每個Token的最終嵌入表示。 Token嵌入 代表每個Token的語義信息,像是詞彙「Paris」、「is」等各自對應一個嵌入向量。 段嵌入 用來區分兩個句子的來源。例如,第一句子對應於「A」段,第二句子對應於「B」段。 位置嵌入 用來表示每個Token在句子中的位置順序。 這三種嵌入會相加,形成最終的向量表示,讓模型能夠理解句子的結構與含義。 在應用程式中,這些嵌入向量可以被用來進行文本的匹配與分析。在程式碼中,利用BERT模型來將PDF中的句子轉換為嵌入向量,然後與查詢句進行比較,找出最接近的句子。最後,透過MDS(多維尺度分析)將嵌入向量降維,並以2D或3D的方式視覺化查詢句與其他句子的關係,方便觀察與分析。 關於影片中【sentence_embedding.py】或【中英文句子向量化.py】 的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
從語言理解到物理執行:連接自然語言處理與機器人模擬 兩個 Python 程式:第一個程式使用 Tkinter 建立圖形介面,並透過 PyTorch 實現了一個基於 Seq2Seq 模型(含注意力機制)的英文到中文翻譯器;第二個程式則利用 Pygame 建立了一個簡單的機器手臂模擬,讓機械爪可以按照預設邏輯抓取並放置物體。 這兩個程式看似獨立,一個處理抽象的語言,另一個模擬具體的物理動作。然而,它們正是建構一個更複雜系統的基礎:使用自然語言來控制機器人執行任務。 第一個程式的核心在於「語言的理解與生成」:它學習將一個序列(英文句子)轉換為另一個序列(中文句子)。在這個過程中,特別是注意力機制,展示了模型如何在處理輸出時,去「關注」輸入中的相關部分。 第二個程式則是一個「物理環境中的動作執行者」。它接收指令(目前是寫死的內部狀態),並在二維空間中移動機械爪來達成目標。 將兩者結合的切入點在於:我們可以把第二個程式中頂部顯示的文字指令(例如:「Pick up the ball on the ground and place it on the table」)視為輸入,而機器手臂的動作序列(移動到球上方、下降、抓取、上升、移動到桌子上方、下降、釋放、返回)視為輸出。 受到第一個程式語言處理能力的啟發,更深入的研究方向便是建立一個中間層或一個新的模型,這個模型不再是進行語言翻譯,而是將自然語言的文字指令解讀為一系列可由機器手臂模擬程式執行的低階動作序列。 這意味著我們需要: 語言理解模組: 利用類似第一個程式中的序列模型概念(可能需要修改架構和訓練數據),來解析指令中的關鍵資訊,例如:動詞("Pick up", "place")、物體("the ball", "the robot")、起始位置("on the ground")、目標位置("on the table")。 任務規劃與動作生成: 根據語言理解模組解析出的資訊,規劃出達成任務所需的步驟序列(例如:去目標物體位置 -> 抓取 -> 去目標放置位置 -> 釋放)。這個步驟序列就是機器手臂模擬程式所需的輸入。 機器人控制接口: 修改或擴展第二個程式的 RoboticArmSimulation 類別,使其不再僅僅按照寫死的狀態機運動,而是能夠接收並執行由任務規劃模組生成的動作指令(例如:move_to(x, y), grasp(), release())。 第一個程式提供的是處理序列數據(特別是文字)的思維和技術框架,而第二個程式則提供了物理模擬環境和可執行的動作。兩者的結合,正是從「理解語言」到「控制物理實體」的重要一步,是「語言控制機器人」(Language-Conditioned Robotics) 或「具身智慧」(Embodied AI) 領域入門研究的絕佳起點。您可以開始思考如何訓練一個模型,讓它看懂「Pick up the ball」這句話後,能夠輸出讓模擬機械爪移動到球位置的指令。
在《將卡通人物的意識轉換成虛擬數位人》第3集中,我們將探討如何利用Kaggle平台進行機器學習,並製作一張超小的Excel資料表,以揭發修改卡通人物命運的方法。 利用Kaggle平台進行機器學習 Kaggle作為一個數據科學競賽和學習平台,提供了豐富的數據集和強大的工具,使得數據科學家和機器學習愛好者可以輕鬆地進行實驗和模型訓練。在這一集中,我們將使用Kaggle平台來重新訓練我們的模型,目的是將卡通人物的意識轉換成虛擬數位人。 數據集 我們需要收集和準備數據集。這些數據集應該包含卡通人物的行為、對話和決策等方面的信息。這些數據將用來訓練機器學習模型,以便模擬卡通人物的意識和行為。 影片中【rick_snake.ipynb 和 Ricksss2.csv】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
將卡通人物的意識轉換成虛擬數位人 第二集 在數位時代的進程中,將卡通人物的意識轉換成虛擬數位人已不再是科幻小說的情節,而是逐漸成為現實。隨著技術的發展,我們可以通過修改Excel資料表,利用機器學習技術,實現對卡通人物命運的操控,並讓其在虛擬世界中重生。 修改Excel資料表,重新機器學習 首先,我們需要準備一份包含卡通人物特徵和行為數據的Excel資料表。這些資料可以包括人物的性格特徵、台詞、動作等等。我們可以使用Excel進行數據清洗和整理,確保資料表中的數據準確無誤。接下來,我們會將這些數據輸入機器學習模型中,進行重新訓練,使模型能夠更準確地模擬卡通人物的行為和反應。 在這個過程中,我們可以自由地修改Excel資料表,調整卡通人物的性格特徵和命運走向。例如,可以改變人物的決策模式,讓其在虛擬世界中作出不同的選擇,從而改變故事的發展。這種方法不僅能讓我們深入了解機器學習的應用,還能夠帶來創意和娛樂的雙重體驗。 加載微軟DialoGPT大語言模型 在卡通人物的意識轉換中,我們還可以利用微軟的DialoGPT大語言模型。這款模型擁有強大的自然語言處理能力,能夠生成自然流暢的對話。我們可以將訓練好的模型加載到應用程序中,使其能夠與用戶進行交互,模擬卡通人物的對話風格和語言習慣。 Google Colab上傳程式至雲端的Hugging Face 為了讓更多人能夠使用我們的虛擬數位人,我們可以將Python程式上傳到Google Colab,並通過Hugging Face的平台進行部署。Google Colab是一個基於雲端的開發環境,方便我們進行機器學習模型的訓練和測試。Hugging Face則是一個開源的機器學習社區,提供了大量的模型和工具,便於我們分享和應用模型。 通過將程式上傳到Hugging Face,我們可以將虛擬數位人應用程序發布到雲端,供全球的開發者和用戶使用。這不僅提高了我們工作的影響力,還能促進技術交流和合作,共同推動虛擬數位人技術的發展。 將卡通人物的意識轉換成虛擬數位人,是一個結合了數據處理、機器學習和自然語言處理的創新過程。通過修改Excel資料表、重新機器學習、加載DialoGPT模型,以及在Google Colab上傳程式至Hugging Face,我們可以創建出更加智能和生動的虛擬數位人,帶來更多的驚喜和樂趣。 影片中【rick_huggingface.ipynb、RickAndMortyScripts2.csv、bert.py、bloom.py和codegen.py】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
外星人在觀察人類,這一現象引發了科學家們的廣泛討論與研究。隨著科技的進步,人工智慧(AI)被視為一個強大的工具來偵測外星人的意圖。AI可以通過分析外星人的行為模式、訊號和交流方式來推測他們的目的。 首先,科學家可以利用AI來解析從太空中接收到的訊號,並嘗試找出其中是否包含有意圖的數據。AI可以篩選出重複的訊號模式,並通過機器學習,學習並預測外星人可能的行動。 其次,AI還能通過模擬來預測外星人可能的意圖。透過人類的歷史行為數據,AI可以建立一個模型,來預測外星人接觸人類的動機是否友好,或是帶有威脅。 最後,AI系統能夠不斷學習新的資料和樣本,提升偵測精準度。這樣的技術可以幫助科學家更早地發現外星人的意圖,並做出相應的應對策略。 總之,AI在外星人觀察中的應用,不僅讓我們更清楚地理解外星文明的動向,也為我們保護自身帶來更多的可能性。 Aliens are observing humans, sparking widespread discussion and research among scientists. With advancements in technology, Artificial Intelligence (AI) is seen as a powerful tool to detect the intentions of extraterrestrials. AI can analyze alien behavior patterns, signals, and communication methods to infer their purpose. First, scientists can use AI to decode signals received from space and attempt to identify whether they contain intentional data. AI can filter out repetitive signal patterns and, through machine learning, learn to predict possible alien actions. Secondly, AI can simulate and predict potential alien intentions. By analyzing historical human behavior data, AI can build a model to forecast whether alien contact with humans is friendly or poses a threat. Lastly, AI systems can continuously learn from new data and samples, improving detection accuracy. This technology can help scientists detect alien intentions earlier and develop corresponding strategies. In conclusion, the application of AI in observing extraterrestrial activities not only allows us to better understand the movements of alien civilizations but also provides more possibilities for protecting ourselves.
當使用 AI 訓練資料不夠充足時,可以運用英文文法分析來幫助解讀外星人傳遞的訊息。依賴像 dependency tree(依存樹)這樣的結構性分析工具,能讓我們通過句法解析來了解外星人表達的意圖。 借助 SpaCy 這樣的自然語言處理(NLP)框架,我們能夠建立一個意圖分類系統。這個系統可以基於我們已有的訓練數據來預測外星人在各種情境下的行為意圖,例如簽訂和平條約、發動進攻、進行貿易或探索未知領域。 透過 SpaCy 的文字分類器,我們可以使用標註過的訓練數據來指導模型學習如何區分不同的外星人意圖。訓練完成後,我們便能輸入新訊息來預測外星人當下的行為目標,從而快速解決溝通問題,避免誤解。 這個過程展示了 NLP 的強大應用,不僅能有效替代部分缺少訓練資料的問題,還能提供一個實際可行的方式來理解外星人的溝通訊息。 關於影片中【本影片的程式(intenta.py/ intentb.py/intentc.py】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
在Windows上使用Kali Linux (WSL 2 GUI) 在Windows上運行Kali Linux已經變得更加簡單,特別是利用Windows Subsystem for Linux (WSL 2)的功能。以下將介紹如何在WSL 2上設置Kali Linux並啟用GUI,以便您可以在Windows和Kali Linux之間無縫切換。 獲取IP地址 若電腦關機後重新開機,需要重新啟動xrdp服務並獲取新的IP地址: sudo service xrdp start ip add 安裝GUI 在Kali Linux文字模式內運行以下命令: sudo apt update && sudo apt upgrade -y sudo apt install kali-desktop-xfce -y 檢查WSL版本: wsl --l -v 安裝XRDP: sudo apt install xrdp -y sudo service xrdp start 獲取IP地址: ip add
使用了spaCy程式來分析語法結構,並以「詞袋模型」作為例子,展示如何將文字數據轉化為可計算的數值表達形式。 以下是簡單的解說: **CNN新聞短文內容:** Death toll rises in Israeli strike that killed Hezbollah commanders. 「死亡人數上升,以色列的空襲造成了真主黨指揮官的喪生。」 這是一個簡單的描述,提及以色列的軍事行動導致了人員的傷亡。用「造成 ~ 的喪生」來表達「killed」的意義,即由空襲導致的死亡。 A bag-of-words model is a way of representing text data in which each word in a document is represented by a numerical value, indicating how often the word appears in the text. 同時,**詞袋模型(Bag-of-Words Model)**是一種常見的文字處理技術,將每個詞的出現頻率數值化,以便後續的機器學習或文本分析。 --- **程式部分:** 這段程式碼是利用Python的spaCy庫來進行英文句子的依存分析並生成視覺化圖像。以下是程式執行步驟: 1. 使用 `spacy.load('en_core_web_sm')` 加載英語模型。 2. 對「詞袋模型」的定義句子進行自然語言處理,將其轉化為 `doc` 物件。 3. 使用 `displacy.serve` 方法啟動視覺化伺服器來顯示句子的語法依存結構。 4. `threading` 用來啟動伺服器,並透過瀏覽器來呈現結果。 這種視覺化方法有助於更好地理解句子的語法關係,特別是如何識別主詞、動詞、修飾語等結構。
將卡通人物《Rick and Morty》的思想和記憶轉換成虛擬數位人,載入微軟GPT語言模型:Google Colab和PyCharm設計程式介紹 隨著人工智慧和機器學習的進步,將虛構人物的思想和記憶轉換成虛擬數位人並賦予他們交互能力,已成為可能。本文將介紹如何將《Rick and Morty》中的主要角色Rick和Morty的思想和記憶轉換成虛擬數位人,並將其載入微軟的GPT語言模型,最終在Google Colab和PyCharm環境中設計程式來實現這一目標。 步驟1:角色分析與數據收集 首先,我們需要對Rick和Morty進行全面的分析,包括他們的性格特徵、語言風格和典型對話內容。我們可以通過觀看《Rick and Morty》的動畫,提取並標註大量對話數據,這些數據將用於訓練我們的語言模型。 步驟2:數據預處理 將收集到的對話數據進行清理和預處理。這包括去除噪音數據、標記對話參與者和分割句子。可以使用Python的pandas庫進行數據處理,並使用正則表達式進行文本清理。 步驟3:訓練語言模型 我們將微軟的GPT語言模型作為基礎模型,使用Hugging Face的Transformers庫來進行訓練。需要特別注意的是,由於Rick和Morty的對話風格獨特,我們可能需要對模型進行微調(fine-tuning)。 步驟4:部署和交互 訓練完成後,我們可以將模型部署到Google Colab或本地的PyCharm環境中,實現與虛擬數位人的交互。 透過上述步驟,我們實現了將《Rick and Morty》角色的思想和記憶轉換成虛擬數位人,並成功地將其載入微軟的GPT語言模型中。這種方法不僅展示了人工智慧在娛樂領域的應用潛力,也為未來虛擬數位人的發展提供了新的思路。利用Google Colab和PyCharm這樣的工具,開發者可以輕鬆地進行模型訓練和部署,實現與虛擬角色的高效互動。 影片中【RickAndMortyScripts程式和csv資料】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
動動腦,測測你的邏輯思考 過河問題: 有一個農夫手裡拿著一顆高麗菜,帶著狼和山羊站在河的左岸。河上有一艘小船,但農夫一次只能帶一頭動物或是一顆高麗菜上船。另外,如果沒有農夫在場的話,狼會襲擊山羊,山羊會吃掉高麗菜。請問如果想要人、動物和蔬菜都平安無事抵達右岸,該怎麼做比較好呢?請寫出最快的方法。
在人工智慧模擬的猴子世界裡,我們可以用一組狀態和動作來描述猴子的行為及其思考過程。這些狀態和動作用來模擬猴子如何達到目標,例如抓取香蕉。在這個模擬中,猴子可以進行一些基本的動作,如行走、攀爬和推動物體。 這樣的模擬可以幫助我們理解猴子的行為和問題解決能力。Python 中可以使用 pyswi 來植入和操作 Prolog 程式,從而實現這種行為模擬。這種方法在人工智慧和認知科學領域具有廣泛的應用,例如研究動物行為或開發智能代理系統。 狀態表示 猴子的世界中的狀態可以用四個變量來表示: P1: 猴子的位置(例如中間、門口、窗戶)。 B: 箱子的狀態和位置(例如地板上、箱子上)。 P2: 香蕉的位置。 H: 猴子是否擁有香蕉(有或沒有)。 動作定義 猴子可以執行以下動作: 抓取 (grasp): 猴子在中間位置,站在箱子上,可以抓取香蕉。 行走 (walk(P1, P2)): 猴子從位置 P1 走到位置 P2。 攀爬 (climb): 猴子從地板上爬到箱子上。 推動 (push(P1, P2)): 猴子推動箱子從位置 P1 到位置 P2。 模擬過程 整個模擬過程可以使用 AI 語法來描述: move(state(middle,onbox,middle,hasnot), grasp, state(middle,onbox,middle,has)). move(state(P,onfloor,P,H), climb, state(P,onbox,P,H)). move(state(P1,onfloor,P1,H), push(P1,P2), state(P2,onfloor,P2,H)). move(state(P1,onfloor,B,H), walk(P1,P2), state(P2,onfloor,B,H)). 其中 move(State1, Move, State2) 描述了從狀態 State1 經過動作 Move 轉移到狀態 State2 的過程。 可達性判斷 我們可以使用遞迴方式來判斷猴子是否能夠獲得香蕉,定義如下: canget(state(_,_,_,has)). canget(State1):- move(State1, Move, State2), canget(State2). 其中 canget(State1) 表示從狀態 State1 開始,猴子是否能達到 has 狀態(即擁有香蕉)。
AI Reasoning Through Logical Mathematics 隨著人工智慧(AI)的迅速發展,AI在解決複雜問題和進行邏輯推理方面的能力越來越強。ChatGPT5引入了一項令人興奮的新功能——邏輯數學推理,這一功能為AI帶來了更高層次的理解和分析能力。本文將探討如何利用Tarski's World軟體來實現這一功能,以及在Windows 11上安裝Mac作業系統和Tarski's World的步驟。 Tarski's World:邏輯數學的世界 Tarski's World是一個互動式軟體,用於教學和研究邏輯學。該軟體由Jon Barwise和John Etchemendy開發,旨在通過視覺化和互動的方式,幫助用戶理解邏輯語言和邏輯推理。 在Tarski's World中,用戶可以創建包含幾何圖形的三維世界,並使用邏輯語言來描述和推理這些圖形之間的關係。這一工具非常適合教學和學習邏輯學, 並且為AI提供了一個理想的平台來進行邏輯推理。 英語轉成邏輯數學,即可進行AI推理 AI進行邏輯推理的一個關鍵步驟是將自然語言轉換為邏輯數學表達式。這涉及語言理解、語法分析和邏輯翻譯。ChatGPT5在這方面做出了重大改進,能夠更準確地將英語轉換為邏輯數學表達式,從而實現高效的邏輯推理。 例如,給定一個英語句子: “If all humans are mortal and Socrates is a human, then Socrates is mortal.” ChatGPT5可以將其轉換為邏輯數學表達式: ∀x (Human(x) → Mortal(x)) ∧ Human(Socrates) → Mortal(Socrates) 這樣,AI就可以利用邏輯推理來驗證和推導出結論。Tarski's World軟體提供了一個理想的平台,讓用戶可以直觀地看到這些邏輯表達式在三維世界中的應用。 ChatGPT5的邏輯數學推理功能為AI應用帶來了新的可能性。透過使用Tarski's World軟體,使用者可以更好地理解和應用邏輯學原理。未來,隨著這些技術的進一步發展,AI在解決複雜問題和進行推理方面的能力將變得更加強大。












