在大規模語言模型(LLM)如BERT中,句子向量化是一個重要的步驟。首先,我們需要將句子轉換成一系列的Token,即單詞或符號的向量表示,例如「Paris is a beautiful city.」和「I love Paris.」會被分割成不同的Token。接著,透過三種嵌入方式:Token嵌入、段嵌入(Segment embedding)、位置嵌入(Position embedding),我們可以得到每個Token的最終嵌入表示。 Token嵌入 代表每個Token的語義信息,像是詞彙「Paris」、「is」等各自對應一個嵌入向量。 段嵌入 用來區分兩個句子的來源。例如,第一句子對應於「A」段,第二句子對應於「B」段。 位置嵌入 用來表示每個Token在句子中的位置順序。 這三種嵌入會相加,形成最終的向量表示,讓模型能夠理解句子的結構與含義。 在應用程式中,這些嵌入向量可以被用來進行文本的匹配與分析。在程式碼中,利用BERT模型來將PDF中的句子轉換為嵌入向量,然後與查詢句進行比較,找出最接近的句子。最後,透過MDS(多維尺度分析)將嵌入向量降維,並以2D或3D的方式視覺化查詢句與其他句子的關係,方便觀察與分析。 關於影片中【sentence_embedding.py】或【中英文句子向量化.py】 的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
從語言理解到物理執行:連接自然語言處理與機器人模擬 兩個 Python 程式:第一個程式使用 Tkinter 建立圖形介面,並透過 PyTorch 實現了一個基於 Seq2Seq 模型(含注意力機制)的英文到中文翻譯器;第二個程式則利用 Pygame 建立了一個簡單的機器手臂模擬,讓機械爪可以按照預設邏輯抓取並放置物體。 這兩個程式看似獨立,一個處理抽象的語言,另一個模擬具體的物理動作。然而,它們正是建構一個更複雜系統的基礎:使用自然語言來控制機器人執行任務。 第一個程式的核心在於「語言的理解與生成」:它學習將一個序列(英文句子)轉換為另一個序列(中文句子)。在這個過程中,特別是注意力機制,展示了模型如何在處理輸出時,去「關注」輸入中的相關部分。 第二個程式則是一個「物理環境中的動作執行者」。它接收指令(目前是寫死的內部狀態),並在二維空間中移動機械爪來達成目標。 將兩者結合的切入點在於:我們可以把第二個程式中頂部顯示的文字指令(例如:「Pick up the ball on the ground and place it on the table」)視為輸入,而機器手臂的動作序列(移動到球上方、下降、抓取、上升、移動到桌子上方、下降、釋放、返回)視為輸出。 受到第一個程式語言處理能力的啟發,更深入的研究方向便是建立一個中間層或一個新的模型,這個模型不再是進行語言翻譯,而是將自然語言的文字指令解讀為一系列可由機器手臂模擬程式執行的低階動作序列。 這意味著我們需要: 語言理解模組: 利用類似第一個程式中的序列模型概念(可能需要修改架構和訓練數據),來解析指令中的關鍵資訊,例如:動詞("Pick up", "place")、物體("the ball", "the robot")、起始位置("on the ground")、目標位置("on the table")。 任務規劃與動作生成: 根據語言理解模組解析出的資訊,規劃出達成任務所需的步驟序列(例如:去目標物體位置 -> 抓取 -> 去目標放置位置 -> 釋放)。這個步驟序列就是機器手臂模擬程式所需的輸入。 機器人控制接口: 修改或擴展第二個程式的 RoboticArmSimulation 類別,使其不再僅僅按照寫死的狀態機運動,而是能夠接收並執行由任務規劃模組生成的動作指令(例如:move_to(x, y), grasp(), release())。 第一個程式提供的是處理序列數據(特別是文字)的思維和技術框架,而第二個程式則提供了物理模擬環境和可執行的動作。兩者的結合,正是從「理解語言」到「控制物理實體」的重要一步,是「語言控制機器人」(Language-Conditioned Robotics) 或「具身智慧」(Embodied AI) 領域入門研究的絕佳起點。您可以開始思考如何訓練一個模型,讓它看懂「Pick up the ball」這句話後,能夠輸出讓模擬機械爪移動到球位置的指令。
在《將卡通人物的意識轉換成虛擬數位人》第3集中,我們將探討如何利用Kaggle平台進行機器學習,並製作一張超小的Excel資料表,以揭發修改卡通人物命運的方法。 利用Kaggle平台進行機器學習 Kaggle作為一個數據科學競賽和學習平台,提供了豐富的數據集和強大的工具,使得數據科學家和機器學習愛好者可以輕鬆地進行實驗和模型訓練。在這一集中,我們將使用Kaggle平台來重新訓練我們的模型,目的是將卡通人物的意識轉換成虛擬數位人。 數據集 我們需要收集和準備數據集。這些數據集應該包含卡通人物的行為、對話和決策等方面的信息。這些數據將用來訓練機器學習模型,以便模擬卡通人物的意識和行為。 影片中【rick_snake.ipynb 和 Ricksss2.csv】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
將卡通人物的意識轉換成虛擬數位人 第二集 在數位時代的進程中,將卡通人物的意識轉換成虛擬數位人已不再是科幻小說的情節,而是逐漸成為現實。隨著技術的發展,我們可以通過修改Excel資料表,利用機器學習技術,實現對卡通人物命運的操控,並讓其在虛擬世界中重生。 修改Excel資料表,重新機器學習 首先,我們需要準備一份包含卡通人物特徵和行為數據的Excel資料表。這些資料可以包括人物的性格特徵、台詞、動作等等。我們可以使用Excel進行數據清洗和整理,確保資料表中的數據準確無誤。接下來,我們會將這些數據輸入機器學習模型中,進行重新訓練,使模型能夠更準確地模擬卡通人物的行為和反應。 在這個過程中,我們可以自由地修改Excel資料表,調整卡通人物的性格特徵和命運走向。例如,可以改變人物的決策模式,讓其在虛擬世界中作出不同的選擇,從而改變故事的發展。這種方法不僅能讓我們深入了解機器學習的應用,還能夠帶來創意和娛樂的雙重體驗。 加載微軟DialoGPT大語言模型 在卡通人物的意識轉換中,我們還可以利用微軟的DialoGPT大語言模型。這款模型擁有強大的自然語言處理能力,能夠生成自然流暢的對話。我們可以將訓練好的模型加載到應用程序中,使其能夠與用戶進行交互,模擬卡通人物的對話風格和語言習慣。 Google Colab上傳程式至雲端的Hugging Face 為了讓更多人能夠使用我們的虛擬數位人,我們可以將Python程式上傳到Google Colab,並通過Hugging Face的平台進行部署。Google Colab是一個基於雲端的開發環境,方便我們進行機器學習模型的訓練和測試。Hugging Face則是一個開源的機器學習社區,提供了大量的模型和工具,便於我們分享和應用模型。 通過將程式上傳到Hugging Face,我們可以將虛擬數位人應用程序發布到雲端,供全球的開發者和用戶使用。這不僅提高了我們工作的影響力,還能促進技術交流和合作,共同推動虛擬數位人技術的發展。 將卡通人物的意識轉換成虛擬數位人,是一個結合了數據處理、機器學習和自然語言處理的創新過程。通過修改Excel資料表、重新機器學習、加載DialoGPT模型,以及在Google Colab上傳程式至Hugging Face,我們可以創建出更加智能和生動的虛擬數位人,帶來更多的驚喜和樂趣。 影片中【rick_huggingface.ipynb、RickAndMortyScripts2.csv、bert.py、bloom.py和codegen.py】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
外星人在觀察人類,這一現象引發了科學家們的廣泛討論與研究。隨著科技的進步,人工智慧(AI)被視為一個強大的工具來偵測外星人的意圖。AI可以通過分析外星人的行為模式、訊號和交流方式來推測他們的目的。 首先,科學家可以利用AI來解析從太空中接收到的訊號,並嘗試找出其中是否包含有意圖的數據。AI可以篩選出重複的訊號模式,並通過機器學習,學習並預測外星人可能的行動。 其次,AI還能通過模擬來預測外星人可能的意圖。透過人類的歷史行為數據,AI可以建立一個模型,來預測外星人接觸人類的動機是否友好,或是帶有威脅。 最後,AI系統能夠不斷學習新的資料和樣本,提升偵測精準度。這樣的技術可以幫助科學家更早地發現外星人的意圖,並做出相應的應對策略。 總之,AI在外星人觀察中的應用,不僅讓我們更清楚地理解外星文明的動向,也為我們保護自身帶來更多的可能性。 Aliens are observing humans, sparking widespread discussion and research among scientists. With advancements in technology, Artificial Intelligence (AI) is seen as a powerful tool to detect the intentions of extraterrestrials. AI can analyze alien behavior patterns, signals, and communication methods to infer their purpose. First, scientists can use AI to decode signals received from space and attempt to identify whether they contain intentional data. AI can filter out repetitive signal patterns and, through machine learning, learn to predict possible alien actions. Secondly, AI can simulate and predict potential alien intentions. By analyzing historical human behavior data, AI can build a model to forecast whether alien contact with humans is friendly or poses a threat. Lastly, AI systems can continuously learn from new data and samples, improving detection accuracy. This technology can help scientists detect alien intentions earlier and develop corresponding strategies. In conclusion, the application of AI in observing extraterrestrial activities not only allows us to better understand the movements of alien civilizations but also provides more possibilities for protecting ourselves.
使用Keras預測照片中的物體 深度學習已經成為了電腦視覺領域的一個重要工具,尤其是在物體識別上。在這影片中,我們將介紹如何使用Keras,一個用於深度學習的Python程式庫,來預測照片中的物體。 NUM_CLASSES = 10 (x_train, y_train), (x_test, y_test) = cifar10.load_data() x_train = x_train.astype('float32') / 255.0 x_test = x_test.astype('float32') / 255.0 y_train = to_categorical(y_train, NUM_CLASSES) y_test = to_categorical(y_test, NUM_CLASSES) print(x_train[54, 12, 13, 1]) 定義類別數(10個)。 從 Keras 的 CIFAR-10 數據集中加載訓練和測試數據。 將圖像數據標準化到 [0, 1] 範圍。 將標籤轉換為 one-hot 編碼。 input_layer = Input((32, 32, 3)) x = Flatten()(input_layer) x = Dense(200, activation='relu')(x) # x = Dense(150, activation='relu')(x) output_layer = Dense(NUM_CLASSES, activation='softmax')(x) model = Model(input_layer, output_layer) model.summary() 定義輸入層,輸入尺寸為 32x32x3 的圖像。 將輸入展平為一維。 添加一個有 200 個單元的全連接層,激活函數為 ReLU。 添加一個輸出層,輸出為 NUM_CLASSES(10)個類別,激活函數為 softmax。 顯示模型結構摘要。 opt = Adam(lr=0.0005) model.compile(loss='categorical_crossentropy', optimizer=opt, metrics=['accuracy']) model.fit(x_train, y_train, batch_size=32, epochs=10, shuffle=True) 定義優化器為 Adam,學習率為 0.0005。 編譯模型,使用損失函數為 categorical_crossentropy,評估指標為 accuracy。 使用訓練數據進行模型訓練,批次大小為 32,訓練 10 個世代。 model.evaluate(x_test, y_test) 使用測試數據評估模型的性能。 CLASSES = np.array(['airplane', 'automobile', 'bird', 'cat', 'deer', 'dog', 'frog', 'horse', 'ship', 'truck']) preds = model.predict(x_test) preds_single = CLASSES[np.argmax(preds, axis=-1)] actual_single = CLASSES[np.argmax(y_test, axis=-1)] n_to_show = 10 indices = np.random.choice(range(len(x_test)), n_to_show) fig = plt.figure(figsize=(15, 3)) fig.subplots_adjust(hspace=0.4, wspace=0.4) for i, idx in enumerate(indices): img = x_test[idx] ax = fig.add_subplot(1, n_to_show, i+1) ax.axis('off') ax.text(0.5, -0.35, 'pred = ' + str(preds_single[idx]), fontsize=10, ha='center', transform=ax.transAxes) ax.text(0.5, -0.7, 'act = ' + str(actual_single[idx]), fontsize=10, ha='center', transform=ax.transAxes) ax.imshow(img) 定義類別名稱對應的數組。 使用模型對測試數據進行預測。 根據預測結果和實際標籤得到對應的類別名稱。 隨機選擇 10 個測試樣本,並顯示圖像、預測結果和實際標籤。 影片中【predict_image.py】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
當使用 AI 訓練資料不夠充足時,可以運用英文文法分析來幫助解讀外星人傳遞的訊息。依賴像 dependency tree(依存樹)這樣的結構性分析工具,能讓我們通過句法解析來了解外星人表達的意圖。 借助 SpaCy 這樣的自然語言處理(NLP)框架,我們能夠建立一個意圖分類系統。這個系統可以基於我們已有的訓練數據來預測外星人在各種情境下的行為意圖,例如簽訂和平條約、發動進攻、進行貿易或探索未知領域。 透過 SpaCy 的文字分類器,我們可以使用標註過的訓練數據來指導模型學習如何區分不同的外星人意圖。訓練完成後,我們便能輸入新訊息來預測外星人當下的行為目標,從而快速解決溝通問題,避免誤解。 這個過程展示了 NLP 的強大應用,不僅能有效替代部分缺少訓練資料的問題,還能提供一個實際可行的方式來理解外星人的溝通訊息。 關於影片中【本影片的程式(intenta.py/ intentb.py/intentc.py】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
在Windows上使用Kali Linux (WSL 2 GUI) 在Windows上運行Kali Linux已經變得更加簡單,特別是利用Windows Subsystem for Linux (WSL 2)的功能。以下將介紹如何在WSL 2上設置Kali Linux並啟用GUI,以便您可以在Windows和Kali Linux之間無縫切換。 獲取IP地址 若電腦關機後重新開機,需要重新啟動xrdp服務並獲取新的IP地址: sudo service xrdp start ip add 安裝GUI 在Kali Linux文字模式內運行以下命令: sudo apt update && sudo apt upgrade -y sudo apt install kali-desktop-xfce -y 檢查WSL版本: wsl --l -v 安裝XRDP: sudo apt install xrdp -y sudo service xrdp start 獲取IP地址: ip add
使用了spaCy程式來分析語法結構,並以「詞袋模型」作為例子,展示如何將文字數據轉化為可計算的數值表達形式。 以下是簡單的解說: **CNN新聞短文內容:** Death toll rises in Israeli strike that killed Hezbollah commanders. 「死亡人數上升,以色列的空襲造成了真主黨指揮官的喪生。」 這是一個簡單的描述,提及以色列的軍事行動導致了人員的傷亡。用「造成 ~ 的喪生」來表達「killed」的意義,即由空襲導致的死亡。 A bag-of-words model is a way of representing text data in which each word in a document is represented by a numerical value, indicating how often the word appears in the text. 同時,**詞袋模型(Bag-of-Words Model)**是一種常見的文字處理技術,將每個詞的出現頻率數值化,以便後續的機器學習或文本分析。 --- **程式部分:** 這段程式碼是利用Python的spaCy庫來進行英文句子的依存分析並生成視覺化圖像。以下是程式執行步驟: 1. 使用 `spacy.load('en_core_web_sm')` 加載英語模型。 2. 對「詞袋模型」的定義句子進行自然語言處理,將其轉化為 `doc` 物件。 3. 使用 `displacy.serve` 方法啟動視覺化伺服器來顯示句子的語法依存結構。 4. `threading` 用來啟動伺服器,並透過瀏覽器來呈現結果。 這種視覺化方法有助於更好地理解句子的語法關係,特別是如何識別主詞、動詞、修飾語等結構。
這影片介紹如何從佛經翻譯和AI翻譯的角度學習英文文法,並理解翻譯過程中的技巧與智慧。透過分析玄奘法師的翻譯方式,我們不僅能提升翻譯能力,還可以深化對語言結構的理解。 玄奘法師在翻譯佛經時,強調精確表達原文的內涵,並將繁複的概念以簡潔、流暢的方式呈現給讀者。這種翻譯智慧啟發了現代的機器翻譯技術,特別是在語法結構分析方面。 我使用Python中的nltk工具來解析一個英文句子,並展示如何運用上下文無關文法(CFG)模擬類似的翻譯過程。 這段程式碼展示了一個基本的語法解析器,它首先將句子進行詞彙標記化,然後根據定義的語法規則,對句子進行結構解析。這個過程模擬了玄奘法師在翻譯佛經時對於語言結構的深入理解——他不僅需要理解字詞的意義,還要掌握如何將這些字詞組織成有意義的句子。 透過這種方式,我們不僅可以學習如何使用語法規則解析英文句子,還能進一步理解翻譯過程中的邏輯和技巧。 關於影片中【佛教經典佳句程式】、【安裝Python】和【安裝NLTK】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
將卡通人物《Rick and Morty》的思想和記憶轉換成虛擬數位人,載入微軟GPT語言模型:Google Colab和PyCharm設計程式介紹 隨著人工智慧和機器學習的進步,將虛構人物的思想和記憶轉換成虛擬數位人並賦予他們交互能力,已成為可能。本文將介紹如何將《Rick and Morty》中的主要角色Rick和Morty的思想和記憶轉換成虛擬數位人,並將其載入微軟的GPT語言模型,最終在Google Colab和PyCharm環境中設計程式來實現這一目標。 步驟1:角色分析與數據收集 首先,我們需要對Rick和Morty進行全面的分析,包括他們的性格特徵、語言風格和典型對話內容。我們可以通過觀看《Rick and Morty》的動畫,提取並標註大量對話數據,這些數據將用於訓練我們的語言模型。 步驟2:數據預處理 將收集到的對話數據進行清理和預處理。這包括去除噪音數據、標記對話參與者和分割句子。可以使用Python的pandas庫進行數據處理,並使用正則表達式進行文本清理。 步驟3:訓練語言模型 我們將微軟的GPT語言模型作為基礎模型,使用Hugging Face的Transformers庫來進行訓練。需要特別注意的是,由於Rick和Morty的對話風格獨特,我們可能需要對模型進行微調(fine-tuning)。 步驟4:部署和交互 訓練完成後,我們可以將模型部署到Google Colab或本地的PyCharm環境中,實現與虛擬數位人的交互。 透過上述步驟,我們實現了將《Rick and Morty》角色的思想和記憶轉換成虛擬數位人,並成功地將其載入微軟的GPT語言模型中。這種方法不僅展示了人工智慧在娛樂領域的應用潛力,也為未來虛擬數位人的發展提供了新的思路。利用Google Colab和PyCharm這樣的工具,開發者可以輕鬆地進行模型訓練和部署,實現與虛擬角色的高效互動。 影片中【RickAndMortyScripts程式和csv資料】的下載網址:github.com/deepmind-python/nltk 請手動複製 github.com/deepmind-python/nltk 至瀏覽器的網址列上,然後在鍵盤上按 Enter鍵。
動動腦,測測你的邏輯思考 過河問題: 有一個農夫手裡拿著一顆高麗菜,帶著狼和山羊站在河的左岸。河上有一艘小船,但農夫一次只能帶一頭動物或是一顆高麗菜上船。另外,如果沒有農夫在場的話,狼會襲擊山羊,山羊會吃掉高麗菜。請問如果想要人、動物和蔬菜都平安無事抵達右岸,該怎麼做比較好呢?請寫出最快的方法。
在人工智慧模擬的猴子世界裡,我們可以用一組狀態和動作來描述猴子的行為及其思考過程。這些狀態和動作用來模擬猴子如何達到目標,例如抓取香蕉。在這個模擬中,猴子可以進行一些基本的動作,如行走、攀爬和推動物體。 這樣的模擬可以幫助我們理解猴子的行為和問題解決能力。Python 中可以使用 pyswi 來植入和操作 Prolog 程式,從而實現這種行為模擬。這種方法在人工智慧和認知科學領域具有廣泛的應用,例如研究動物行為或開發智能代理系統。 狀態表示 猴子的世界中的狀態可以用四個變量來表示: P1: 猴子的位置(例如中間、門口、窗戶)。 B: 箱子的狀態和位置(例如地板上、箱子上)。 P2: 香蕉的位置。 H: 猴子是否擁有香蕉(有或沒有)。 動作定義 猴子可以執行以下動作: 抓取 (grasp): 猴子在中間位置,站在箱子上,可以抓取香蕉。 行走 (walk(P1, P2)): 猴子從位置 P1 走到位置 P2。 攀爬 (climb): 猴子從地板上爬到箱子上。 推動 (push(P1, P2)): 猴子推動箱子從位置 P1 到位置 P2。 模擬過程 整個模擬過程可以使用 AI 語法來描述: move(state(middle,onbox,middle,hasnot), grasp, state(middle,onbox,middle,has)). move(state(P,onfloor,P,H), climb, state(P,onbox,P,H)). move(state(P1,onfloor,P1,H), push(P1,P2), state(P2,onfloor,P2,H)). move(state(P1,onfloor,B,H), walk(P1,P2), state(P2,onfloor,B,H)). 其中 move(State1, Move, State2) 描述了從狀態 State1 經過動作 Move 轉移到狀態 State2 的過程。 可達性判斷 我們可以使用遞迴方式來判斷猴子是否能夠獲得香蕉,定義如下: canget(state(_,_,_,has)). canget(State1):- move(State1, Move, State2), canget(State2). 其中 canget(State1) 表示從狀態 State1 開始,猴子是否能達到 has 狀態(即擁有香蕉)。













