[中配]AI模型工作原理解析:基礎與進階

深入探討探討
74粉絲
3 次觀看·2026年4月29日
AI 生成·可能包含錯誤
如果你在關注最新的人工智能動態,
可能會習慣性地聽到模型這個詞。
擴散模型,大語言模型,神經網絡模型,
我們會逐一講到這些,
但首先讓我們從三個基本問題開始。
模型到底是什麼?
它是如何工作的?
以及如何改進它?
首先,什麼是模型?
模型以簡化的方式代表現實。
我們這樣做是出於實際原因,
比如爲了做出更好的決策或預測結果。
例如,一個財務模型將成本和收入
簡化爲電子表格,
這有助於預算和投資決策。
或者以結構模型爲例,
它通過關鍵特徵來代表一座建築。
這讓我們在施工前對設計進行壓力測試。
當然,這裏我們談論的是人工智能模型,
在這個入門中我們所指的就是模型。
人工智能模型模仿人類智能的某個方面,
例如寫出合乎邏輯的句子或識別圖像。
這是一個主觀的定義,
人工智能與否的界限並不明確,
值得討論。
從根本上說,
模型就是一個輸入輸出的機器,
根據給定的輸入,
它按照一定的程序生成輸出。
這引出了我們的第二個問題,
模型是如何工作的?
讓我們用一個非常簡單的例子。
假設我們要開一家新零售店,
並希望預測它的平均銷售額。
我們可以使用一個模型,
旨在輸出銷售估算。
這需要兩個不同的步驟。
首先,構建能夠進行準確預測的模型,
然後將其應用於我們特定商店的預測。
構建步驟需要決定三件事。
首先,選擇哪個輸入變量。
許多因素會影響一家商店的銷售,
比如商店的面積、郵政編碼、
平均產品價格等等。
這些都是潛在的輸入變量,
它們都可以幫助預測銷售。
爲了簡化,
我們暫時只選擇一個變量,
就是店鋪的大小。
其次,我們必須確定
模型將如何將這些輸入轉化爲輸出。
這意味着定義模型的基本數學形式,
這可能是一個簡單的線性關係,
也可能是更復雜的神經網絡。
我們稍後會再提到這個。
我們可以通過查看樣本數據點
來獲得一些形式的想法。
假設我們有十家店鋪,
並且我們知道
它們的大小和平均銷售額。
顯然存在一種關係,
較大的商店似乎銷量更高。
我們來選一條簡單的直線
來描述這個輸入輸出關係。
形式就是輸出的銷售額,
我們稱之爲
我們稱這個爲
確定參數值是構建步驟的第三部分。
問題是什麼樣的a和b值
會產生最佳擬合的直線?
有很多方法可以找到答案,
比如通過簡單的數學計算
或通過反覆的試錯過程。
在這種情況下,
最常見的方法是
簡單迴歸連Excel都能做到。
在這裏,
我們正在調整模型
以適應我們的樣本數據。
如果我們有不同的樣本數據,
調整的結果
將會得到不同的a和b值。
這個調整步驟也叫訓練。
樣本數據稱爲訓練級,
所遵循的具體方法
稱爲訓練算法。
訓練的另一個詞是學習。
當計算機算法
也就是機器
用於學習最佳參數值時,
我們稱之爲機器學習,
或稱ML。
機器學習是一種人工智能。
是的,
這個簡單的線性模型
是一個人工智能模型。
儘管這裏也有一些爭議。
模型構建步驟已完成。
我們已經定義了
輸入變量和數學形式,
並根據樣本數據
優化了參數值。
輸入輸出機器
已準備好使用。
那麼現在讓我們來使用它。
爲了應用模型,
我們輸入商店的規模,
它就會輸出
相應的銷售估算。
那太簡單了,
可能太簡單了。
我們可以調整模型
以做出更好的預測。
這是我們第三個問題,
如何改進模型?
首先,
我們可以簡單地找到
更好、更具預測性的參數值。
我們可以通過
在更大的數據集上重新訓練,
或使用不同的訓練算法來實現。
我們還可以通過
添加輸入變量來改進模型,
比如商店的郵政編碼
和平均產品價格。
添加變量也會意味着
增加額外的參數。
最後,
我們還可以改變數學形式。
與其用直線,
也許用曲線更能貼合數據。
這也意味着更多的參數。
通常,
具有更多參數的
更復雜數學形式
可以更好的編碼
微妙地輸入輸出關係。
這往往會帶來更好的預測。
爲什麼?
更多的參數
讓我們在訓練過程中
有更多的調節選項。
但是,我們需要小心。
如果我們的訓練集很小,
增加參數可能會導致
模型的準確性降低。
假設我們只有四個樣本商店,
即訓練集中只有四個實體,
將我們的線改爲一個
具有四個參數的曲線,
意味着完美地匹配這四個點。
但當我們將模型
應用於實際輸入數據時,
這條曲線可能完全不準確,
直線可能更好。
這個問題被稱爲過擬核。
過擬核有點像陰謀論,
用幾個數據點
去尋找根本不存在的模式。
爲了增加參數並避免過擬核,
你需要添加更多的訓練數據。
使用更多數據進行訓練
需要更多的計算能力,
往往要多得多。
這就是爲什麼
Chad GPT背後的模型
擁有1750億個參數,
只有在最近幾年才得以實現,
得益於計算技術的進步。
那麼我們如何從迴歸模型的例子
轉到GPT-4呢?
我們會一步一步地在那裏建設。
