解密人工智能發展史:符號主義vs聯結主義

公园4004
2粉絲
9 次觀看·2024年10月28日
人工智能是當今最引人注目的技術革命之一,甚至有點顯學的味道。然而,AI並不僅僅是一門技術學科,它的發展歷程也深深地嵌入了哲學思想的演進脈絡。
理性主義和經驗主義,作為西方哲學的兩大支柱,在 AI 發展的不同階段分別發揮了重要作用。追求邏輯推理的"符號主義"AI 和強調從數據中學習的"聯結主義"AI,恰恰反映了這兩種哲學傳統的分野。
時間線:
00:00 人工智能的最權威定義
01:26 AI 背後的哲學思想,從兩個主義說起
03:58 符號主義與理性主義
09:09 聯結主義與經驗主義
人工智能的歷史和起源是一個複雜的過程
這一領域不僅僅是科學的嚴謹證明
它還受到了各個學科和相應的哲學思想的影響
什麼是人工智能呢?
我先略過1956年它被命名的歷史
還是說一下它的學科定義
在目前最權威的教科書《人工智能現代方法》裏
進行了非常通俗易懂的解釋
作者列出了一個二乘二的表格,分出了四類
根據研究人員想要達成的目標來定義人工智能
第一橫行是純粹理性對模仿人類
第一列是產生思想對產生行爲
所以根據具體想要實現的目標就形成了四個領域的研究
而在互聯網上
人工智能被粗略地劃分成了兩個流派
連接主義和符號主義
這也是傳播更廣的兩個說法
一些人追求人工智能的設計應該模仿人類的感知或行動
從海量數據裏學習關聯
另一撥人認爲通過抽象出人類關於智能的特點
建立知識庫
通過邏輯學和數學的方式進行推理和學習
這兩種思路不是那種有你沒我的完全矛盾
而是互補的思路
他們最終都會達成一個目的
設計出一種智能的實體
能在各種情況下進行有效的計算,然後安全的行動
人工智能目前涵蓋了各種子領域
從一般性的能力如學習、推理、感知
到特定領域的應用
例如下棋、證明數學定理、寫詩、自動駕駛
或者診斷疾病
AI研究的問題是何爲智能
這個大問題本質上是一個哲學問題
不同學科不同知識背景的人都會參與討論
然而在人工智能領域,科學家和工程師
主要關注的是實現和應用
他們會思考如何改進算法
提升模型的準確性,優化計算效率
處理大規模數據,開發新的應用場景等具體問題
例如科學家可能會探討
如何使得機器學習模型在圖像識別中表現更好
或者如何構建一個更高效的自然語言處理系統
但是這些具體的技術問題背後
還是隱藏着更爲具體的哲學問題
什麼是意識,如何表示知識,什麼是學習
這些問題超越了單一學科的範疇
在歷史中有過大量的討論
不同的哲學觀點會導致截然不同的技術路徑
我們可以從符號主義和連接主義這兩個流派的發展歷史裏
看到背後的哲學觀點
什麼是符號主義,什麼是連接主義呢
我先解釋一下它倆的定義
符號主義也被稱作基於規則的人工智能或經典人工智能
它是一種從高層次概念出發的方法
這種方法非常適合那些有明確規則和目標的應用
比如教AI下國際象棋
符號主義的核心在於使用符號表示世界的不同方面
並通過一套規則來操作這些符號
這種方法依賴於明確定義的知識和推理過程
它試圖通過模擬人類的思考過程來實現智能行爲
符號主義技術包括知識圖譜
語音網絡和決策術等
早期的人工智能進步就是利用符號主義來建模關係和傳遞意義
連接主義是一種自下而上的方法
它模仿人腦及其神經連接
這種方法基於一個觀點,從數據中學習關聯
不依靠鮮豔知識
連接主義模型通過經驗學習
建立起一種分佈式的知識表示
這種表示反映了模型對數據的統計理解和預期
連接主義強調信息在相互連接的節點或單元之間同時進行處理
人工神經網絡就是一種典型的連接主義模型
它通過調整神經元之間的連接權重來學習
從而能夠識別模式和做出預測
從兩者的定義可以看出,符號主義更接近於理性主義
這種思想認爲理性和邏輯推理
是獲取知識的主要方式
理性主義者認爲通過邏輯和推理
人們可以發現普遍的真理和原則
連接主義更接近於經驗主義
這是另一種哲學思想,認爲所有的知識都來源於經驗
特別是感官經驗
經驗主義者認爲,通過觀察和實驗
人們可以瞭解世界並構建知識
先要說明,這兩個流派
不是那種有你沒我的矛盾
而是同時其存在此消彼長,互相借鑑的關係
先說說符號主義這流派如何受到理性主義的啓發
希臘哲學家亞里施多德是最早把思維公式化的人
也就是著名的三段論
三段論的典型例子大家都熟悉
蘇格拉底是人,所有人都會死,因此蘇格拉底也會死
這種推理模式,總是能夠從正確的前提
推出正確的結論,體現了無懈可擊的推理過程
亞里施多德試圖總結這種正確思維的規律
由此開創了邏輯學這一領域
他的研究表明,思維可以用嚴格的形式規則來描述和推導
這就爲後世的邏輯學發展奠定了基礎
到了近代,西方理性主義哲學傳統
深刻影響了人工智能的發展方向
英國哲學家托馬斯霍布斯認爲
人類思維本質上是對符號進行機械操作
他在《利維坦義書》中提出了
心靈就是一臺機器的想法
用他的話說,心臟無非就是發條,神經只是一些油絲
而關節不過是一些齒輪
德國的哲學數學家威廉·萊布尼茲
在1672年製造了一臺機械設備
就是想根據概念而非數值進行機械操作
這種理性主義哲學影響了後世對於智能的理解
在爲人工智能命名的達摩斯會議上
埃倫·紐爾和赫伯特·西門展示了
他們開發的邏輯理論家程序
這是人工歷史上一個重要成就
該程序成功證明了伯蘭特·羅素的數學原理中
第二章的大量命題
展示了計算機程序在邏輯推理方面的潛力
到1957年紐爾和西門更進一步
設計了通用問題求解器程序
它的核心思路就是對問題分而制止
GPS解決問題的方式是這樣的
它先明確問題的初始狀態和目標狀態
然後將問題分解爲若干子問題
一步步縮小現狀與目標的差距
直至最終達成目標
在這個過程中
GPS會搜索能夠滿足各個子目標的操作方法
並應用這些方法生成新的狀態
它會不斷重複這一流程
分解問題,尋找方法,應用方法,評估狀態
最後找到一個完整的解決方案
GPS提出的這套問題解決模型
實際上抓住了人類理性思考和行動的基本規律
因此運用到很多領域
以前流行的專家系統
本質上就是把GPS的思路
應用到醫療,法律,金融等特定行業
在人工智能發展的早期階段
符號主義的思路應用廣泛
最具代表性的就是專家系統
專家系統就像一個特定領域的知識大全
它囊括了該領域的專業知識
並且能夠根據這些知識
對問題進行推理和判斷
所以它的設計架構就分爲了兩部分
一部分是知識庫,用於存儲各種專業知識
另一部分是推理引擎
負責根據知識庫的內容進行分析和推理
這兩部分系統共同組成了這個專家的大腦
第一個著名的專家系統是Dendro
它被設計成一個化學家
它的知識庫中存儲了大量的化學知識
特別擅長識別未知的有機化合物
Dendro的誕生離不開三位科學家
人工智能專家菲根·鮑姆
他是人工智能先驅赫伯特·西門的學生
諾貝爾醫學獎得主萊德伯格
以及從哲學家轉行爲計算機科學家的布魯斯·布凱南
1971年菲根·鮑姆等斯坦福大學研究人員
啓動了啓發式變身項目
探索專家系統在其他領域方面的應用
在專家系統的發展歷程中
還有一位名叫麥森的醫學專家系統值得一提
他由斯坦福大學的生物學家
在導師布魯斯·布凱南的指導下開發
專門用於血液感染的診斷
麥森的知識庫包含了大量從醫學專家那裏訪談
爲此開發者在這個系統中加入了不確定性計算
在上世紀80年代
像麥森這樣的專家系統如雨後春筍
在醫療工程金融領域迅速崛起
當時專家系統的熱度毫不亞於今天的大圓模型
幾乎所有美國大公司都成立了自己的人工智能團隊
然而專家系統也暴露出一些侷限性
爲複雜領域構建知識庫是一項艱鉅的人物
而這些系統缺乏從經驗中學習的能力
就像一個死機硬背的學生
遇到新問題就束手無策
因此在經歷了幾年快速膨脹之後
專家系統的熱潮退去,人工智能的冬天來臨
其實早在人工智能的起步階段
圖靈就預言人類的行爲太複雜了
任何一個形式化的規則機都無法完全模擬
哲學家休伯特·德雷福斯對此深有同感
德雷福斯在他的多部著作裏反覆強調
人工智能領域流行的符號主義存在很大問題
這種方法試圖用一串串符號來表示知識
並通過邏輯推理來解決問題
他忽略了人類智能中的很多非理性因素
比如直覺、情感、身體感知等
也許就像中文房間這個思想實驗表達的一樣
假設一個不懂中文的人,拿着一本字典
被關在一個房間裏,按照指示
將收到的中文訊息翻譯並傳遞出去
在外人看來,房間內的人似乎理解了中文
但實際上他不過是在機械地操作符號
由於對內容毫無理解,他也不能做出更好的翻譯
隨着越來越多的人開始反思符號主義的侷限性
以及現實中的AI系統頻頻掉鏈子
研究者意識到,要創造真正的人工智能
必須換一條更接近人類本質的路子走
於是一個叫連接主義的流派開始崛起
人工智能的誕生離不開一個重要思想的影響
控制論,這個聽起來有點高大上的名詞
其實是科學哲學家諾伯特維納
在20世紀40年代提出的
控制論研究的是機器和生物系統的共同原理
特別關注信息反饋和自動控制
打個比方,在你開車時你會根據路況不斷調整方向盤和油門
這就是一種反饋和控制
控制論認爲,這樣的原理不僅存在於機器,也存在於生物當中
這種思想對早期的人工神經網絡研究產生了重要影響
與經典人工智能不同
神經網絡的先驅們更多地從生物學、通信
和工程的角度來模擬智能
他們希望模仿大腦的結構和功能來創造出真正的人工智能
其中麥卡洛克和沃爾特皮茨是控制論的重要追隨者
1943年他們提出了一個數學模型
用來描述神經元的工作原理
這個模型有兩個關鍵點
第一,如果神經元受到抑制,即使有再強的刺激,它也不會被激活
第二,如果抑制因素消失
刺激強度超過一定閾值,神經元就會被激活
麥卡洛克和皮茨的模型被稱爲MP模型
它用數學和邏輯的方式描述了神經網絡的行爲
這個模型雖然簡單,但卻爲神經網絡的研究奠定了基礎
如今人人都聽說過人工神經網絡
說起喬斐·辛頓等大佬,大家都會說他們是連結主義流派的代表人物
神經網絡的發展可謂跌宕起伏
在1950年代末,弗蘭克·羅森布拉特提出了感知器模型
正式拉開了神經網絡研究的大幕
提到連結主義,通常會提到這本論文集
1987年出版的這本論文集
彙集了反向傳播算法在當時的最新研究
這些研究被應用到計算機科學和心理學領域的問題當中
引起了很大反響
然而由於計算能力的限制,神經網絡的研究在90年代陷入了低谷
直到2006年前後
以喬斐·辛頓爲代表的學者提出了深度信念網絡
深度學習這把火才重新燃燒了起來
之後利用GPU進行訓練
才讓人工智能迎來了更大範圍的流行
當代AI領域的快速發展受益於深度學習技術的發展
可以說是經驗主義的哲學在AI領域的體現
經驗主義認爲知識源於經驗
這觀點可以追溯到17世紀英國哲學家弗朗西斯·培根和約翰·洛克
培根在其著作《新工具》中提出
科學知識應當建立在經驗和實驗的基礎上
洛克則明確指出
知識歸根到底都來源於經驗
人出生時心靈就是一張白紙
知識是通過感官經驗逐漸積累起來的
進入20世紀維也納學派的哲學家們
將數理邏輯引入經驗主義
發展出邏輯實證主義
這個學派可以說是對理性主義和經驗主義的結合
在現實世界中很少有人是純粹的理性主義或者經驗主義者
大多數人都認爲知識的獲取需要理性和經驗的結合
人工智能的研究也反映了這種綜合觀點
比如在以神經網絡爲代表的連接主義當中
雖然主要靠數據驅動學習
但網絡的設計和特徵的選擇
卻離不開鮮豔知識的指導
而以專家系統爲代表的符號主義
雖然重視邏輯推理
但也常常利用機器學習算法
從數據中學習和優化知識
隨着認知科學的發展
學界已擴展了對心智的看法
具身認知 情景認知 分佈式認知
以及社會和文化的認知
都可能爲AI的發展提供新的擴展
無論如何 人工智能的發展歷程已經遠遠超出單純的技術範疇
