人工智能是機會還是災難?它會有自主意識嗎?| 天天探秘(中文屋思想實驗,通用人工智能,圖靈測試,科普,計算機之父,AI)

天天探秘
93粉絲
歡迎來到天天探秘,這期我們講的是:人工智能的過去與未來(中文屋思想實驗,通用人工智能,圖靈測試,科普,計算機之父,AI)。
包括OpenAI和谷歌Deepmind負責人在內的數十名專家在人工智能安全中心(Center for AI Safety)網頁上發錶一份聲明稱:“減輕人工智能造成的滅絕風險,應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項。”
確實,以現在的發展速度看,人工智能的技術更新以指數級的速度增長。那麽,人工智能現在發展到什麽階段了?它有可能發展出自主意識嗎?它是人類徵服世界的工具還是未來毀滅人類的災難呢(中文屋思想實驗,通用人工智能,圖靈測試,科普,計算機之父,AI)?
隨著計算機運算能力的快速發展,它究竟能否發展出自主意識而不只是人類的工具呢?這個問題既取決於我們如何理解計算機能做什麽,也更取決於我們如何理解人類的自主意識是什麽。
我們回到過去,先看一個早期人工智能發展史上著名的思想實驗。在人工智能發展史上非常著名的“中文屋”思想實驗。它的提出者是美國哲學家約翰•塞爾。中文屋思想實驗的目的是反對以圖靈為代錶的強人工智能的觀點(中文屋思想實驗,通用人工智能,圖靈測試,科普,計算機之父,AI)。
#人工智能 #圖靈測試 #自主意識 #科普
AI 生成·可能包含錯誤
包括OpenAI和谷歌DeepMind負責人在內的數十名專家
在人工智能安全中心網頁上發表一份聲明稱
減輕人工智能造成的滅絕風險
應該與流行病和核戰爭等其他社會規模的風險一起成爲全球優先事項
確實以現在的發展速度看
人工智能的技術更新以指數級的速度增長
那麼人工智能現在發展到什麼階段了
它有可能發展出自主意識嗎
它是人類征服世界的工具
還是未來毀滅人類的災難呢
歡迎來到天天探祕
這期我們講的是人工智能的過去與未來
人工智能會有自主意識嗎
隨着計算機運算能力的快速發展
它究竟能否發展出自主意識
而不只是人類的工具呢
這個問題既取決於我們如何理解計算機能做什麼
也更取決於我們如何理解人類的自主意識是什麼
我們回到過去
先看一個早期人工智能發展史上著名的思想實驗
假設一個外國人被鎖在一間屋子裏
屋子裏有用中文寫的機關名稱
他不斷地收到從屋外遞進來的紙條
紙條上不僅有中文符號
還有一套用英文寫的規則
告訴他如何使用機關上對應的中文符號
最後他完全照指令做了
並解鎖了所有的機關
那麼在屋外的人看來
我們會認爲這個外國人確實懂中文了嗎
顯然不會
他只是按照英文的指令處理中文符號而已
這就是在人工智能發展史上非常著名的中文物思想實驗
它的提出者是美國哲學家約翰塞爾
中文物思想實驗的目的是反對以圖靈爲代表的強人工智能的觀點
所謂的強當然是與弱相對的
按照弱人工智能的觀點
人工智能只是我們人類設計出來的程序
它是人類用來改造世界的工具
但強人工智能的觀點就不同了
他認爲人工智能並不只是工具而已
而是有可能擁有自主的意識
能夠像人類一樣通過學習來理解和認識這個世界
塞爾用中文屋的思想實驗想說明的是
人工智能只不過就是中文屋裏的人
儘管他能處理中文的符號
解決中文相關的問題
但這絕不是說他就理解了中文
實際上人工智能只是按照規則做運算
通過運算得出結果
它沒有主觀目的性
這並不是人類思考問題與找到答案所用的方式
所以按照約翰塞爾的觀點
強人工智能只不過是一種美妙的遐想或毫無理由的擔憂
人工智能充其量只能是人類自主意識開發出來的工具
而它不會成爲自主意識本身
中文屋思想實驗曾引起了廣泛而熱烈的討論
計算機能做到哪些事情
纔會被看作是有了人類的自主意識呢
要回答這個問題
我們首先需要弄清楚一個更基本的哲學問題
那就是人類的自主意識究竟是什麼
從2000多年前的古希臘蘇格拉底的時代以來
哲學家就開始了探討這個問題
我們怎樣認識人類的意識
決定了我們能否設計出
具備人類意識的智能機器
人類意識與人工智能的一同
自古以來很多人都有一種普遍的直覺
他們認爲人的意識和身體不是一回事
身體更像是一架設計精良的機器
骨骼與肌肉的搭配
各個系統的協調
都要遵從一定的生理定律
人的意識則不然
它似乎無邊無際
不佔有具體的空間
既可以感知客觀世界
又能夠恣意地想象
乃至做白日夢
不僅普通人
很多哲學家也是這樣想的
比如
十六世紀的哲學家笛卡爾就認爲
人的意識與身體互不隸屬
相互獨立
是兩類完全不同的東西
然而
現代科學證明
心智是人類大腦實現的功能
如果人的大腦損傷了
它通常也會產生心智方面的問題
如果真是這樣
那人的心智不過是身體實現的功能
那麼身體或許也能用其他機器來替代
以實現人類心智的功能
這也是近代人工智能研究的理論前提
人類是從什麼時候開始研究人工智能的呢
目前科學界普遍認爲
1956年
馬文明斯基等四位美國科學家
共同發起了達特茅斯人工智能夏季研究計劃
這個計劃開啓了人工智能領域的研究
人們剛剛開始研究人工智能的時候
出現了兩個截然不同的方向
分成了兩個派別
他們分別是設計派和學習派
人工智能研究的早期
大部分人都屬於設計派
設計派認爲
只要給出明確的符號
規則和方法
編寫程序輸入計算機
就能讓計算機擁有理性思考的能力
比如在19世紀
英國劍橋大學有一個數學教授
叫查爾斯·巴貝奇
他設計了一臺分析機
完全用齒輪等機械部件來實現計算
在剛開始
計算和推理最容易在機器上實現
比如當你聽到有人說外面下雨了
自然的推論處出門要帶傘
這就是一個人類常見的推理過程
把它編碼爲符號規則
就能夠在計算機上實現
在這個推理中
人類的心智能夠理解與和傘的概念
以及兩者之間的內在聯繫
雖然在計算機的推理中
機器所處理的不過是一連串符號
這些符號對機器來說毫無意義
但機器在最後根據運算規則
卻剛好輸出了我們人類所理解的內容
所以儘管計算機上實現的計算與推理
與人類的推理活動有相似之處
但機器並不能理解計算與推理的意義
這就很類似於中文烏的說法了
雖然計算機能夠高效地回答和解決問題
但它自己並沒有理解這個問題的意義
人類則不同
所有推理判斷都必須建立在理解的基礎上
我們不是像計算機一樣
機械地根據規則去運算
對於完全不理解的問題
我們人類不可能做出任何推理或回答
然而很多人工智能專家說
不能簡單地用人類理解的標準來要求機器
計算機的理解有另外一套標準
計算機科學之父和人工智能開拓者圖靈
有個很著名的論斷
也被稱爲圖靈測試
他認爲只要機器做出的回答與人類的回答不可分辨
機器實際上就已經在理解了
很多人就說按照圖靈的這種觀點
中文烏作爲一個系統的確是理解中文的
儘管中文烏里的人並不懂中文
但只要這整個系統所提供的答案
與人類的回答沒什麼區別
那麼這就已經具備智能
這就說明系統已經具有理解能力了
至少說在計算和推理層面上
計算機確實已經實現了人類的智能的相似結果
那麼人工智能僅僅就是使用符號的計算嗎
它在發展中有哪些缺點需要克服呢
早期的設計派
我們前面說了計算與推理
是機器最容易實現的人類意識的運作方式之一
而計算與推理最鮮明的特徵就是使用符號
數字是最普通的計算符號
比如如何教小孩子做算術呢
實際上就是要教會他使用數字的運算規則
推理也是這樣
我們前面說從外面下雨推理出出門要帶傘
這就是利用了下雨和帶傘之間的符號關係
計算機或許沒有雨傘的概念
但它完全可以有代表雨和傘的符號
利用這些符號計算機就可以做推理
而它所得到的結論也可以完全符合人類推理的結果
在人工智能發展的早期
人們相信只要恰當的設計程序算法
使用符號的計算就能實現完全的智能
在這種信念的背後
其實是西方哲學兩千多年的理性主義傳統
相信理性能力就足以解釋人類的所有智慧
設計派在人工智能的發展史上
也被稱作符號主義
在符號主義者看來
人類的智能不管多麼複雜
歸根到底都是由符號計算來實現的
不管是愛因斯坦構思相對論
還是羅納爾多創造精彩射門
甚至任何看起來不起眼的手工技藝
比如剪紙捏泥人
書法篆刻等等
他們所體現的人類智能
說到底都是一些複雜的計算
所以只要計算機科學家設計了適合的程序
計算機早晚有一天能夠憑着符號的計算
也能提出相對論
創造羅納爾多的射門
而剪紙捏泥人和書法篆刻就更不在話下了
但是計算機只能執行包含零和一的機器語言
所以計算機的運算
說到底就是要把運算規則
轉換爲只包含零和一的程序
但是就像夏季一樣
計算機的下一步究竟應該如何走
有很多選項
它要做的就是在可能的選項中搜索最佳的方案
運算就是在考慮所有可能的選項情況下
找到最優解
而這個選項的集合是非常龐大的
而隨着求解的問題越來越複雜
搜索所需要的計算能力
也是以指數的方式在增長
這樣一來
對計算機運算的能力要求越來越高
比如曾經計算機在中國象棋上相對容易表現出智能
但圍棋的人工智能程序
曾經在很長時間內表現的一點也不智能
這就是因爲圍棋求解的組合要比象棋複雜的多
這正是符號主義難以解決的問題
今天的人工智能引起如此大的轟動和關注
可以說是源於AlphaGo在圍棋上取得了突破
但AlphaGo恰恰不屬於符號主義
它是基於神經元網絡的機器學習
就連後來的OpenAI公司的ChaiTTPT和Solar都是神經網絡人工智能
它跟符號主義相比到底是怎樣的人工智能研究理念呢
神經網絡人工智能符號主義源自於西方哲學中的理性主義傳統
但這一哲學思想在18世紀遭到了一位思想巨匠的深刻批評
他就是英國哲學家大衛休謨
休謨認爲源於人類意識的很多判斷
比如對因果關係的判斷
儘管表面上看起來是依據理性和推理
實際上僅僅是源於我們的習慣
這種習慣往往是在重複經驗中實現的
比如教一個小孩子要遠離火併不需要什麼計算或推理
只需要讓他手靠近火苗
他就會有灼燒感
然後反射性的縮回手
那麼下次他在見到火苗的時候就知道要小心躲避了
休謨的這種觀點後來在神經科學中得到了證實
科學家發現神經元之間通過突出連接
當兩個神經元同時得到頻繁的刺激
兩者之間的突出就越牢固
連接的強度也就增高
這其實就是人類的學習過程
我們讀書的時候都有類似的經驗
當我們背誦英語單詞的時候
我們會去想象這個單詞代表的事物畫面
只需要刻意多重複幾遍
這個單詞的意思就會牢牢記住
這就是在強化不同神經元之間的連接
既然人類的智能在大腦中實際上就是這樣來實現的
那麼爲什麼人工智能不能以相同的模型來實現呢
這種區別於理性主義傳統
而主要受修摩和神經科學思想啓發的人工智能研究理念
就是連接主義
也叫學習派
學習派的代表人物是馬文明斯基
就是我們之前提及的1956年
達特茅斯人工智能夏季研究計劃的發起人
他在1969年出版了一本書叫感知器
書中提出要向人工智能解決更復雜的問題
必須要把更多感知器連接起來組成人工神經網絡
與符號主義不同
連接主義認爲人工智能的首要任務是建立類似大腦的模型
它不是預先給定解決問題的算法
而是構建一個在計算機上模擬的神經元網絡
讓機器自主的建立不同神經元之間的連接
通過最終結果的反饋
不斷調整連接的模式
最終逼近最優解
在整個過程中
計算機就像人類那樣
在大量的經驗數據中學習
由於機器處理數據的能力遠超人類
所以學習效果也會大大超越人類
設想一下
你家的冰箱不工作了
你需要找出原因出在哪兒
該怎麼辦呢
顯然
首先需要考慮有哪些因素能造成影響
比如是冰箱壞了
還是電路老化短路了
還是插座不通電了等等
然後就需要根據假設挨個檢驗
通過反饋的結果不斷排除虛假的因素
最終找到真正的原因
人工智能的神經網絡學習
也是這樣的試做法
當然它可能面臨的任務極爲複雜
比如下圍棋
它所考慮的因素也極其豐富
超過人類大腦所能同時處理的能力
而且計算機上實現的神經網絡還是分層的
不同層次上的神經元連接被分配到不同的權重
通過最終輸出的結果與最優結果之間做比較
反饋回來再調整連接的方式與權重
AlphaGo正是在這種乘百萬上千萬次的反覆試錯
調整中
學會了如何在圍棋遊戲的每一步都找到最優節
從而能夠擊敗人類的圍棋冠軍
顯而易見
連接主義特別強調從經驗學習中獲得智能
所以就避開了符號主義過度強調理性推理的弊端
從而讓人工智能獲得了突破性的進展
但這也帶來了新的問題
它實在太過執着於經驗了
而且它並不會區別地對待經驗
人類固然是從經驗中學習
但人類的智能就體現在我們
從不好無差別地對待一切經驗
而總是選擇性地重視某些經驗
忽略一些無關緊要的經驗
連接主義的人工智能則要在海量數據的試作學習之後
才能獲得某些在人類看來十分簡單的結論
這種表現看起來可不太智能
更重要的是
人類的學習是有創造性的
我們不僅能從經驗中把握固有的聯繫
還能舉一反三地創造
以前從未建立過的神經元連接
如果不能實現這一點
基於神經網絡的人工智能機器學習
就只能依賴於設計者提供給他的智能
而並不是自己產生的智能
總的說來
連接主義的神經網絡人工智能取得了重要的進步
但過於依賴經驗數據
也是它所面臨的新問題
那我們離理想的人工智能究竟還有多遠呢
這就是我們要說的人工智能的理想狀態
通用人工智能
不用多說
你肯定也能感覺到
目前人工智能所達到的水平
與那些科幻小說與電影裏描繪的人工智能
還有不小的距離
現在實現的都只是專門的人工智能
而不是通用性的人工智能
比如AlphaGo
它是被設計來下圍棋的
再比如OpenAI公司的Solar
它是用來生成視頻的
而在科幻小說或電影裏
通用性的人工智能
人工智能意味着它是人類心智的再造與替換
幾乎就是一個完整的個人
它能夠做人類心智的所有任務
而不侷限於某一類專門任務
它不僅會下圍棋
又會炒菜
還會談戀愛
我們每個人類的心智都是多面瘦
而現階段的人工智能
往往只能在某一個層面充分發展
其次
人工智能可能永遠無法理解人類的情感
且不說人工智能目前沒有自主意識
就連人類情感上的各種感受
體悟
情緒與痛苦
它也不能做到感同身受
以目前最先進的神經網絡人工智能爲例
如果要訓練計算機理解情感和動機
比較可行的就是着眼於讓機器學習
如何根據情緒產生行爲的目標
人類的情感的確能產生行爲目標
假如你非常愛慕某個女孩
你可能就會產生把她追到手的目標
但即使做到了這些
這還不是人類情感最核心的部分
我們通常會說
如果你非常愛慕一個人
你就會體會到愛慕之情帶來的那種幸福
甜蜜
糾結又失落的感受
如果沒有這些感受的體驗
或者對這些感受麻木不仁
那就不叫真正愛過一個人
也就無法理解情感爲何物
換句話說
情感最本質的內涵應該是對情緒的主觀感受
而這恰好是人工智能難以實現的
所以我們所造出的人工智能機器
哪怕能夠實現根據情感產生某種行爲
也仍然缺乏情感的主觀感受
這就是當代哲學中非常有名的殭屍論
我們這裏所說的殭屍是說
任何人都可以設想自己有一個這樣的複製品人工智能
他不論從外觀上還是說話做事
行爲舉止上都和自己一模一樣
但唯一有一點不同就是殭屍沒有你的主觀感受
他也可以說紅色
但並沒有我們看到紅色的那種感受
他可以說疼痛
但他從沒有痛感
他更可以說愛與恨
但同樣不知道愛恨情者爲何物
總之
這個像殭屍一樣的複製品
雖然能夠模仿人類的情感功能
但是缺乏人們對情感的主觀感受
而最根本的困難可能還在於
對人工智能來說根本還沒有一個自己
他沒有形成自我意識
沒有把自己看作一個我
從而也就不可能有主觀的視角
那麼機器實現自我意識需要哪些條件呢
赫伯特德雷福斯教授是美國麻省理工學院對人工智能的發展
產生過重要影響的當代哲學家
他提出人工智能要想真正實現自主意識
就不能僅僅把智能當作是發生在人類大腦中的事情
而必須認真思考身體對智能的意義
比如網球運動員面對快速飛來的網球
沒有猶豫
更沒有時間思考
他的手臂就像自然反應一樣
發力揮動球拍
球就被準確擊中並改變飛行的方向
在更多的時候
人們就像這個網球運動員一樣
運用身體的自然反應
自如地與世界打交道
這種包含着身體在內的智能
在今天的哲學中有一個專門的說法
叫做攝身認知
與此相反
過去的哲學家是過於強調認知的理性面了
不管是設計派還是學習派
都是把智能和認知看作人類心靈的產物
根本不考慮身體的狀態
但是假如智能和認知本質上就涉及身體
假如攝身認知的觀念是正確的
那麼符號主義與連接主義就都有各自的侷限
人工智能的發展勢必還需要由新的觀念來引領
或許當有了通用人工智能
當通用人工智能的行爲模式
能做到從身體的不同主觀感受來
自主選擇行爲的時候
纔是解鎖人工智能自主意識的時候
神經網絡人工智能的先驅特倫斯·謝諾夫斯基
在深度學習中提出
人工智能在未來發展過程中
可能會遇到以下三個挑戰
人工智能的三個挑戰
根據目前的人工智能的發展來看
人工智能發展的挑戰
很有可能問題不會出在計算機那邊
而是出現在我們人類這裏
首先人類越來越看不懂神經網絡人工智能
有一位人工智能專家做了一個比喻
人工智能的深度學習越來越像是煉丹
我們知道計算機能給我們一個好結果
可是這樣的結果是怎麼出來的
越來越難以解釋
就像AlphaGo與人類對弈時
那匪夷所思的一手棋
雖然連圍棋高手當時都很難解釋
但是實際的結果證明那樣是更好的選擇
圍棋高手都是通過後來的覆盤
才慢慢懂得了他背後的思路
可是當人工智能覆蓋到更多的領域
比如醫療領域 無人駕駛
那麼當計算機給出一條
讓我們覺得匪夷所思的指令時
我們敢相信計算機嗎
那個時候恐怕我們在沒有找到合理的解釋之前
不敢輕易讓計算機做主
因爲我們無法確定
那匪夷所思的指令到底是計算錯誤
還是真的是我們想不到的更好選擇
其次 人工智能的下一個瓶頸
可能是因爲我們對自己缺乏瞭解
回頭看人工智能的發展
我們對計算機的設計越來越模仿我們人類的大腦
可是直到今天
我們對於自己的大腦真的沒有那麼瞭解
雖然計算機已經如此強大
但是大腦的計算能力和精巧設計仍然遠超計算機
舉個例子
英國皇家學院院士倫敦大學的著名神經科學家
曾做過實驗
人類大腦執行運算的次數是每秒4400一次
而大腦的功率大概只有20瓦上下
和家裏的檯燈能耗差不多
而我們一臺普通的家用電腦功率
也要在300瓦左右
更不要說超級計算機
它們的功率都是驚人的天文數字
大腦不止硬件上特別省電
在算法上似乎也比人工智能要高明許多
人工智能中使用的算法在運行了數十一個步驟之後
卻常常得不出一個正確的結論
而大腦只需要經歷大約100個步驟
通常就會得出一個正確的結論
人工智能想要繼續發展
看來還要繼續向人類的大腦學習
可是我們對於大腦的工作原理
目前還認識的相當淺
人工智能的第三個瓶頸
可能來自於芯片領域
芯片也有一個特別有名的規律
叫摩爾定律
就是每隔兩年
芯片內晶體管的數量增加一倍
這種指數級增長
隨着時間的積累會很可怕
兩年翻一倍
十年之後就是三十二倍
從二十世紀七十年代一直到現在
摩爾定律持續了將近五十年的時間
這是什麼概念呢
今天的同樣大小的芯片
比當年的運算能力至少高出一百萬倍
可是有計算機科學家預言
摩爾定律已經快要失效了
摩爾定律的核心思路
是讓同樣大小的芯片裏邊的晶體管數量增加
這就要求晶體管必須越做越小
可是這種縮小是有限度的
物理定律約束了它的極限
計算機芯片正在快速逼近這個極限
除非計算機科學家設計一種全新的芯片結構
甚至找到一種新的物理材料
否則摩爾定律失效的那一天
就是人工智能遇到瓶頸的時候
今天的人工智能雖然已經能模擬上一個神經元
但是和真正的人腦相比
規模還僅僅是1%
如果計算機算力不能繼續成倍的增長
那麼人工智能就無法達到人腦的深度
總之
從專門化的人工智能與通用性人工智能的區別
從人類情緒的主觀感受
自我意識和攝身認知等幾方面來看
今天的人工智能離跟人類相當的人工智能水平
還相距甚遠
但這並不代表未來就沒有實現的可能
縱觀歷史
人工智能的進步依賴於提出創新性的思想與方法
人工智能設計派的提出
學習派人工智能對設計派的超越
以及攝身認知的新方向
都是人工智能研究不斷進步的例子
可以預見
未來還會有人提出更具創造性的人工智能思想
讓機器擁有自主意識
或許會逐步成爲現實
但是這對人類來說究竟是機遇還是災難呢
或許這個問題只有那一天到來的時候才能真正找到答案
感謝觀看天天探祕
我們下期見
