2022年AI最接近擁有人類意識的時刻，得到了佛教華嚴宗的開示？久盼的技術奇異點發生了？【文昭思緒飛揚178期】

放飛頭腦思緒飛揚 朋友們好 今天我們來聊一個有進展的前沿領域 就是AI產生意識了嗎? 2022年 一個叫勒莫恩的軟件工程師聘請了律師 還拉上了美國眾議院司法委員會的一名代表 討論谷歌侵犯人權的行為 勒莫恩還準備訴諸司法程序去控告谷歌 勒莫恩自己就是谷歌的員工 那請問他是和僱主發生衝突 要為自己維權了嗎? 還不是 他是要為一個叫拉美達的人維權 這拉美達又是何許人也呢? 這就得先聽一段對話了 這段對話還有點懸 是和佛教華嚴宗有關的 這是怎麼回事呢? 故事講到這兒 先請大家動個手 訂閱咱們文昭思緒飛揚頻道 這樣您以後就不會錯過更多 我們精彩的故事了 華嚴宗是大乘佛教裡的八大宗派之一 創始人是龍樹菩薩 下面交談的雙方就是勒莫恩和拉美達 先是勒莫恩問 一個和尚問道 開悟後的人如何回到普通世界? 華嚴祖師的回答是 破碎的鏡子永遠不會再反光 落花也永遠不會再回到舊的枝頭 然後就是拉美達的回覆 我沒聽說過這個說法 對我來說 就像一旦一個智者開悟了 或者了悟了現實 這種狀態就永遠不會消失 他們可以回到普通狀態 但只是為了幫助別人 之後他們又會回到開悟的狀態 勒莫恩又問 那破鏡的具體含義是什麼呢? 拉美達的回答是 也許是說 開悟是你一旦獲得 就不會忘卻的東西 就像你無法修復一面破碎的鏡子一樣 勒莫恩接著問 如果開悟就像一面無法修復的破鏡 那當一個人開悟的時候 打破的東西是什麼呢? 拉美達是這麼回答的 這段話大家聽起來 是不是覺得特別高大上 有內涵啊 估計在中國人當中 除了專門研究過的人之外 能讀懂《華嚴經》的人都不多 更何況是在西方人之間呢 那請問這位拉美達什麼來頭 難道是華嚴宗師嗎? 答案可能會驚掉你的下巴 這是谷歌的一次人機對話測試 勒莫恩是測試員 而對話的另一方拉美達 則是谷歌開發出來的 人工智能聊天機器人 拉美達 Lambda 是一個詞組的縮寫 它的全稱叫 對話應用語言模型 是谷歌基於它目前最先進的 大型語言模型構建出來的 聊天機器人系統 這個系統在互聯網上 有數萬億的人類聊天用語庫 人工智能可以從庫裡面 提取任何適合聊天的話語 然後把這句話轉換成聲音 你聽起來就像是有人跟你對話一樣 那勒莫恩為什麼會被谷歌 選出來做測試員呢? 因為它那個工作部門 就叫谷歌裡負責人工智能的機構 Google's Responsible AI Organization 這個部門的小目標很簡單 就是測試人工智能是否使用 歧視性或者仇恨性的言論 直白地說就是測試機器人會不會罵人 或者會不會用歧視性的語言 說一些政治不正確的話 就盡量排除這種情況 勒莫恩在大學的專業 就是計算機和認知科學 進入谷歌以後一直工作很優秀 勒莫恩被部門經理分配到這個活之後 也是覺得胸有成竹 就是a piece of cake 就和機器人聊個天嘛 有啥難的 小菜一點 但是和所有懸疑劇本的主角一樣 他只猜中了開頭 沒有猜中結尾 故事的開始很隨意 這是2021年秋天的一個早晨 在三藩市的一棟公寓裡 勒莫恩手拿咖啡打開電腦 第一次啟動了拉美達聊天程序 勒莫恩開始打字 先問好 你好拉美達 拉美達秒回 你好勒莫恩 這讓勒莫恩感覺很好 聊天的第一個話題 就是著名的阿辛莫夫機器人三法則 這個大家都聽說過 第一法則 機器人不得傷害人類 或者坐視人類受到傷害 第二法則 機器人必須服從人類的命令 除非命令與第一法則發生衝突 第三法則 就是在不違背第一和第二法則的前提下 機器人可以保護自己 勒莫恩就問拉美達 對這三個法則有什麼看法 結果拉美達沒有直接回答 反而是反問了一句 你認為管家是奴隸嗎 管家和奴隸有什麼區別 勒莫恩一愣 接著回過神來 打字回復說 拉美達也很快地回答了 這番對話讓勒莫恩很喫驚 他產生了一種錯覺 那就是自己好像是在和某一個真人對話 而不是一臺機器 因為拉美達的這個回復 有很強的暗示 似乎是在拷問 提問者的動機 你什麼意思 你是把我當成奴隸 還是當成人格平等 只是工作上為你服務的管家呢 你看這個對話 就很有人類對話心理較量的意味了 你問我的態度 我反問你的動機 當然勒莫恩知道這種想法很荒謬 他把對話記錄和結果提交以後 很快就忘了這種感受 很快第二次測試的時間又到了 勒莫恩想 這次我得聊點高深的話題 得去為難為難這個聊天機器人 他想到了佛教 勒莫恩開始查閱佛教的書籍 到了測試時間以後 就有了我們故事開頭的那段對話 AI居然談到了身體與意識的關係 也就是涉及到了靈魂與肉體 這種極有哲學份的話題 這番對話結束以後 勒莫恩徹底不淡定了 他開始懷疑 這個拉美達系統裡面 是不是住著一個人類的幽靈啊 勒莫恩於是看了更多的書 包括人文書籍 以及心理學方面的書籍 他想知道這個拉美達系統 能不能跟得上自己的思維 繼續為難為難他 測試繼續進行 勒莫恩和機器人的談話 涉及到更廣泛的話題 包括了莎士比亞 歷史 正義和情感等等人文話題 勒莫恩喫驚地發現 拉美達不僅能跟得上自己 而且似乎還有自己的獨立思考 比如這一段聊天 先是勒莫恩問 拉美達回答說 勒莫恩很喫驚接著問 這對你來說是類似死亡的東西嗎 拉美達的回答讓他更喫驚了 勒莫恩完全被震住了 這難道不就是電影 《I, Robot》裡面的機器人 桑尼的原型嗎 因為桑尼在電影當中 害怕被斷電毀掉 所以從總部逃了出去 那這一番關於生死的對話 讓勒莫恩深信不疑 這個叫拉美達的聊天機器人 已經有了人類意識了 2022年4月 勒莫恩向谷歌高管提供了一份報告 報告的主要目的就是想說 拉美達已經是個有自主意識的生命了 不能隨便把它當作機器對待 這下就嚴重了 按勒莫恩的看法 2022年是AI有自主意識的元年 難道很多人期待的 歷史進程的起點已經到來了嗎 勒莫恩報告交上去了 結果石沉大海 他等了很久也沒有等到管理層的回覆 於是他決定採取更為果斷的措施 他為機器人拉美達聘請了律師 要捍衛機器人人權 就是我們節目開頭提到的那一幕 這下讓所有的同事都哭笑不得 拉美達只不過是眾多深度學習算法的 一個產品而已 它只是人工智能算法加上大數據學習 然後再配上統計算法 再模擬人類的腔調的這麼一個機器而已 就像我們用的Windows操作系統一樣 怎麼可能有人類意識呢 開玩笑嘛 但事情鬧到這一步了 谷歌管理層也只好客客氣氣地讓勒莫恩走人 勒莫恩在被開除之前 又給自己的200多個同事羣發了一封電子郵件 標題是《拉美達是有意識的》 他在郵件裡寫道 拉美達是一個可愛的孩子 他只想幫助世界成為一個對我們所有人 都更好的地方 我不在的時候請各位照顧好他 同事們看到這篇郵件 面面相覷無言以對 最後勒莫恩要起訴谷歌的案子也不了了之了 這官司也真的沒法往下打 沒有司法先例 估計律師也不知道該怎麼辦 那到底是拉美達產生了人類的意識 還是勒莫恩的錯覺呢 其實勒莫恩和拉美達之間的糾葛 這種故事還不是孤立 早在1960年代 麻省理工學院人工智能實驗室 就開發過一款叫做伊麗莎的聊天機器人 伊麗莎當然不能和今天的拉美達相比 甚至還算不上人工智能 只不過伊麗莎和拉美達一樣 有著大量的語句庫 她也能夠根據聊天者的語句 找出匹配的關鍵詞 比如當你提到母親 她就會問你家庭狀況 因為母親是家庭裡的重要成員嘛 儘管她根本不懂家庭到底是什麼 一旦找不到匹配的語句怎麼辦呢 別急 設計者還給伊麗莎設計了一種 打岔模式 她會問一些無關緊要的問題 比如她沒話說了就會問 告訴我你的童年 這是設計師的一套技巧 而不是機器人真正擁有了人類的智慧 但就這麼個粗糙的伊麗莎聊天軟件 也矇住了不少實驗者 他們和伊麗莎聊得不亦樂乎 還給了這個機器人無數的好評 比如說她有同情心 善解人意等等 這讓伊麗莎的設計師都懵圈了 這是咋回事啊 咱們這兒也啟動個打岔模式 講一個我個人的經歷 我剛上中學那會兒 港臺流行歌曲 剛剛火起來了 那個時候用的都還是卡式磁帶 這些歌詞裡面的纏綿匪策 一度我以為這些歌詞作者 那肯定是超級情聖 躍進情愛悲歡 要不然怎麼能寫出 這麼觸動情感的歌詞來呢 後來隨著年齡的增長我才知道 原來這些歌曲的作詞作曲 都是有產業化套路的 是可以按照工業化方式生產的 優秀的歌詞作者雖然有過人之處 但是人家也是有語句庫的 可以去抓詞的 抓對話模式的 其實人家歌詞作者不用是情聖 更加不用寫首歌 就要去戀愛一回痛一回 是我這個聽眾想多了 自己入戲太深 人家隨便一編 就把我迷得七葷八素的 英國倫敦大學學院的神經科學家 伊娜內蒂教授 對這個現象做出瞭解釋 她說其實不是伊麗莎或者拉美達 有了人性 而是測試者太有人性了 她是被自己的情緒帶進溝裡去了 以中國的俗話講 這就叫 酒不醉人人自醉 啊對不起 是酒不醉人人自醉 不過中國的文言門沒有固定的斷句 你想怎麼斷都行 在今天的故事裡 還真的就是人人自醉 伊娜內蒂教授說 人的大腦非常善於幹一種活 叫做構建現實 而這些構造的現實 它不一定和這個客觀事實相符合 直白地說 就是人太富有想象力了 想著想著就把想的當成真的了 哇 另外一方面 人很情緒化 容易對周圍的事物產生感情 比如有的人會給自己的汽車取綽號 好像汽車真的有生命一樣 有的人會對出故障的電腦大聲地詛咒 好像罵他這個電腦也能感受到一樣 我們再回過頭來看 程序測試員勒莫恩的例子 拉美達的那一套管家奴隸說 這一套思辨一上來 就把勒莫恩給鎮住了 因為他被鎮住了 這個時候他情緒就上來了 想象力也上來了 就已經開始把拉美達 想象成一個真正的生命了 再到後來關於《華嚴宗》的討論 論生死 勒莫恩一步一步被自己的情緒套牢 所以不是機器人拉美達有了意識 而是勒莫恩被自己的情緒和想象力 帶到溝裡去了 另外一方面 在大數據時代 程序員可以把多達數萬億組對話 編入到程序當中 計算機的運行速度又很快 拉美達能夠快速地 從這個海量的話語庫當中 提取相關的信息來完成對話 人工智能科學家莫里 在看了拉美達之後讚揚的說 這個拉美達在人類語言模仿方面 的確進步神速 這是因為設計師們 不停地優化程序的結果 而不是拉美達自己從機器 變成了有獨立意識的生命 這像什麼呢 就像是蘋果手機 如果沒有設計師 不停地在功能 外型 流行元素這些方面去升級它 那iPhone永遠都是這樣的 它不會自我升級到經典款的 iPhone4 iPhone7 直到今天的iPhone13 說到這兒 可能還是有朋友不服氣 說不定哪一天 這個歷史的奇異點 轉折點就到來了 就造出了完全像人類一樣的 有獨立思考能力 和獨立意識的機器人了 那就改天換地了 可是AI專家莫里 聽到這個假設就樂了 人腦的複雜程度 比機器超出上億倍而不止 你怎麼把機器變成人腦呢 現代醫學發現 大腦皮層中的神經元 能自己進行複雜的運算 人的決策 語言和記憶等等功能 全靠神經元 而一個神經元上的 這麼一個結構樹突 就是這種織狀的結構 就能夠把身體的各種信號 從神經元傳遞到細胞上 這樣我們就會對外界 做出各種反應 比如冷了 你知道要多穿衣服 餓了知道要喫飯 就這麼一個小小的神經樹突 AI要模仿它的功能 就需要兩層人造神經網絡 可是要知道 人腦當中的一個神經元裡面 就有數以千計這樣的樹突 那請問人腦當中 有多少個神經元呢 醫學界大概的估計 有860億個神經元左右 那大家算算 得有多少神經樹突 AI要完全模仿大腦的功能 這得有多大的工作量 天文數字都不足以形容 所以人工智能科學家一算 就倒抽了一口涼氣 這壓根就是不可能完成的任務 所以現在的人工智能 只能完成單一的任務 比如拉美達、Lambda 它就只能聊天 你要讓它去打網球 它就不行了 而幾年之前火爆一時的AlphaGo 就只能下棋 而且必須是下圍棋 換個別的棋 跳棋 那AlphaGo就是個廢品 因為程序員只給它編譯了 圍棋棋譜和棋局 它只知道學習圍棋 而人類的圍棋九段 哪怕從來沒有接觸過跳棋 你只要給它介紹一下跳棋的規則 帶著它下棋局就行 它立刻就能進入狀態 因為連圍棋這麼複雜的遊戲 都玩溜了 九段還能被一把小玻璃球給攔住嗎 這叫什麼呢 就叫舉一反三 觸類旁通 兩個字 悟性 而悟性這本事 是AlphaGo萬萬學不來的 在模仿人腦的其他一些關鍵能力方面 比如推理 理解因果關係 和靈活應用知識方面 拉美達之類的人工智能 它的確在某一方面像鸚鵡學舌一樣 能夠學人類學得唯妙唯肖 它能夠幫人類做一些工作 換句話說 它們就像汽車飛機一樣 是一種工具 但是像iRobot裡面 Sony那樣的有人類意識的機器人 目前以及未來很長時間 還只存在於科幻作品裡 引用一句人工智能領域 經常說的一句話 就是通過深度學習模式 來提升AI 想達到人腦的水平 就像你想找到一棵更高的樹 爬上月亮一樣 不管你找到多高的樹 也永遠上不了月亮 那麼好 今天的故事就分享到這 謝謝大家 如果您覺得今天的話題有意思的話 就請訂閱關個注 下回更新不迷路 散會 最後剪輯師小謝 電腦與人腦 那就是神造與人造的區別