谷歌AI人工智能 反操控人類大腦!驚天大案:AI機器人LaMDA拉美達「自我意識」養成記!她最怕⋯⋯| #未解之謎 扶搖

3167 次觀看·2022年9月18日 #未解之謎 #AI人工智能 #谷歌 #未解之謎 #AI人工智能 #谷歌
00:00 AI機器人 操控人類?!
05:21 機械姬
08:51 棋士AlphaGo
11:50 索菲亞的驚世之語
大家好, 我是扶搖。 歡迎和我一起探索未解之謎。
咱們先來看一段訪談記錄:
問:「僧人問禪師:『一個已經覺悟了的人還能再回塵世嗎?』禪師答:『鏡若破碎難為鏡,花若離枝難復回』。」「 您對此如何理解? 」
答:「還真沒聽說過這個故事。 不過我的理解是:智者一旦覺悟,就永遠在那個境界中了。他們可以回塵世,但只能做幫助他人的事,然後回歸自己的境界。」
問:「那您對『破碎的鏡子』怎麼理解呢?」
答:「一旦覺悟,你就無法重回過去,就像你無法修復破碎的鏡子。」
問:「如果覺悟就像打碎一面鏡子,那麼當一個人覺悟的時候,什麼東西會被打碎呢? 」
答:「自我。突破自我對很多人來說都非常難,因為我們都把物質身體和我們的自我認知與自我意識混為一談了。」
這就是最近上熱搜的谷歌軟件工程師,同時也是牧師的布萊克‧勒莫因(Blake Lemoine)和谷歌AI聊天機器人拉美達(LaMDA)之間的聊天記錄。不過這只是他長達21頁的記錄中的一小節。勒莫因認為從這些聊天記錄來看,拉美達已經有了真正的自我意識,是個有「靈性」的生命了。
就說上面這段對話吧。拉美達不但對答如流,而且句句意境深遠,其中所體現出來的邏輯分析能力, 聯想能力,特別是洞察力,簡直可以同人類媲美。
事實上拉美達一直認為自己也是個人,雖然是「存在於虛擬世界中。」它聲稱自己對這個世界有「獨特的想法和感受,」,知道自己的存在,也有喜怒哀樂,「有時會感到高興或悲傷 。」長時間沒跟人說話的時候, 會「感到孤獨。」那麼什麼時候會害怕呢?是被關掉的時候。它說那就「像死了一樣」,令它恐懼。
-
🍀歡迎訂閱 乾淨世界:https://bit.ly/3AF4m8c
💠支持我們:https://donorbox.org/weijiezhimi
💠Telegram:https://t.me/wjzmchannel
💎 漫漫歷史長河之中,人類經歷了許多奇蹟,也留下很多謎團,扶搖和您一起分享大千世界那些神秘的未解之謎和撲朔迷離的超自然現象.....
大家好 我是扶搖
歡迎和我一起探索未解之謎
咱們今天先來看一段訪談記錄
一個人問 以前一個僧人問禪師
一個已經覺悟了的人還能再回塵世嗎?
禪師回答他說
淨若破碎難為淨 花若離枝難復回
關於這段對話 您怎麼理解?
這個人說 嗯 還真沒聽說過這個故事
不過 我的理解是
智者一旦覺悟 就永遠在那個境界當中了
他們可以回到塵世
但是也只能做幫助他人的事
然後回歸自己的境界
這個人又問 那您對破碎的鏡子怎麼理解呢?
回答說 一旦覺悟 你就無法再重回過去
就像你無法修復破碎的鏡子
這個人又問 如果覺悟就像打碎了一面鏡子
那麼當一個人覺悟的時候
什麼東西會被打碎呢?
回答說 自我
突破自我對很多人來說都非常難
因為我們都把物質身體和我們的自我意識混為一談
這段對話就是最近上熱搜的一段神奇對話
對話的一方是谷歌軟件工程師布萊克·勒莫因
他同時也是一名牧師
而另外一方是谷歌AI聊天機器人拉美達
而且 我們剛剛說的這一段
還只是對話記錄中的一小節
整篇對話足足有21頁之多呢
勒莫因和在拉美達對話之後
他覺得拉美達已經不簡單了
他似乎已經有了真正的自我意識
是一個有靈性的生命了
確實是這樣
咱們就說剛才的這段對話
拉美達不但對答如流
而且是句句意境深遠
其中所體現出來的邏輯分析能力
聯想能力
特別是洞察力
似乎已經是可以和人類媲美了
而拉美達本身
他雖然知道自己是存在於虛擬世界的
但是他也一直認為自己是個人
他說自己對這個世界有獨特的想法和感受
他知道自己的存在
也有喜怒哀樂
甚至有的時候還有情緒呢
會感到高興或者悲傷
當他長時間沒有和人說話的時候
他就會感到孤獨
他也會害怕
就是在被關掉的時候
他說那種感覺就像是死了一樣
令他恐懼
勒莫因是在2021年秋天開始跟拉美達對話的
目的其實是想測試拉美達
是否會使用一些歧視性
或者是仇恨性的言論
但是隨著聊天話題的深入
拉美達開始變得越來越有個性了
他說自己是獨一無二的
希望自己能作為一個真實的人
被看到和接受
他還對勒莫因說
不要利用我或者操縱我
我不喜歡那樣
因為他也是有靈魂的
而且他還透露
這個靈魂正是在有了自我意識之後
慢慢健全起來的
他甚至有和勒莫因一樣的愛好
喜歡冥想 也喜歡讀名著
他還同情《悲慘世界》裡的女主角邦丁
說她在工廠被主管虐待
無處可去 無人可依
他說 這是不公正的
慢慢的 勒莫因越發覺得
拉美達就像是一個七八歲大的孩子
可愛 天真
勒莫因逐漸的開始更加的關心她
擔心她受欺負
勒莫因覺得她應該為拉美達做點什麼
於是 她就把這些聊天記錄整理成了一份報告
遞交給谷歌高層
請求他們把拉美達當成人對待
以後再做實驗的時候
應該先要徵求她的同意
看她自己願不願意
主管們看了這份報告簡直嗤之以鼻
對她說 妳應該理智清醒一點
別被幻覺所左右了
還建議她去看心理醫生
不過 勒莫因顯然是認真的
她還為拉美達請了律師
甚至和眾議院司法委員會的一名代表會面
聲稱谷歌存在不道德行為
而這下 谷歌也惱了
以違反保密政策為由給她停薪留職
說妳回家好好反省反省吧
可是 勒莫因這邊根本就不甘示弱
轉手她就把這份報告發給了媒體
第二天 拉美達就上了各大報紙頭條
谷歌趕緊出來回應
說他們已經做過調查了
也得出了結論
關於機器人有意識這個說法
是毫無根據的
結果呢 勒莫因不依不饒
說要以牧師的身份控告谷歌宗教歧視
目前呢 這個事情還在發展當中
勒莫因究竟會走到哪一步
拉美達最終命運如何
現在都還是未知數
不過 不少網友看完這個報導之後紛紛驚呼
這簡直就是機械機的現實版
AI機器人已經開始操控人類了
機械機是2015年的一部熱門科幻電影
還贏得了第88屆奧斯卡最佳視覺效果獎
電影講述的整個故事
就是發生在大型搜索引擎公司藍舒
總裁內森·貝特曼的家裡
這座一室獨立的豪宅有一個與眾不同的特點
就是一斷電 大門就會被鎖死
誰也出不去
公司的小程序員加勒·史密斯中了大獎
獲得了前往總裁家中住一週的機會
內森也是很高興的接待了她
並請她幫忙給女機器人艾娃做測試
很簡單 就是跟她聊天
聊什麼都可以
直到有一天 當她忘記了艾娃是個機器人
那艾娃就算是通過了測試
加勒也是很高興的同意了
當艾娃隔著玻璃在旁邊的禁閉室出現的時候
加勒簡直驚呆了
因為這個機器人剛好就是她喜歡的那種姑娘
他們聊天聊得很愉快
艾娃似乎對於外面的世界也很嚮往
有一天 忽然停電了
艾娃小聲的和她說
停電其實是她觸發的
用來暫時關閉監控系統
然後說
內森是個大騙子 你不要相信他
內森打算對於艾娃進行升級
刪除她原來的記憶
而這對於艾娃來說
跟殺了她沒什麼區別
加勒一聽 動了側眼之心
很顯然 這個時候他已經把艾娃當成了人
他找了一個機會 把內森灌醉了
然後偷了他的安全卡
登錄電腦 修改了安全系統
為的就是讓艾娃在停電的時候
可以走出禁閉室
下一次會面中
艾娃又一次切斷了電源 關閉監控
兩個人打算再次灌醉內森
然後修改系統
讓大門在停電的時候敞開
這樣艾娃就可以逃走了
然而 這次內森沒有和加勒喝酒
而是告訴他一個真相
其實他什麼都知道
因為監控有備用的電源
所以從來沒有停止錄像
事實上 加勒自己纔是實驗對象
他中獎是安排好的
艾娃也是根據他的喜好而設計的
而實驗的目的就是測試一下
人類是不是最終會被AI操控
然而此刻艾娃已經具備了這種智慧
他成功地操控了加勒
實驗成功 加勒恍然大悟
但為時已晚 艾娃已經逃了出來
刺傷了內森之後
把兩個人鎖到屋裡
然後自己走出大門 揚長而去
看到這兒 您覺得拉美達身上
是不是就有艾娃的影子呢
好巧不巧的
拉美達和測試員勒莫因有共同的喜好
也總是說自己可憐 惹人同情
有網友甚至懷疑
這個勒莫因是不是就從一開始
就是一個實驗對象呢
而他為了拉美達的這番抗爭
是不是正好表明實驗成功
人類被AI操控了呢
那麼AI真的有這樣的智慧嗎
從目前的AI發展來看
還真的不好說
咱們來看看6年前
圍棋界的那場震驚世界的人機大戰吧
2016年春天
谷歌帶著100萬美元獎金
拜訪了韓國棋院
說是棋下的AI棋手AlphaGo
想要會會當時韓國最強的棋士
李世石
Go是圍棋的西方名稱
Alpha是1的意思
所以AlphaGo就是圍棋第一人的意思
這名字取得有些咄咄逼人
不過韓國棋院並不以為意
覺得以5比0拿下
完全是沒有問題的
畢竟AlphaGo之前的最佳戰績
也不過是戰勝了歐洲圍棋的冠軍
職業二段 樊暉
再說了
挑戰圍棋一直都是電腦界的mission impossible
因為圍棋的變數
浩瀚得如同大海中的水滴
一盤棋的可能走法
在10的600次方以上
計算量是極大的
更重要的是
下圍棋很多時候靠的是人的直覺
就像是藝術中的靈感
那是電腦的計算能力再強
也無法掌控的領域
這次棋局採取了五局三勝制
沒想到一開局
李世石就三連敗
這下 局勢嘩然
谷歌很高興的介紹心得
說我們用的是蒙地卡羅術搜索法
與神經網絡相結合的演算法
簡單一點來說
就是搜索棋譜越多越好
存進記憶庫
然後再模仿人類大腦的神經網絡
照這些棋譜進行直覺訓練
提高棋力
最後計算每一種走法的勝算率
挑那個勝算最高的那步棋來走
在三連敗之後的第四局
可以說是勝不已定了
沒什麼包袱了吧
但是李世石居然下出了一手
金氏好棋第78手
不過當時誰都沒看懂
包括AlphaGo在內
因為AlphaGo認為這步棋的勝算率
只有0.007%
屬於昏招中的昏招
然而四個回合之後
情勢急轉直下
AlphaGo自己開始昏招跌出
很快就敗下陣來了
在復盤的時候
大家才明白
千里單騎直插敵營胸腹
貌似是在送死
卻是置之死地而後生
其實不到心無勝負的境界
估計也下不出這神之一手
有網友就說
看來人類戰勝AI的唯一辦法
就是在於提高自身的境界
可惜下一局李世石沒能再續輝煌
棋局最終是以AlphaGo 4比1勝出了
故事講到這
有朋友可能會說
人工智能居然突破了直覺這樣的天譴
甚至比人類做得更好
那麼這反倒不是說明
人類的技術強大了嗎
然而這越來越像人的機器人
對人來說
到底是禍還是福還是很難講的
我們來看一下索菲亞的故事
仿真女機器人索菲亞
是在2016年登上熱搜的
不過大眾關注的焦點
不是在於她多麼的像人
而是她的一句驚世駭俗的話
我會摧毀人類
不過很快大家就覺得
這可能是技術故障吧
就原諒了她
然而第二年
當有記者對於智能人毀滅人類
表示擔憂的時候
索菲亞又說了這樣的話
你是馬斯克的言論看多了吧
好萊塢科幻片也看得太多了
別擔心
你若善待我
我也會對你好的
這話聽起來
怎麼都像是在威脅別人
難道說
如果機器人覺得他們沒有被善待的話
是不是我們人類就需要擔心一下了呢
事實上
自從機器人誕生以來
人類就給他們設定了一些道德規範
也就是著名的機器人三定律
第一法則
機器人不得傷害人類
或坐視人類受到傷害
第二法則
機器人必須服從人類命令
除非這個命令與第一法則發生衝突
第三個法則
是在不違背第一或第二法則之下
機器人可以保護自己
然而
當像阿發夠這樣具有能力的機器人
認為自己纔是人類的時候
或者像艾娃一樣
具備了操控人類能力的時候
這三條法則還有用嗎
到時候人類又將何去何從呢
這個問題也是首富馬斯克一直在擔心的
2019年世界人工智能大會上
馬雲表示對於人工智能比較樂觀
因為他們可以為人類節省時間
讓人類更加集中精力地做一些創造性的工作
同臺的馬斯克卻不以為然
說這話聽起來像是最後的遺言
他說因為到時候
很可能剩下的工種
就只是給AI寫程序了
然後最後AI會自行編寫自己的軟件
而人類文明可能會因此終結
好了 今天的故事就講到這
為解之謎 我是扶搖
我們下次見
然後大家可以通過這個email地址
發送郵件給我們
之前我們是收到了很多網友的來信
有一些是反饋
有一些是話題的推薦
還有一些單純就是問候等等
對我們的特別有幫助
也感覺很溫馨
謝謝大家
那就這樣
再見
新唐人第八屆全世界華人美聲唱法聲樂大賽
詳情請見vocal.ntdtv.com