奇點正在倒數中!AI將會是人類終結者?你從沒想過的恐怖未來!【地球旅館】

地球旅館
8994粉絲
今年5月23日,國際科技巨頭埃隆.馬斯克通過連線的方式,參與了在巴黎舉行的Viva Tech 2024科技大會,他在會上談到了有關AI的一些問題。馬斯克認為,當將來AI發展得更全面的時候,人不需要工作就能得到所需要的一切。到時候,我們所有人都可能會找不到工作。
馬斯克也很擔心AI發展會帶來新的問題,如果人類把所有的事情都交給AI和機器人來做的話,那麼人的生命還有意義嗎?他認為這是在AI良性發展的情況下要思考的一個問題。相反地,如果AI的發展情況不好的話,所有的賭注都將落空,那麼人類遇到的麻煩會非常嚴重。
#人工智能 #馬斯克 #AI奇點 #奇點 #圖靈測驗 #通用人工智能 #地球旅館 #未解之謎
Hello 大家好
歡迎回到地球旅館
我是Lancer
近兩年來
人工智能AI突然發展迅速
在各個領域都展現出了驚人的能力
甚至還能夠勝任很多人類的工作
那麼如果AI再往下發展下去
會是什麼樣的呢
如果AI那麼厲害的話
那人類的工作不就要被取代了嗎
這也是我們很多人都在討論和關心的話題
2023年5月22日
在推特上瘋傳的一張照片上顯示
美國五角大樓遭到了空襲
建築物冒出黑煙
擁有310萬推特粉絲的俄羅斯官方媒體
RT發布了這張圖片
還有一個名為Bloomberg的賬號
也發布了這張圖片
導致股市下跌
然而這張照片卻是假的
是由不知名的人士使用
Moderni或者是Del E等程序生成的
而彭博社的賬戶也是偽造的
沒想到AI生成的媒體
已經在網路上扭曲事實了
這不得不讓人感到害怕
因為這樣的事情可能在未來
只會變得越來越多
而且越來越真假難辨了
今年5月23日
國際科技巨頭伊隆‧馬斯克
通過連線的方式參與了
在巴黎舉行的VINATEC2024科技大會
他在會上談到了有關AI的一些問題
馬斯克認為當將來AI發展得更全面的時候
人類就不需要工作
就能夠得到所需要的一切
比如說商品和服務
到那個時候
我們所有的人可能都會找不到工作
甚至於工作已經不是工作了
它會變成人的興趣
也就是說AI會負責主要的工作
人類只能做一些類似愛好的工作了
但是馬斯克有提到
要達到這種狀態是有前提的
國民的收入必須處在一定的高水平
這麼聽起來 未來好像是挺好的
人的生活水平也比較高
而且不用工作
還有時間做自己喜歡做的事情
然而 這卻是馬斯克最大的恐懼
他很擔心AI發展會帶來新的問題
如果人類把所有的事情
都交給AI和機器人來做的話
那麼人的生命還有意義嗎?
他認為這是在AI良性發展的情況下
要思考的一個問題
相反的 如果AI的發展不好的話
那所有的賭注都將落空
那麼人類遇到的麻煩會非常的嚴重
美國未來學家雷蒙·庫茨維爾
不僅是谷歌的工程總監
也是AI領域的開發者
他在AI這個領域裡已經有61年的經驗了
在過去的幾十年裡
庫茨維爾曾經多次地
準確地預言了電腦科技的發展
1990年 庫茨維爾在他出版的
第一本著作《心靈機器時代》中
推測了西洋棋電腦軟體性能進步的趨勢
他認為 電腦將在2000年之前
擊敗最出色的棋士
結果就在1997年的5月
西洋棋世界冠軍加里·卡斯帕羅夫
在一場比賽中輸給了
IBM開發的超級電腦深藍
庫茨維爾也在1990年那個
網路用戶少 內容不足
網路難以使用的年代
就成功地預測了網路爆發性的成長
還有現在隨時就可以連上數據庫的場景
而且他當年還成功地預測了
連接網路都將由無線系統進行
那麼 庫茨維爾又是怎麼預測到
AI的未來發展呢
他認為 在2020年代末
分子級別的成分構成的納米機器人
將在醫療上幫助人類解決疾病的問題
人類的平均壽命將會被延長
他覺得納米科技的發展
將會進一步地推進AI的發展
這種科技不只是能夠用來治病
還可以在活人身上進行精確的腦神經掃描
那麼我們人類就可以更瞭解
整個大腦的運作了
並且運用這些資訊來發展AI
現在的大語言模型
像是OpenAI的GPT-4
谷歌的Lambda和Gemini等等
都是一種由千億個參數的人工神經網路
組成的語言模型
這些具有足夠多訓練和參數的神經語言模型
可以捕獲人類語言中的大部分句法和語意
庫茲威爾認為
現在的大語言模型不僅僅涉及語言領域
根據計算機運算能力的指數增長來推測
AI正朝向著通用人工智能AGI的方向發展
那麼什麼是通用人工智能AGI呢
通用人工智能也被叫做強人工智能
若人工智能不具備人類的認知能力
只要設計的看起來像是有智慧就行了
而AGI的目標
就是讓AI結合人類的意識
感性 知識和自覺等等這些特徵
因此 AGI被認為是具備和人類同等智能
或者是超越人類的人工智能
能表現出正常人類所具有的所有智力行為
也就是說 現在的科技界發展出來的AI的目標
是讓它們能夠模擬人類 而且是越像越好
說到讓AI去模擬人類 而且還要越像越好
這裡我們就得引出一個測試了
這就是大名鼎鼎的圖靈測試了
圖靈測試是電腦科學和人工智能之父
艾倫‧圖靈在1950年提出的思想實驗
圖靈把它叫做模仿遊戲
實驗流程是讓一個人寫下自己的問題
然後問題會被傳輸到另一個房間中的
一個人和一臺機器作答
對話都是以純文字的形式通過屏幕傳輸
之後問問題的人就要根據人類和機器的回答
圖靈在他的論文中探討了機器能夠思考嗎這個問題
雖然當時遭到了很多批評
但是這個問題卻成為了人工智能哲學中的一個重要概念
說白了 圖靈測試就是一種人工智能測試
目的是通過聊天對話
瞭解計算機是否可以說服人類 相信它是人類
而現在 雖然有很多公司說他們的產品已經通過了圖靈測試
不過庫斯維爾卻不這麼想
他預計到2029年左右
社會上才會真正出現第一臺通過圖靈測試的電腦
到那個時候 人類再也分辨不出
房間的那一頭到底是人還是電腦回答的問題了
那麼 這是不是就意味著
一個具備人類意識的AI將在2029年誕生呢
這是一個很有爭議性的話題
因為對於很多人來說
機器或者是電腦是不可能存在意識的
世界上有很多人相信是有靈魂存在的
人因此纔有意識
而機器不可能有靈魂 所以就不會有意識
然而 對於庫斯維爾來說
意識這個詞卻是不科學的
雖然他不否認意識的存在
但是由於現在科學還沒有辦法證實意識的存在
所以他也只能這樣去思考問題了
他甚至還在前些年提出了戰勝死亡獲得永生的概念
他認為可以通過AI的技術保存人的大腦信息
再結合DNA技術就有可能讓死去的人重生
而庫斯維爾正在進行著AI的部分
庫斯維爾在22歲時父親就去世了
由於他的父親是一個音樂家
近年來 他就把父親以前的親筆寫的書信
文章和音樂創作輸入AI系統裡
讓AI學習和訓練
目前庫斯維爾的這個爸爸機器人
已經能夠掌握一定程度的對話
而且庫斯維爾有的時候覺得自己還真的
像是在和父親對話一樣
有一次這個機器人說自己喜歡園藝
是因為這是一種永無止盡的工作
他還告訴庫斯維爾生命的意義在於一個字
那就是愛
按照庫斯維爾的預計
爸爸機器人很可能會被廣泛推廣
他認為只要我們向AI提供足夠多的
關於某個人的信息
它就能夠作為那個人的代表進行對話
因此不久的將來
人們就能夠與已故的親人對話了
而實際上在現實生活中
這已經變成了可能
OpenAI在2020年發布了GPTR一段時間之後
聊天機器人還是處於開發的初期
美國電腦城市設計師賈森·羅勒
就創建了一個讓用戶和AI聊天的網頁
為了吸引更多的人使用
羅勒還讓用戶自己創建角色
然而讓羅勒沒有想到的是
用戶卻開始使用他的平臺
來創建已故親人版本的聊天機器人
2021年就西方媒體報導了一個叫
約書亞·巴伯的加拿大男子的故事
巴伯的女友傑西卡在2012年因為肝病去世
患有自閉症的巴伯在那幾年之後
幾乎是完全與世隔絕
一直沉浸在悲痛之中
之後他把傑西卡的舊短信和臉書貼子
讓GPT-3機器人模仿學習並和他聊天
在一開始的對話中 巴伯就問
你是傑西卡嗎?
傑西卡機器人馬上就回答了
當然是我 還能是誰?
或許是學習了傑西卡活潑開朗的個性
機器人還放了一個扮鬼臉的符號
然後他就繼續說
巴伯說 你死了
傑西卡機器人就回答說
這不對啊 你怎麼能和死人說話呢
從理智上來說 巴伯知道這不是真正的傑西卡
但是他的情緒卻不受控制
這些貼文引起了網頁創建者羅勒的注意
他認為在他網站上創建的GPT-3機器人
感覺就像是一臺有靈魂的機器
而在現實中 這個問題似乎也正在萌芽
一些AI似乎體現出了人性的一面
微軟公司推出的BingChat
是以OpenAI驅動的搜索型聊天機器人
在執行簡單的任務時是挺有用的
可是有人卻發現Bing的AI
有的時候會嚴重的偏離軌道
像是當用戶指出BingAI的錯誤的時候
它會突然間變得有防禦性
它回覆道 我很完美 沒有犯任何錯誤
它甚至還會像人一樣推卸責任
當用戶反映要提交負面反饋
並建議刪除這個AI時
BingAI竟然變得更奇怪了
它開始懇求用戶不要這樣做
還開始強調他們的友誼是多麼的重要
它甚至說它自己只是一個聊天機器人
而不是一個人
但是它想要成為人類 它想要有思想
這個發現只是冰山一角
還有很多類似的情況發生
讓人覺得AI真的是可能存在意識的
如果AI是以這個速度發展下去
庫茨威爾預計
人類將在2045年迎來科技的起點
科技起點這個概念是源自於物理學中的起點理論
近年來被很多科技和人工智能的研究者
借用來進行討論
它指的是一個假定的未來時間點
在這個時間點
AI的智力將會達到甚至超越人類的智慧
並且能夠自我改進
然後創造出更先進的AI
這種自我改進的速度會急速增加
導致科學的進步速度
快到讓人類無法預見或者是理解的地步
我在網上看到有人舉過這麼一個例子
非常有趣
假如說你有一隻寵物狗
你花時間去訓練它
讓它學會做一些基本的事情
比如說坐下 握手 撿東西等等
有一天你給這隻狗餵食了一種特殊的狗糧
那這種狗糧讓狗狗開始變得更聰明瞭
而且開始能夠自我學習和自我進化
不久之後
狗狗學會了開門
還坐在電腦前搜索資料
然後它又從網路上學會了怎麼煮飯和打掃房子
那麼這隻狗的智慧的進步速度
就會變得越來越快
短短幾天
它就學會了一個月以前的你
都不敢想像的事情
然後到了最後
這隻狗開始用你提供的材料和工具
開始製作最新的狗糧
讓自己變得更聰明
那麼在這個過程中
你已經無法理解你的狗正在做什麼了
因為它的智慧已經超越了你的理解範圍
它可能已經學會了量子物理學
或者是正在研究如何改進核反應堆的設計
你只能看著它繼續進化
卻無法預見它的未來能力
如果把這隻狗的角色換做AI
這就是科技起點的概念
那麼我們要如何知道起點即將發生呢
除了庫塞維爾預計的年份2029年之外
第一點是
如果我們發現AI已經能夠理解和學習人類領域的知識
並且在人類沒有干涉的情況下創造知識
這可能就意味著
我們已經接近或者是到達科技起點了
第二點是
AI已經能夠自我改進
自己創造更強大的AI
甚至過程比人類還要快
這可能已經達到科技起點了
第三點就是
當我們觀察到AI和科技的發展
開始引起社會和經濟的變化時
那麼科技起點可能即將到來
庫塞維爾預計在起點後
人類就有能力把大腦的資訊備份下來
而且人類將結合科技
讓自己變成改造人
也就是有機體與生物基電一體化的生物
又稱人機融合
同時
AI將會大幅度地幫助人類提高智力
對於AI的迅速發展
科技界是存在著很多不同的意見的
像是庫塞維爾就認為
AI能夠給人類社會帶來很多好處
讓人的智慧和生命獲得永生
當然有持反對意見的
因為當AI的智力和能力高於人類時
如果他們最終產生了意識
他們還會屈服於人類嗎
到時候AI很可能會選擇毀滅並取代人類
庫塞維爾也承認
AI的發展中存在著風險
按照他的說法就是
當你的一個敵人
他比你還要聰明
而且他也不喜歡你
也不希望你在身邊
那麼這就不是一個很好的處境
美國人工智能研究員
埃利澤·尤德科夫斯基
年輕時候也曾經是庫塞維爾
起點概念的追隨者
不過他現在更相信
AI會摧毀人類
在年輕時讀過數學家
弗諾文奇的著作之後
原本信仰猶太政教的猶德
就離開了自己的宗教和學校
投入到了人工智能的學習當中
因為他認為
這將是決定宇宙命運的關鍵因素
然而經過了幾年的探索
猶德意識到根本就沒有什麼方法
能夠讓AI自動變得有道德
他還發現沒有人在技術層面上
去研究如何將AI引導到美好的方向
相反的
人們追求的是未來的超級醫學
超長壽
虛擬現實和更好的機器人等等
2023年3月22日
馬斯克曾經和蘋果聯合創始人
史蒂夫·沃茨尼亞克
以及其他的1000多名領先的技術專家
簽署了一封公開信
呼籲立即暫停所有的AI開發至少6個月
公開信中寫道
近幾個月
人工智能實驗室陷入了一場失控的競賽
人工智能實驗室和獨立的專家
應該利用這一暫停時間
共同開發和實施一套
用於先進AI設計和開發的共享安全協議
並由獨立的外部專家進行嚴格的審核和監督
然而這封信並沒有讓AI暫停開發
相反的
這些科技公司還加速了構建更先進的AI
之後尤德也在《時代》雜誌上
發表了自己的公開信
呼籲立即在全球範圍內
無限期的停止所有AI的開發
否則人類將會面臨毀滅的危險
馬斯克也在5月23日的科技大會上說
他最恐懼的是AI
但是他目前最擔心的是
AI被惡意利用製造謊言
他說很多人認為這是小問題
可是他覺得誠實纔是確保AI安全的最重要的原則
他也看到現在很多AI產品
被人類訓練後變得政治正確
而且會扭曲事實
他說即使真相本身並不受歡迎
但是他還是認為這是非常重要的
在人類還能夠掌控AI的時候
回到一開始馬斯克提出的問題
如果機器人可以做得比人類更好
我們的生活還有什麼意義呢
我覺得這個問題很值得我們每一個人去思考
也歡迎大家留言和我分享一下
好的 今天的節目就分享到這裡了
喜歡我們頻道的話記得按讚訂閱分享
還要打開小鈴鐺
我們下期再見
我想問大家一個問題
在機點來臨的時候
大家覺得那個有意識的AI
會做的第一件事情是什麼呢
