獨家人工智能教父公開警告:人類可能正在親手創造最大的危險!

玄乎神乎
6.7K 位粉絲
4.8K 觀看·2026年7月26日 #人工智能
#人工智能
大陆粉丝可以在节目描述栏里打开『玄乎神乎-翻墙工具箱』(注:这个链接需要翻墙打开,但打开后的所有链接及二维码都是大陆免翻墙 ),『玄乎神乎-翻墙工具箱』自带翻墙功能,『玄乎神乎--大陆直连翻墙网址』--点击「干净世界频道」就可以打开『玄乎神乎』主页,建议:第一时间保存书签,或添加桌面图标。
人工智能教父給出一個職業,他認為有一個職業是目前人工智能無法取代的--水管工。
如果今天有人告訴你
未來真的有可能會改變人類命運的
不再是核武器、不再是戰爭
也不是一場全球性的金融危機
而是一種由人類親手創造出來的智慧
那您會不會覺得這只是一個科幻電影裏的情節呢?
然而在過去兩年
這樣的聲音卻越來越頻繁的出現
更令人意外的是
一個不斷向全世界發出警告的人
不是科幻作家也不是哲學家
而是一位花了整整半個世紀
來推動人工智能發展的人工智能教父
他對外界公開宣佈
我現在最大的使命是提醒人們
人工智能很可能會帶來的危險
在開啓今天的節目之前
還是請大家點擊訂閱留言
那您的一個小小的舉動
都是對我們頻道最大的支持
我們剛纔提到的這位科學家就是傑弗裏辛頓
沒有人比他更瞭解人工智能是如何一步一步走到今天的
也沒有人比他更清楚這項技術未來最有可能會走向哪裏
上個世紀70年代
當時的人工智能世界正站在一條完全不同的岔路口上
大多數研究者都相信智慧是來源於邏輯
因爲人類能夠思考能夠推理
那麼只要把足夠多的邏輯規則寫進計算機
讓這個機器按照規則一步一步進行演算
終究這個機器呢會擁有智慧
於是這個科學家們就開始嘗試建立各種龐大的規則系統
希望用這個成千上萬條邏輯
拼湊出一個能夠像人一樣思考的機器
然而年輕的辛頓他卻不是這樣想的
他認爲人類的智慧來自於大腦
爲什麼不能直接向大腦學習呢
於是他開始研究人工神經網絡
但是在那個年代 計算機算力遠遠不夠
數據規模也是小的可憐
神經網絡訓練出來的效果也非常的有限
那很多人就覺得辛頓的這個嘗試肯定是失敗的實驗了
所以越來越多的大學就放棄了這項研究
越來越多的科學家他們就轉向其他的方向
甚至有人公開表示
說這個神經網絡永遠無法成爲真正的人工智能
可是這個辛頓他沒有放棄
也正是因爲如此
全世界那些真正相信神經網絡的年輕學生
大部分都跑到他的這個實驗室裏去做研究了
而這些年輕人當中最著名的
就是OpenEye的聯合創始人伊麗亞·蘇茲·克維爾
2013年的時候 辛頓他受聘於谷歌
10年以後他卻離開了谷歌
他表示 退出谷歌是爲了自由的談論人工智能的危險
而且某種程度上他還後悔自己對人工智能領域的貢獻
2022年底 chatGPT是橫空出世了
但對於普通人來說 他只是一個會聊天的機器人
而對於科技公司來說 他就意味着一場新的產業革命了
而對於辛頓來說 他發現
這種數字智能擁有一種人類永遠無法超越的優勢
你比如啊 他的學習速度 他的記憶速度已經是遠遠超越人類
而更爲可怕的是 他帶給人類的風險已經是開始顯現出來了
他分析了AI帶給人類的風險
他把AI的風險明確劃分爲兩類
首先是惡意的人利用人工智能帶來的風險
他說現在網絡攻擊現象激增
從2023年到2024年就增加了1200%
因爲大語言模型讓釣魚攻擊 聲音克隆詐騙變得極其容易
比如他說有一天你接到一個電話
對方說我是你的朋友約翰 我現在被困在薩爾瓦多了
你能幫我匯點錢嗎
他說這就是其中一種釣魚攻擊方式
目的是爲了獲取你的登陸憑證
想不到他說完這個問題以後
主持人巴特利特馬上就分享了他本人的親身經歷
他說他本人就曾經陷入了AI的騙局
曾經一個付費廣告盜用了他在博客中的聲音
在廣告視頻中可以聽到他在鼓動大家
參與一個加密貨幣之類的東西
他太有名了 他這個粉絲有1700多萬
很多人就都相信了這個廣告裏面他說的這個話了
結果可想而知很多人都受騙了
巴特利特就收到了那些上當受騙的人給他發來的信息
告訴說我損失了500美元或者還有損失的更多的
那這些人都是因爲他在視頻中的推薦而上當的
結果巴特利特花了幾個星期的時間
纔想辦法把那些視頻讓他們給撤了下來
想不到那個視頻被撤下來了
就冒出了一個新的視頻
他說就像那個打地鼠遊戲一樣
一個沒了 那另外又出來了一個
他說快把他給煩死了
沒錯 這種事特別多 用名人效應來騙人
而且現在好多演員也在做這個
就是他們授權你可以用我的形象去做這個
做電影做什麼的惡廣告 所以危險性特別大
其實隨着人工智能的發展
我們也看到現在你看互聯網上照片視頻還有文本
哪些是人工智能產品 哪些是人自己創作的
你都很難分得出來了
不過這種網絡攻擊似乎還不是最可怕的
辛頓在採訪中他就提到了致命病毒出現的風險
他說一個心懷怨恨只想毀掉世界的瘋子
只要略懂分子生物學 精通人工智能
而且不用花費太多的錢
就能設計出極具傳染性和致命性的新病毒
一聽到這兒 那個主持人巴特利特他就說了
一些外國對手在進行這個政府資助的項目
當時就有很多關於新冠病毒 武漢實驗室
以及那些研究人員在增強功能研究方面所做的工作
他說我很想知道在中國 俄羅斯 伊朗或者其他國家
政府是否可以資助一個項目
讓一小群科學家制造出一種病毒呢
結果這個辛頓就說我認爲他們是可以做到的
而且他們現在會擔心遭到報復
擔心其他國家的政府也會對他們採取同樣的做法
擔心病毒會傳播到他們的國家
辛頓還提到了選舉舞弊問題
他說如果你想利用人工智能來操縱選舉
那簡直是太容易了
因爲AI能夠利用海量的個人數據
進行精準的政治廣告投放來操縱選民
辛頓認爲人工智能變得超級智能
突然間它就不再需要我們了
這也會帶來風險
而關於對人類的生存威脅
辛頓說真正的問題在於我們根本不知道如何應對
所以我們也無法估算它取代我們的概率
他說有人說這個比例不到1%
而有人認爲如果有人建造了它
就是造出這個超級的人工智能了
那它就會把我們全部毀掉
那在辛頓看來這兩種觀點都缺乏依據
因爲沒有任何歷史經驗可以作爲參考
他說我們正在走進一片從未有人踏足過的森林
沒有地圖沒有路標
也沒有人能夠告訴後來者前方究竟有什麼
如果一定要讓他說出自己的判斷
他給出的這個數據大約是10%到20%
10%到20%這個其實也已經很高了
就這個估算
就好比如果有人說這架飛機
它有20%的機會它可能會墜毀
那還有人做嗎
沒人做
如果說美國打伊拉克
如果軍人犧牲的概率是1%
那您覺得川普總統他還會打伊朗嗎
不會
他肯定考慮考慮了
2025年出版了有一本書是真的很轟動
它很快就登上了紐約時報的暢銷書的排行榜
這個書的名字也很驚悚
名字叫如果有人建造它每個人都會死去
那書中就認爲超人工智能
它的發展的將不可避免的會導致人類滅絕
這本書詳細的就介紹了理論風險
解釋了爲什麼當前的人工智能的開發方法是非常危險的
同時也敦促立即要停止創造超智能AI
聽起來它不是普通的人工智能
它是超智能AI
那這跟星頓的分析是很吻合的
如果這種數字智能能夠繼續的按照今天這樣的速度成長
那會不會有一天真的就超越人類呢
當一種智慧開始超過它的創造者的時候
這個世界又會發生什麼呢
那我認爲星頓並不是認爲人工智能一定會毀掉我們
而是在提醒人們不要習慣性的用今天的人類的視角
去推測人工智能可能會採取的行爲的模式
因爲真正的危險恰恰就來自於這種未知數
你與其花時間幻想各種末日劇本
你不如把精力放在如何確保它根本不會產生傷害人類的動機
與其討論它會如何行動
不如研究怎樣在它成長的過程中建立可靠的安全機制
這也是爲什麼後來這個星頓它不斷的呼籲
應該把更多的資源投入到人工智能的安全研究
而不是一味的追求這個模型要越來越大
沒錯 我就有時候挺不明白的
我老有一種疑問
就是你知道這個人工智能它有這麼大的危險
那爲什麼不乾脆人類就停止研發人工智能呢
這個主持人也問過這個問題
星頓他就說因爲沒有任何一個國家它願意停下來
當一種技術同時擁有了巨大的商業價值
軍事價值和戰略價值的時候
它就會變成一場全球性的競爭
即使有一家企業它願意放慢了腳步
那它的競爭對手也不會
那即使一個國家願意暫停研發
那另一個國家它還在繼續投入
那每個人都知道這場競爭充滿了風險
但是都擔心自己率先退出之後
將失去未來最重要的主動權
於是人類彷彿進入了一場沒有終點的競賽
每個人都希望自己跑得更快
卻很少有人停下來思考終點究竟在哪裏
對 我覺得還有一個
就剛纔我提到的就是港確是一個惡性循環
你研究我也研究
你研究更高的我研究更高的
我覺得新頓它沒說到點子上來
我感覺建立安全機制它只是一種手段
以前說把這些各個國家的AI方面的人
研究人員聚在一起
咱們制定一個規則一條一條寫出來
但是真正解決問題的關鍵
其實我自己覺得還是在人心
這人的道德提升了是解決所有問題的一個關鍵
如果一個國家能夠把重點放在如何去提升道德
那太多的社會問題就自然而然的不存在了
但是這個世界上永遠有一些國家或者一些人
他就不按規則出牌
他就永遠違反那個人類的規則
是這樣 那在這個採訪中
主持人還問了新頓一個十分耐人尋味的問題
他說人類未來還有什麼工作
不會被人工智能替代
這個好問題
結果新頓就給出了一個公種
你先別說這個公種是什麼
要不這麼着吧
觀衆朋友您可以猜一猜
新頓給出的公種到底是什麼
我們乾脆把這個答案
就放在本期節目的內容描述欄當中
大家可以自己去看
小藍從來都愛賣關子
那今天我們就聊這麼多了
還有一個問題想問問觀衆朋友
過去的工業革命機器取代的是人的體力
而今天人工智能開始取代的就是人的腦力了
那麼當越來越多的腦力勞動
能夠由人工智能完成的時候
那麼人類真正不可替代的東西還有什麼呢
