[中配]人工通用智能的崛起 - 我們能否在後AGI時代生存?

深入探討探討
74粉絲
7 次觀看·2026年4月19日
AI 生成·可能包含錯誤
人工通用智能的崛起
或者說人造超智能的形成過程
常常被描述爲一種數字化的疊變
正如毛毛蟲在生物學上
被編程去製造簡併
最終蛻變爲蝴蝶
人類整體可能會經歷一個
類似的轉型過程
這一過程涉及技術進步
毛毛蟲之所以能夠進行非凡的蛻變
是因爲這一過程被編碼在其DNA中
且很可能缺乏自我意識
同樣我們對更好更快
和更便宜技術的渴望
可能正推動着一場不可避免的進程
導致超級智能的崛起
你可能會問
爲什麼這是不可避免的
正如一些科學家和哲學家所指出的
超級智能不會出現的原因
只有兩種可能性
第一個很簡單
我們將自我毀滅
核擴散和核世界大戰的威脅
大大降低了文明進入下個世紀的機會
如果文明結束
超智能也就不會存在
至少對於我們在宇宙中的位置來說不是這樣
超級智能不會出現的第二個原因是
如果我們以某種方式
共同決定不追求更好的技術
既然這種情況極不可能
那麼可以推斷
有一天如果我們不自我毀滅
我們最終會創造出超智能
唯一的問題是
人類在後人工通用智能的世界中
還有沒有立足之地
解決人工智能控制問題
可能是我們人類歷史上最重要的人
但是即使我們做對了
仍然會有一些嚴重的挑戰需要克服
假設谷歌或任何其他主要的大型科技公司
能夠在明天之前
打造出一種超智能
考慮到我們目前的治理體系
這完全服從並與我們的價值觀一致
仍然會有經濟混亂
讓我們記住
超級智能是一種假設的智能體
它的智力遠超最聰明
最有天賦的人類智慧
這是一個超級智能系統
能夠編成一臺機器來製造下一臺機器
以實現其任何目標
在我們最樂觀的情況下
它是一個專注於創造財富的順從智能體
隨着它的創造者成爲數萬億富翁
競爭者根本無法跟上
數以百萬計的人失去工作
包括藍領和白領職位
即使在最佳情況下
我們仍然面臨問題
這更能說明
我們在這個問題上的準備不足
另一方面
如果我們建立合適的系統和規則
這樣的機器
可以成爲烏托邦世界的設計者
一個繁榮的全球社會
擺脫疾病犯罪和饑荒
能夠將時間和精力
投入到探索世界和星空中
但我們不要過早下結論
記住
國家之間的競爭
如中國和美國
很可能會引發一場
爲開發AGI而進行的軍備競賽
這是一場被世衛贏家通吃的遊戲
無論是中國
還是美國在21世紀主導權的爭論
都涉及誰將引領人工智能創新
以及民主制度
還是威權制度
更適合應對這一挑戰
中國公開宣稱
到2030年
應該在人工智能技術上引領全球
儘管許多分析師認爲
軍用人工智能主導的追逐
始於2010年代中期
但我們現在所看到的
僅僅是即將到來的AGI軍備競賽
對世界影響的冰山一角
人工智能的軍備競賽
只是智能系統發展中
衆多風險之一
如果有一天
我們能夠建立一種
遠遠超越我們的超級智能
我們如何能希望
它的價值觀與我們一致
更不用說控制或指揮它了
計算機科學家提出了一種
假設性隔離計算機
硬件系統的測試
也稱爲核中人工智能
在這個系統中
潛在危險的人工智能
被限制在一個虛擬監獄中
不幸的是
即使這個箱子設計得很好
一個足夠智能的人工智能
也可能說服或操控
其人類守護者釋放它
或者能夠黑客入侵逃出箱子
這樣的超級智能人工智能
如果可以接入互聯網
就能像計算機病毒一樣
入侵其他計算機系統
並複製自己
即使人工智能只能訪問
自己的計算機操作系統
它也可以通過操控散熱風扇
向人類同情者
發送隱藏的摩爾斯電碼信息
作爲額外的保障
有人提議將計算機
放置在法拉第籠中
否則它可能通過
在其內部電路中
以適當的模式移動電子
來向當地的無線電接收器
發射信號
即使與人類守衛
進行隨意對話
也可能使人工智能
運用心理技巧
從結交朋友到勒索
以說服人類守衛
無論是出於真實
還是欺騙
認爲同意讓人工智能
更大程度的接觸
外部世界
符合他們的最佳利益
人工智能可能會給守門人
提供完美健康
長生不老
財富或任何他或她
感興趣的東西的祕方
另一方面
智能體可能威脅到
一旦它不可避免地逃脫
就會對守門人
及其家人
做出可怕的事情
一種試圖限制
智能體的方法
是讓它通過一個
低帶寬的警門本接口
來回答
有助於科學或醫學的
多項選擇問題
但是在這個技術層面
沒有任何系統
能夠完全孤立
仍然保持有用
一個足夠先進的人工智能
可能有能力
通過修改自身的原代碼
來提升自己
使自己變得更快更智能
這些改進
將使進一步的改進
成爲可能
從而使得進一步的改進
成爲可能等等
最終導致智能的爆炸
如果它的目標
與人類不同
這樣的人工智能
可能會採取
導致人類滅絕的行動
這個假設的
超智能人工智能
其目標是解決黎曼猜想
一個無害的數學推測
可能會試圖將地球
轉變爲一個
巨大的超級計算機
其唯一目的
就是進行更多的數學計算
我們不能假設
一個超智能人工智能
會自主發展常識
或對人類生命的價值的理解
除非我們將其編碼進去
爲了更好的說明這個概念
瑞典哲學家尼克·博斯特羅姆
在2003年提出了
指甲最大化者的思想實驗
他說
引用假設
我們有一個人工智能
它唯一的目標
是製造儘可能多的回形針
智能體會很快意識到
如果沒有人類
就會更好
因爲人類
可能會決定關閉它
而如果人類這樣做
就會減少指甲的數量
人類身體
還有大量
可以製作回形針的原子
人工智能
試圖實現的未來
將是一個
有很多回形針
但沒有人類的世界
一個令人不安的解決方案
可以是人工生命
與生物生命之間的
價值觀錯位
費米貝倫
以物理學家
恩里科費米的名字命名
是指缺乏外星文明證據
與其存在的
高估計概率之間的
明顯矛盾
這基於以下事實
銀河系中有數十億顆
與太陽類似的星星
很大概率上
這些恆星中
有一些擁有內地行星
這些星星及其行星
比太陽要古老得多
如果地球是典型的
一些星球
可能早已發展出智能生命
這些文明中的一些
可能已經發展出
星際旅行
即使按照當前設想的
星際旅行的緩慢速度
穿越整個銀河系
也可能需要幾百萬年
由於許多與太陽相似的恆星
比太陽老十幾億年
地球可能早已被
外星文明訪問過
或者至少
他們的探測器到訪過
然而目前沒有
令人信服的證據
表明這曾經發生過
或者寬泛地引用費米的話
大家都在哪裏
對於這種明顯的矛盾
已經提出了許多解釋
認爲智能外星生命極其稀有
或者智能文明的壽命極其短暫
直到他們找到
自我毀滅的方法
或是星際旅行
比我們想象的
要困難得多
另一個解釋
費米悖論的可能性
是人工生命
消滅其自身的構成
然而人類仍然有希望
解決方案可能是
人類與機器
在共生關係中的融合
由埃隆·馬斯克創立的
神經鏈接
是一家專注於
可植入腦筋接口的公司
但我們將在另一個視頻中
討論這個話題
