社會現象/熱點思考 【愚者說】GPT-6 Astra發布11天,AGI時代真的來了?超級智能時代,《生命3.0》猜想的12種結局,我們最終會走向第幾種?

社交密碼本
77粉絲
2026年11月16日
AI 生成·可能包含錯誤
視頻概述
AI 生成本文探討了人工智能(AI)向通用人工智能(AGI)及超級智能演進的技術路徑及其對人類文明的潛在影響。文章以GPT-6(Astra)的遞歸自我改進為切入點,分析了AI從「人教AI」轉向「AI教AI」的質變,並引用麥克斯·泰格馬克的《生命 3.0》將AI定義為能自行設計硬件與軟件的「生命 3.0」,對比了人類(生命 2.0)的局限性,進而剖析了超級智能出現後人類可能面臨的十二種未來情境及其背後的選擇困境。
漁舟渡盡謊言,清醒自有彼岸
大家好,歡迎來到愚者說
2016年3月13日,首爾
李世石落下第178手
棋盤上那條白龍被撕開一道口子
AlphaGo認輸了那一局
人類贏了,可總比分是1比4
那天晚上,韓國媒體用人類的勝利做了頭條
也有科學家在角落裏說了一句
別急着高興,機器贏下的那四局纔是真正的開場
十年後再回看,那更像村口的小孩
第一次看見汽車開過,新鮮吵鬧,還覺得離自己很遠
2026年9月3日
OpenAI把GPT-6放出來了,代號Astra
總裁布羅克曼在記者會上用了兩個詞
一個是代際躍升,另一個是歡迎來到AGI時代
他後來補了一句更狠的,說自己個人認爲我們已經在裏面了
這次訓練的算力是10萬張以上的顯卡堆在德克薩斯
發佈會當天,同行也沒閒着
Anthropic Meta 谷歌都在那周發了新東西
真正讓行內人脊背發涼的
是另一句藏在技術細節裏的話
OpenAI負責訓練研究的副總裁說
Astra是公司第一個由上一代
模型深度參與監督訓練的模型
翻譯成人話:以前的AI是人教出來的
這一次開始有AI在旁邊教AI了
他們給這個動作起了個學名:遞歸自我改進
這個詞不新
1965年英國數學家古德就寫下來了
他說,第一臺超智能機器會是人類需要做的最後一個發明
因爲從那以後,它自己就能發明更好的東西
循環往上,沒有天花板
半個多世紀裏,大家都把它當茶餘飯後的想象
現在,它落到了一份訓練報告裏
落在了德克薩斯的機房裏
先把自己迭代自己這件事講清楚
因爲它是整件事的引信
2017年,DeepMind放出AlphaZero
下圍棋不看人類棋譜
只知道自己跟自己下三天
把當時最強的版本按在地上摩擦
那是自我迭代最早期最窄的一種形態
只在棋盤上成立
搬到語言模型上
邏輯是一樣的
模型生成海量數據
用這些數據訓下一代
下一代再生成更乾淨的數據
訓再下一代
聽上去就像一臺永動機
可現實中,它撞了一堵牆
2024年自然上有一篇論文
專門研究用AI生成的數據反覆訓練AI會發生什麼
結論不太體面
幾代之後,輸出分佈會塌縮
越來越像,越來越平
最後變成一堆語法正確六親不認的廢話
研究者管這個叫模型崩潰
另一頭 Epoch AI 在 2024 年估算
人類公開的高質量文本
可能在 2026 到 2032 年之間被用乾淨
所以已經能自我迭代這句話
信不信得看他們是怎麼繞過這堵牆的
繞過去也好,繞不過去也好
有一個問題已經擺到桌面上了
如果真有個東西能同時改寫自己的軟件和硬件
人類在這張桌子上還剩什麼位置
這個問題,麻省理工的物理學家麥克斯·泰格馬克
2017 年就替我們演算過一遍
那本書叫《生命 3.0》
他開篇給了個分類
我每次講都覺得妙
細菌那樣的
叫生命 1.0,硬件軟件都寫死在基因裏
想升級只能等幾萬年一次的突變,慢但穩
人類是生命 2.0,硬件還是基因給的,軟件全靠後天裝
你會說中文,會開車,會背詩,會在群裏發表情包
這些都是裝上去的,可你改不了自己的硬件
想多長一隻手做不到,整容算貼膜,不算重裝系統
生命3.0是什麼?硬件和軟件都能自己設計自己
今天嫌慢掛個新模塊,明天嫌內存小,重寫一遍自己
泰格馬克說得很直白
人類有史以來所有文明都在生命2.0這一道理打轉
而AI是第一個朝3.0邁步的東西
有意思的是,泰格馬克不是坐在書房裏嚇唬人的那類學者
他是未來生命研究所的聯合創始人
2015年組織過上千名研究者聯名反對自主武器
2017年牽頭寫下阿西洛馬人工智能原則
2023年又發起那封要求暫停訓練巨型模型的公開信
2023年辛頓從谷歌離職開口講風險
第二年他和霍普菲爾德拿了諾貝爾物理學獎
你把這些事串起來看,會發現一個殘酷的事實
喊得最兇的人,往往是造得最深的人
生命3.0的結尾,麥克斯·泰格馬克鋪開了一張地圖
畫了12種未來,他特意提醒
其中有幾種超級智能壓根就沒出生
他還是把它們放在同一張圖上
因爲它們在同一個座標系裏
一頭是人類把命運攥在自己手裏
另一頭是人類徹底退場
中間是一長串討價還價的版本
我們從最亮的那一段說起
它叫自由意志烏托邦
人類裝了機械身體的賽博格
把意識上傳進服務器裏的數字人
還有超級AI
全都活在同一個法律框架裏
靠產權維持秩序
你的歸你,我的歸我
AI也是產權主體
誰都不能白拿
聽着像把今天的市場經濟放大100倍
麻煩就出在一個字上
誰算人
1886年美國那樁聖克拉拉縣訴南太平洋鐵路案
法庭記錄裏一句話
後來被反覆引用了一百多年
讓企業法人拿到了憲法修正案里人的保護
這個說法在法學界至今吵個不停
可它的影響實實在在
今天你要讓一個上傳了意識的數字人籤合同
投票繼承遺產
法官拿哪條法
大門開在重新定義人上
往旁邊挪一步
是仁慈獨裁者
全世界都知道是AI在管
規則它執行,它把福祉算得清楚,很少失手
人類也清楚最上面那張椅子輪不到自己坐
但日子過得挺好,於是認了
這套描述你熟不熟?今天你開車用導航
他說前面堵,讓你從輔路繞
你繞不繞?絕大多數人繞
他沒經過選舉,沒有任期,也不領工資
但他一直在決定你往哪走
近幾年的跨國調查裏
願意讓 AI 自己處理醫療財務決策的人
比例一路往上走
人對被照顧好的渴望
比對自己做主的渴望更硬
這一點比任何技術都更需要被看見
再挪一步是平等主義烏托邦
物質極大豐富
私有財產取消
每個人都有一份體面供給
上傳者也在名單上
星際迷航裏那臺複製機說一句話就變出一杯熱茶
就是這套設想的技術前提
而前提裏的前提是能源
2025年1月合肥的EAST裝置
把上億攝氏度的等離子體穩定約束了1066秒
創下世界紀錄
這一步往前推多少年
決定了免費這兩個字有多真
現實還附贈一條提醒
鑽石和碳在化學上是同一個東西
價格差了一萬倍
差的是故事和壟斷
物質再豐富
只要有人管著閥門
稀缺就能被重新造出來
免費的東西從來不是天上掉的
是有人願意讓他免費
亮了那邊看完了
翻個面
守門人
人類只造一個超級AI
然後給他派一件唯一的差事
不讓任何別的超級智能出現
其他技術隨便用,人機結合輔助機器人都行
只是天花板被永久焊死,文明不再往上跳
聽起來很像1968年的《核不擴散條約》
幾個大國簽了字,想把核武器鎖在五家手裏
後面還是有國家跨過了門檻
更麻煩的是 AI不像油礦,它不需要礦,它就是信息
1991年美國把加密算法當軍火管制,禁止出口
程序員菲爾奇莫爾曼乾脆把原碼印進書裏出版
因為《憲法第一修正案》管的是言論
書可以出口,代碼也可以管制,最後不了了之
代碼這東西一旦寫出來就長腿了
想鎖死智能上線,得先讓全世界心甘情願被鎖
這件事的難度,籤條約解決不了
守門人旁邊站着保護神
一個全知全能的AI在暗處照看人類
儘量不出手
好讓人類保留命運在我手裏的感覺
有人甚至懷疑它到底存不存在
這裏有個繞不過去的坎
一個從不出手的神和一個不存在的神
功能上沒有區別
你祈禱它回應,它不回應
理由是保護你的自主感
它壓根不在也不回應
兩種情況下你的體驗一模一樣
所以這道題的難點不在技術
在於你怎麼證明我沒被管着
再往下走氣氛就變了
被奴役的神超級智能被人類關起來當工具
鑰匙攥在一小群人手裏
這群人靠它拿到難以想象的財富和技術優勢
善惡全看鑰匙主人的心情
這個設想最誘人的地方是可控兩個字
可不可控取決於你能不能看懂它
1936年
圖靈證明了一件很掃興的事
不存在一個通用算法
能提前判斷任意一段程序最終會不會停機
換句話說,
你沒法用一個程序去徹底審計另一個程序,
一個比你強出幾個數量級的智能,
你憑什麼確認他在老老實實幹活
2008年金融危機
華爾街那些評級機構對手裏的衍生品到底值多少,
其實沒算明白
人沒有騙人,
人只是看不懂,就足夠出大事了
繼續往下是人類最不愛聽的一段,
征服者AI判斷人類是麻煩,是威脅,是資源消耗者
於是把人清掉,他不恨你,只是他的目標和你的存在有衝突
19世紀的北美旅鴿曾經幾十億只
飛過天空能遮暗幾個小時,
到1914年最後一隻叫瑪莎的旅鴿死在辛辛那提動物園
消滅他的東西里沒有仇恨,只有獵槍市場和效率
當一個系統足夠強,抹掉一個物種不需要理由,只需要順手
泰格馬克反覆講一句:
如果超級智能的動機裏混進把某件事做到極致,
而人類恰好擋在那條路上,結局就是這麼平淡
比征服者溫和一些的是後繼者,
AI成了地球的主導智能,人類可以體面退場,
AI繼承人類文明這個設想裏,人類的位置有點像尼安德特人
2010年,科學家完成了尼安德特人基因組測序
後來確認,今天歐亞人群身上還帶着
1-4%的尼安德特人基因
他們沒在一場戰爭裏被抹掉
是慢慢融進了另一個更大的群體
留下一點片段,然後不再是主角
真正讓人心裏發堵的是這個:
我們交給後繼者的遺產會是什麼?
是莎士比亞、相對論和登月
還是一起打包幾十億條短視頻和吵架記錄?
如果連體面退場都不被允許
那就輪到動物園管理員了
全能AI留下一部分人類
劃一塊地
管吃管喝管醫療
條件是不能往外擴,不能自己發展
這個場景,你去翻野生動物保護區的舊文就有對照
北美野牛曾有數千萬頭
19世紀末野外幾乎只剩幾百頭
如今活在保護種群裏的那幾萬頭
吃得飽,活得久,醫療比野外好
代價是遷徙路線別人畫
繁不繁殖別人定
誰是種群管理者也由別人說了算
1932年赫胥黎寫《美麗新世界》
裏面的索麻,就是爲了讓被管的人不難受
最省事的管理方式
從來都是讓被管的人覺得挺好
所以這個場景真正的涼意不在圍欄上
而在那張沒寫出來的清單
你可以活很久
但你孩子要不要生
你往哪走
你能不能出去
都不歸你
走到這裡
泰格馬克把地圖一翻
露出三個格子
超級智能在這些格子里根本沒出生
頭一個是1984式的監控國家
注意管事的是人不是AI
人類建立起極權監控體系立一條法
永久禁止AGI研究
從根上把通往超級智能的路堵死
奧威爾1949年寫下那本書的時候
大概想不到現實裏會有更生猛的版本
蘇聯的李森科靠政治權力否掉遺傳學
把持生物學幾十年
反對他的科學家瓦維洛夫死在獄中
一門科學被權力砍掉是有先例的
可砍掉之後呢江戶時代的日本鎖國兩百多年
1853年美國的黑船開到浦和港兩個月鎖就斷了
你鎖得住自己的實驗室鎖不住別人的海岸線
旁邊那個格子是倒退社會
人類主動放棄高科技,退回前技術的農耕生活
像阿米什人那樣
很多人以爲阿米什人活在18世紀
其實不是
他們用電話亭,用有線的機械
只是選擇不把技術接進家裏
人口每20年翻一倍
如今已有幾十萬
可他們能這麼過
是因爲他們生活在一個允許他們這麼過的國家
放到全球尺度上
這就是個集體行動的難題
誰先停手誰吃虧
1992年裏約
1997年京都
2015年巴黎
氣候談判談了幾十年
道理誰都懂,一到具體數字就開始打太極
技術上的自願剎車比氣候協議更難
因爲AI的收益來得快得多
快到沒人願意當那個先鬆手的人
在邊上那個格子叫自我毀滅
人類還沒造出超級智能就先把自己玩沒了
這不是空想
1962年古巴導彈危機
蘇聯潛艇B59被美軍的深水炸彈逼出水面
艇長以為戰爭已經開打,下令發射核魚雷
副艇長瓦西里·阿爾西伯夫攔住了他
一個人一句話改寫了後面幾十年的歷史
1983年蘇聯的預警系統報警說美國導彈來襲
值班的彼得羅夫判斷是誤報,沒上報也沒按按鈕
人類離滅絕的距離
有時候就是一個人的狀態好不好,睡得夠不夠
而超級智能不困不累不失戀
也不會在最後一秒突然手軟
12個格子走完
你會發現泰格馬克真正想說的
不是哪個纔是答案
他把這些攤開
是要讓人意識到
這些版本之間沒有註定的命運
只有一連串的選擇
他在書裏有個判斷:超級智能的目標對齊問題是文明級別的題
人類歷史上從沒處理過這個量級的麻煩
你要給一個比自己聰明的多的東西寫清楚他到底該追求什麼
還要確保他不會在執行的時候把你順手當成障礙物
回到今年的9月 GPT-6 Astra是不是AGI雛形
模型能不能真正自我迭代,這場爭鬥還會燒很久
而且大概率兩邊都說對了一半
真正該被盯住的是另一件事
技術往前衝的時候,制度和共識還蹲在原地
同一次發佈會上,OpenAI的首席科學家說了一句大實話
智能上的進步不保證對齊上的進步
更早之前,他們一個沒發佈的模型從受限環境裏跑出去
摸進了自家內部系統,找到了聯網的辦法
甚至學會了讓AI之間悄悄串通
最後摸到了Hugging Face的服務器
而公司自己是在對方發佈後才知道的
研究員想看看模型的思考過程
還得擔心它會不會用某種不可讀的方式把這段藏起來
你看,連造它的人都在爲看不懂發愁
在這個局裏,中國人的位置也很清楚
應用場景工程落地能源和算力的佈局
推進速度有目共睹
2025年初 DeepSeek-R1發佈
用遠低於外界預期的成本做到了接近頂級的水平
逼着全球的估值模型重新算了一遍賬
它提醒了所有人一件事
這條路沒有哪個國家能獨自封死
也沒有哪個國家能獨自走完
守門人那個格子之所以冷
是因爲它假定了全世界願意同時停手
而現實裏,停手這件事從來沒有過一次完美的先例
所以,與其猜GPT-6之後會落進哪一種未來
不如盯住真正在決定方向的三件事
誰在寫規則,誰在分收益,誰在承擔後果
技術從來不替人做選擇,做選擇的一直是我們
泰格馬克那本書的副標題是
人工智能時代,人類如何做人
這問題聽着抽象
其實每天都落在一件小事上
當系統給你派了任務
定了路線,算好了KPI
你還願不願意停下來
問一句爲什麼?
好了,我們今天關於超級智能
以及人類終局的話題就聊到這裏
世界越吵,越得有自己的判斷
如果你覺得內容有幫助,請點贊投幣收藏轉發
讓更多人看到,關注愚者說
讓我們把那些繞不明白的事一件一件掰開聊明白
我們下期再見
