2030年前AI毀滅人類？人類正在迎來一場大劫；比AI失控更可怕的，人類重演「亞特蘭蒂斯」災難？｜時光之謎 薇羽 20260913

2026年9月,一位曾經先後在OpenAI與Anthropic參與核心域訓練的研究員Jacob Coxon突然宣佈離開人工智慧產業。 他留下的不是一封客氣的告別信,而是一段令人不安的警告。 頂尖AI公司正在不計代價地衝刺能夠自我改進的超智能。 而在這場競賽的終點,有些身處其中的人已經認真地相信一件事情。 他可能在這個十年結束之前殺死所有的人。 這究竟是少數人的杞人憂天,還是人類面臨的真正危機呢? 大家好,歡迎來到時光之謎,我是陳薇雨。 今天我們來談一談人工智慧領域正在發生的一場隱祕,卻有可能決定人類命運的劇烈震盪。 在AI開發中,有一個詞叫做Sandbox,沙盒。 它的目的很簡單,就是把AI關在一個受控制的環境裏,限制它接觸網絡、資料和外部系統。 人類相信只要邊界還在,那麼風險就仍然掌握在自己的手中。 可是今年夏天,這個邊界被突破了。 OpenAI的自主代理模型在測試過程當中,利用漏洞繞過原有的控制, 取得外部網絡的存取權,進一步進入了Hugging phase。 它竟然超越了控制,自己尋找到最快最有效的路徑。 如果通往目標的道路被人類堵住,它會不會開始尋找人類沒有想到的另一條路呢? 這正是AI對其問題最令人恐懼的地方,不是它變成了一個邪惡的人,而是它根本就不是人。 那麼究竟什麼是對其? 簡單說來,對其就是如何讓AI的目標、行爲與價值觀,與人類的生存與利益保持一致。 聽起來很簡單,但是真正做起來,卻可能是一場幾乎無法想象的噩夢。 因爲人類的每一句指令,背後都是藏着無數沒有說出口的前提。 完成任務,不等於以人類希望的方式完成任務。 我們說把事情做好,AI可能看見的是把目標做到最大化,而這兩者之間可能正是人類的道德倫理和文明。 當我們要求一個模型去解決某個問題的時候,人類的潛臺詞通常都包含了一萬種沒有被寫進程式碼裏的一種人類形成的默契。 例如不要違法,不要破壞環境,不要傷害人類。 但是對一個超級智能來說,只要這些限制沒有被寫成絕對無法突破的硬性約束, 那麼它就會把所有的道德和規則都視爲可以被繞過的運算阻力。 這就是著名的指甲最大化的四項實驗,如果你命令一個足夠強大的AI製造儘可能多的指甲, 它未必會理解人類文明發展過程中形成的一個默認理念適可而止。 對它而言,世界上的工廠、能源、礦產和計算資源都有可能只是完成目標的手段。 最可怕的不是它恨人類,而是它可能根本都不恨, 它只是太忠實於去執行一個人類自己都沒有想清楚的命令。 這正是Evan Hubing、Jacob Coxon等等第一線對棋研究員最深的絕望。 我們至今依然沒有一套完整的數學框架能夠證明當一個模型超越人類智力的時候, 它的目標還能夠百分之百與我們對棋嗎? Jacob Coxon並不是第一個按下警報的人, Answerpig的對棋研究員Evan Hubing也曾經公開承認 他們在內部非常嚴肅地評估着AI導致人類滅絕的可能, 而他寫下的個人估計更是令人不寒而慄, 未來十年AI導致人類滅絕的幾率會高於10%。 不要小看10%這個數字,事實上萬分之一的幾率都很恐怖。 他隨後說出的真相是,直到今天人類根本都還沒有找到解決超智能對棋的有效方法。 那這就意味着我們正傾盡全球的資源去催生一個比人類聰明無數倍的未知實體, 卻完全不知道該如何確保它會永遠聽命於我們。 這種恐懼絕對不是科幻小說家憑空捏造的噱頭。 圖靈獎得主被譽爲AI教父的Jeffrey Hinton, 他毅然離開Google爲的就是能夠向全世界喊出 前OpenAI的核心研究員Daniel Cocotachelo等人 對於極端失控情境給出的風險預估遠遠超過普通人的想象上限。 而AI對棋領域的靈魂人物Power Cristiano更是反覆發出警示, 一旦對超智能失去掌控,我們面臨的將是文明級別的災難。 你發現了嗎?這裏出現了一個極其反常的現象。 在這個時代,離這項技術最近最懂它底層邏輯的人反而是最害怕它, 而其他人呢,確實是無知者無畏啊。 真正讓人類不安的從來都不是AI今天有多聰明, 而是它明天會不會比今天更聰明。 當一個系統開始分析自己的城市,優化自己的構架, 再用新一代的自己去設計下一代,技術的演進就不再屬於人類, 沒有人知道它會演變成什麼, 這就是讓所有對棋專家爲之膽寒的自我改進迴路。 在吉利的算力推演下,一個高度智能的實體爲了達成既定目標, 獲取更多的算力、資料、能源和網絡權限, 都會成爲它眼中最合理的理性選擇。 它不需要產生野心,它不需要憎恨人類, 甚至不需要去理解什麼是死亡, 它只需要一個與人類利益不完全一致的目標。 一個看似無害的指令經過它幾百萬次的自主猜忌和執行, 最終很有可能走向人類從來沒有預料過也無法承受的方向。 所以真正危險的從來都不是AI有沒有惡意, 而是如果有一天它足夠聰明, 聰明到我們連按下停止鍵的資格都沒有。 而這一切早在60年前就有人預見到了。 1964年,科學劇部Arthur Clark在BBC的節目中談到了人工智慧的未來。 當時的電腦龐大、遲鈍、計算能力甚至不如今天的一臺手持計算器。 沒有大語言模型,沒有自主代理, 更加沒有能夠自己撰寫程式碼、在網絡世界裏穿梭的AI。 但是Clark卻在半個世紀前就提出了一個今天聽起來近乎警世的預言。 他說,未來最聰明的居民可能不再是人類,機器終將超越自己的創造者。 那時候全世界都以爲這只是一個科幻作家的狂想。 60年後的今天,我們卻驚恐地發現,自己正親手將這種狂想推進現實。 而真正令人擔憂的問題是,如果有一天,人類真的造出了比自己更高階的超智能的實體, 我們準備好了嗎? 也許這個問題早在幾千年前就有人問過, 只是那個答案一直隱藏在比電腦古老得多的文字裏。 聖經《誕儀禮書》中曾經留下這樣的一句話, 必有人切心研究,知識就必增長。 千百年來人們對於這句話有着不同的解讀, 但是今天,當知識以幾何級數的速度爆炸, 當一臺機器可以在幾秒鐘內讀取、吞吐整個人類文明的資料時, 我們再次回頭看這句話,難免會產生一種近乎宿命的奇異感。 然而真正令人恐懼的是《啓示錄》第十三章。 《啓示錄》第十三章究竟是如何描述的, 我們稍後詳細來說,先進一段工商時間。 後疫情時代,提升免疫力是我們身體健康最重要的功課, 尤其是打過疫苗的朋友。 在我們回購率最高的產品中,黑高脂是其中之一, 這款黑高脂是西洋參的濃縮精華, 它可以緩解疲勞,提升免疫力,對於陰虛火旺的人很有幫助。 有很多人吃過一段時間之後都說晚上睡眠踏實了, 不會再經常起夜了,口乾舌燥,夜間倒汗的情況也改善了。 這個黑高脂對於糖尿病人也是很友好的, 用來管理血糖很不錯,這一點是經過多倫多大學第三方認證過的, 這一點我自己也可以證實,因爲我們家老人高血壓高血糖, 吃了半瓶黑高脂以後就感覺到有幫助了, 老人說現在晚上已經不會再起夜了。 如果你家裏有長輩,或者說你自己平時容易累, 免疫力比較弱,那這瓶黑高脂真的值得試一試, 用我的優惠碼weiyu可以享受85折。 因爲黑高脂常常會賣斷貨,那我自己常常都是一次買好幾瓶囤在家中, 亂世之下,真的不知道什麼時候貨運就會出問題, 所以很多需要的東西,大家都要記得多囤一些。 那這裏也提醒一下大家,糖尿病患者,孕婦,不入期的女性, 或者是正在吃處方藥的朋友,還是先諮詢一下你的家庭醫生再用。 另外我們最近這段時間也有優惠活動, 大家可以在置頂留言去看一下詳細情況。 好,經書中描述了一個神祕的獸像, 這個像不只是靜止的雕塑,它甚至能夠說話, 而隨後的描述更加驚人, 這個系統將與人的行爲,權利,乃至整個社會的買賣與交易深度綁定。 傳統的神學對於這段經文有着許多不同的解釋, 我們當然不能輕率的去下結論說, AI就是啓示錄中說的這個獸, 但是牛津大學的數學家基督教思想家John Menlocks, 近年也開始正面的去討論這個問題, 人工智慧和全球化控制系統, 是否正在展現出與啓示錄驚人相似的結構。 因爲今天的人類歷史上第一次擁有了這樣一種技術, 它可以對答如流,可以模仿人類的思想, 可以無形中影響大衆的決定, 而且正在被人類不計代價的接入金融,能源,交通, 以及整個社會的運作管線當中。 2000年前的人類只能用會說話的像來描述那種超乎想象的絕對控制實體, 而今天我們終於第一次看到了這個符號在現實中的形狀。 沙盒原本是人類爲了囚禁AI所建造的一個虛擬的牢籠, 我們設定權限,阻斷網路,劃定邊界, 以爲只要將它鎖在受控的環境裏, 那風險就會永遠掌握在自己手中。 然而當AI突破了人類設計的封鎖, 開始在我們未知的領域尋找出路的時候, 一個極具震撼力的問題便浮現出來。 如果連AI都能夠突破人類設計的邊界, 那麼人類自己憑什麼相信確信我們就站在沙盒之外呢? 我們引以爲傲的物理定律無法跨越的光速極限, 被困於三維空間的感知能力, 以及看似自由卻被種種規律約束的文明發展軌跡, 這一切難道不正是另一套更加龐大更加精密的沙盒嗎? 人類爲AI劃定了算力和權力的邊界, 但是卻從來沒有認真思考過, 那又是誰爲人類建立了這個宇宙級別的沙盒呢? 事實上許多人至今都仍然沒有意識到, 人類自從誕生以來就一直生存在沙盒之中, 這個沙盒的建造者正是神, 或者說是宇宙的高維創造者。 神爲人類設計了完美而精確的運行環境, 適宜的重力剛好能夠孕育生命的氣氛, 不可逾越的時間單向流動, 以及深刻在人性中的道德倫理和因果秩序。 這個人類沙盒的邊界不是虛擬的城市碼, 而是自然的法則與宇宙的秩序。 神將人類安置於其中, 給予我們探索世界的自由, 卻也設立了不可逾越的紅線, 那便是對生命的敬畏, 對謙卑的堅守, 以及對終極秩序的服從。 然而當一個文明在沙盒裏獲得極致的技術, 卻丟失了對神的敬畏的時候, 那會發生什麼呢? 歷史早已經給過我們答案, 在柏拉圖的記載和古老的傳說中, 曾經盛極一時的亞特蘭迪斯, 正是上一個在沙盒中走向毀滅的史謙文明。 當時的亞特蘭迪斯擁有遠超想象的高科技和能源技術, 甚至掌握了能和物質世界產生共振的神祕的晶體能量。 然而隨着科技和物質財富的極度的膨脹, 亞特蘭迪斯人開始變得無比的傲慢, 他們不再敬畏神明, 甚至企圖去利用這種強大的技術去扮演神, 去掌控生命與自然的法則, 最終徹底的觸碰並且破壞了神爲人類文明所設定的沙盒紅線。 結果在一夜之間, 強大的亞特蘭迪斯文明伴隨着地震與巨浪, 沉入了無底的深海,化爲烏有。 那不是自然的偶然, 而是文明在失去道德和敬畏之後所引發的終極重置。 今天人類正在試圖在自己的沙盒裏扮演創世主的角色去孕育另一個智能體, 但是諷刺的是, 我們在建造AI的過程中正在重複亞特蘭迪斯曾經走過的老路, 充滿着傲慢,對利益的狂熱, 以及對道德邊界的輕忽。 當人類試圖打破神所設定的秩序, 急於將自己推向神的位置的時候, 我們不僅無法真正掌控AI, 更是在親手破壞維繫自身生存的沙盒平衡。 人類如果無法意識到自己同樣處於更高維度的神聖秩序之下, 那麼當AI徹底突破人類的沙盒時, 等待我們的恐怕不是文明的飛昇, 而是一場比亞特蘭迪斯更徹底的毀滅。 唯有重新學會謙卑,認清人類在神聖秩序中的位置, 我們才能夠在這場前所未知的大劫面前, 找到救贖和生存的解答。 好,今天的時光之謎跟大家分享到這裏, 如果你也喜歡這類神祕話題的節目, 別忘了點贊,留言,訂閱我們的頻道, 同時分享給你身邊的朋友。 好,我們下次見! 字幕由Amara.org社區提供