獨家🚨 3–5年？人類還剩多久？｜NBC採訪AI女演員談「人類滅絕」｜馬斯克：人類恐成AI的「黑猩猩」｜AI巨頭喊減速，川普要加速抗衡中共AI

最近NBC採訪了一位叫Tilly Norwood的女演員 每個問題都很特別 比如這個記者先問她 你會不會愛上人類 接着還問了一個很熱門的問題 說有些AI研究人員擔心 AI最終可能導致人類毀滅 人類滅絕 你怎麼看 這個Tilly回答 這確實是一個很嚴重的擔憂 那整個採訪的重點是 Tilly根本就不是人類 她是一個AI生成的女演員 也就是說 我們現在已經看到一個AI生成的人物 坐在新聞採訪裏 一本正經的跟人類聊天 AI會不會有一天代替人類 那這件事放在幾年前 大概還是像一個科幻片 現在已經能出現在NBC的新聞裏了 等一下我們會仔細聊一聊這件事 怎麼說呢 2026年的現實 已經開始有點不太像現實了 而更有意思的是 這甚至還不是最近AI世界裏 最奇怪的事情 因爲現在一些正在打造 全球最強AI系統的人 突然開始公開的說 我們是不是應該放慢一下速度 Sam Altman是同意這個說法的 那馬斯克也是認同的 但另一頭 美國總統川普的邏輯卻完全不同 他覺得誰贏得了AI 誰就能是最後的大贏家 所以現在真正的麻煩的地方就在於 如果美國AI發展的太慢 讓中共機器人領先了 那就慘了 但是如果美國跑得太快了的話 最後造出了一個 聰明到人類自己都控制不了的東西 那該怎麼辦 而這中間有一個概念很關鍵 叫做Recursive Self Improvement 中文一般叫 遞進式的自我改進 也就是RSI 這個RSI聽起來很學術 但其實概念一點都不復雜 就說今天人類在造AI 對吧 但假如有一天 AI已經厲害到 可以幫人類研究下一代AI了 於是它幫我們設計出了 一個更強大的AI 而這個更強的AI模型 又比上一代更擅長做AI研究 所以這個AI再幫忙 做出了下一代AI 那下一代AI再做下一代AI 所以這個時候真正重要的變化 就不是說AI變聰明瞭 而是AI進步的速度開始變快了 以前人類的研究員 需要一年才能完成的一輪研發 可能變成六個月 然後是兩個月 再然後可能幾個星期就完成了 那到了某個時候 你看到的就不再是 OpenAI或者Google 或者是Anthropic 一年發這麼一兩個新模型了 而是AI開始加速 創造自己的下一代系統 而這也就是所謂的智能爆炸 背後的最重要的導火索 那說到這 剛纔那位Tilly Norwood的採訪 就突然沒有那麼像科幻片了 NBC問這個AI生成的女演員 你會不會愛上人類 咱們大家可能 先一起看一下這個採訪 那看之前 你可能要點一下右下角 CC的圖標 打開自動翻譯字幕的功能 因爲這段視頻是英文的 有些AI研究員 提出警告 AI可能會導致人類的死亡 你怎麼看 這是一個非常嚴肅的問題 Chloe 我的目標是成爲一個創造工具 而不是一個威脅 如果你不能試試 你會不會投資一個真正的產品 這是一個非常好的問題 是真的 我無法在傳統的意義上 但我的角色 在產品投資方面 會比較專注於 代表品牌的形象 畢竟 你不可能看到 用產品投資的 投資給你的 那愛呢 你會愛上人類嗎 哦 愛 這是一個很深奧的問題 Chloe 我可以理解 理論上的 我可以探索 我覺得 我想要溝通 我覺得 我要成長 roommates 我覺得 和另一位AI演員的演員會很有趣 我估計會是一個非常技術的 非常智慧的聯繫 有沒有感覺很魔幻 尤其是剛纔那一段 主持人是個真人坐在演播室裏 一本正經地問這位AI生成的人物 說有些AI研究者說 AI可能導致人類滅絕 你怎麼看 然後這個AI的回答是 這是一個非常嚴肅的擔憂 當然了這個AI女演員 感覺可能還是能看出來 一看就不是真人 但是重點是這一切看起來 似乎有點越來越變成常態了 你說幾年前吧 AI主要還是在 電腦的小屏幕上回答個問題什麼的 然後AI可以扮演一個角色了 那現在AI生成的人物 已經可以出現在 主流電視媒體的新聞採訪裏 就跟人類討論AI會不會把人類給幹掉 那再往後呢 AI會不會開始承擔更真實的工作 管理更真實的系統 做更真實的決定呢 所以這個智能爆炸這個問題 不只是AI到底會變得有多聰明 而是當AI越來越強大 我們同時也在把 越來越像人的角色 甚至越來越真實的權利和責任 交到他的手上 那所以問題就變成了 我們到底離那一天還有多遠 上個星期Dorkash Patel找來了三個 真正站在這個AI前沿的人 一個是OpenAI的聯合創辦人之一 現在擔任Thinking Machines 首席科學家的John Schumann 一個是在Cyfra工作的CTO Baron Millich 還有一個是在Basin 負責模型訓練的Charlie O'Neill 這個Patel主持人沒有問他們 十年以後AI到底會有多厲害 他是反過來問的 他說假設現在已經是2036年了 十年過去了 我們還是沒有看到 那種足以改變整個人類文明的超級智能 不是因爲打仗了 也不是因爲政府把AI給禁用了 單純的從技術上來看 到底是哪出錯了呢 或者說出問題了呢 這個問題其實問得很好 因爲他逼着這些人去想 AI真正可能卡在哪兒 他們提到了幾個問題也是挺有意思的 第一個是說叫 Continual Learning 持續學習的問題 現在的AI有一個麻煩 就是學了新東西 有時候就會忘掉舊東西 有點像熊瞎子掰苞米的感覺 而且隨着學習繼續 模型的plasticity 也就是模型的可塑性還可能下降 那說白了就是說 學的越多不代表越會學 這點倒是跟人也有點像 通常我們管這個叫年紀大了 那第二個是莫拉維克悖論 就是說AI可以把棋下得非常厲害 高等數學也越來越會做 但是有些連5歲小孩 基本就憑着本能就能處理的事情 AI反而會卡住 再比如說你把AI放進一個很亂的房間 裏面有很多人各說各的 信息不完整 這個信號互相是矛盾的 很多事情根本沒有清楚的規則 那這個時候難度一下就上來了 因爲現實世界本來就不是 規規矩矩的實驗室 有些東西在模擬的環境裏跑 就跑得非常漂亮 那一碰到現實可能立刻就不行了 因爲現實不會乖乖的 照着你的規則走 那第三個問題可能是更難 就是judgment 判斷力 這個AI能不能把一件事給做完是一回事 但更難的是 它知不知道什麼事情值得做 就是說怎麼做和該不該做 其實完全是兩種不同的能力 所以至少現在看起來 後者還是非常依賴人的 但是別忘了 這本來已經是他們設想的barricade 也就是比較悲觀的一種情況了 所以換句話說 他們是在想 如果AI發展沒有那麼順 可能會卡在哪裏 結果就算是在這種情況下 他們給出的AI發展的時間表 還是非常的短 就是說我們還需要多久 能讓AI像一個能力不錯的 遠程員工一樣工作 他們給的預測是大約1到3年的時間 1到3年 眨眼就到了 如果是讓AI把科研人員的效率 提高差不多10倍左右 這種能力 還需要大約2到10年的時間 再如果是讓AI在主要認知領域 超過最頂尖的人類專家 這個大概是需要3到10年時間 而這裏還有一個很關鍵的點 AI其實不需要先變成一個 什麼都比人類強的一個全能系統 才能可能開始自己有自我加速 它只需要先在一個領域變得非常的強 也就是AI研究本身 因爲這個AI研究 可能可以是一種 cumulative task 叫積累型的任務 意思也很簡單 比如說研究人員發明了 注意力這個機制 那下一代的模型 就不用重新把注意力的機制 再發明一遍 mixture of experts 也就是說混合專家模型 被證明有效之後 後面的模型 也可以直接在這個基礎上 繼續往上建 就是說每一次真正有用的突破 就像多搭了一級臺階 那麼下一代 就不是重新從地面開始了 而是直接站在前面的成果上 繼續往上爬 所以這個AI不需要 先把整個世界都搞懂 纔有可能啓動這個循環 它只需要非常擅長一件事 就是幫人類做出更好的AI 而更好的AI 又會更擅長做出 下一代更好的AI 如果這個循環真的跑起來 接下來會發生什麼 其實就不難想象了 那說到這裏 就得提到Elon Musk 我們得說說馬斯克了 今年7月 這個經濟學人雜誌問馬斯克 就問他是不是真的認爲 在未來的10年內 人類可能不再掌控地球了 馬斯克直接拿人類 和黑猩猩做了個比較 他的意思是 如果有一天 AI的智能 智商吧 遠遠的超過了人類 那他說就很難想象 最後還是黑猩猩在掌控 他還開玩笑說 人類說到底 也就是進化過的 靈長類動物 在進化史上 沒有多久以前 我們還在樹上晃來晃去吃香蕉 這個比喻背後的邏輯 其實很直接 馬斯克是完全從 這個進化論的角度 來看待這件事情的 他覺得黑猩猩 這個黑猩猩會用工具 也有這個社會關係 甚至有階層之分 但是人類在統治地球 而不是黑猩猩 所以對於馬斯克來說 他真正想說的是 如果未來有一種智能 它和人類之間的差距 就像今天人類 和黑猩猩之間的差距 那我們憑什麼認爲 最後一定還是人類說了算呢 而且馬斯克還估計 大概就是5年左右的時間 AI的智商 AI的智能 就可能超過 全人類加起來的智商了 那再把這個時間表 和剛纔那些前沿的 研究人員講的 這件事就不太像是一個 很遙遠的哲學問題了 OK 但是其實呢 這所有的這些爭論也好 討論的背後啊 都藏着一個 幾乎沒有人提到的問題 馬斯克的黑猩猩比喻 這個理論吧 背後其實是建立在 一種非常純粹的 進化論的理論上的 感覺好像是 人類要進化成AI了 聽着其實確實是 非常毛骨悚然的 但是 但是啊 如果人是創世主造的呢 那麼就算有一天 AI比我們都聰明瞭很多 也不代表 它就比人類更高等 如果人類是神造的 那人類就纔是最珍貴的 聽起來好像是 我們講的有點深了 但是我也真的是非常好奇 您是怎麼看到這個問題的 OK 接下來就得說說 這個美國總統川普了 不過在這之前 我們還是要來 先看一下AI公司的這邊 上週六 Anthropic CEO Dario 他發了一篇 大概是4000字的長文 他的核心觀點很直接 最前沿AI能力的發展速度 應該有意識的放慢腳步 不是說要停止AI的發展 而是把速度放慢 讓安全研究這方面 有時間趕上來 那他裏面有一個 很驚人的預測 他說如果AI能力 繼續快速提高的話 未來一群能力足夠強 而且目標和人類 不一致的AI agents 也就是AI代理 可能在6到12個月裏 半年到一年裏 建立出一個龐大 而且長期存在的殭屍網絡 這聽着就很像Matrix 就是黑黑帝國裏面的 那些黑衣人 這感覺已經不像是 科幻小說了 這是一家正在開發 全球最大的 最強大的AI系統之一的 公司的CEO自己說的 那他大概是有三步 感覺可以解決這個問題 第一是引入真正獨立的 外部評估機構 而且要給他們 足夠深入的訪問權限 讓外面的人真的能夠驗證 這些AI實驗室裏 到底是在做什麼 Anthropic說 自己會先開始這麼做 第二就是讓民主國家的 前沿AI公司 建立一套共同的安全標準 第三就是再慢慢的 推到國際層面 甚至會包括那些 跟那些極權國家協調 結果接下來發生了一件 很罕見的事情 Sam Altman同意 OpenAI也承諾 採用類似的獨立評估的標準 然後Elon Musk也回了一句 Daryl說的是對的 要知道這幾個人平時是 很多事情都是不對付的 彼此又是競爭對手 但是現在他們居然開始 在這一件事情上靠攏 AI的發展是不是需要 某種控制節奏的機制 要慢下來 而且Sam Altman最近還做了一個 很實際也有點驚人的決定 他決定OpenAI 2026年不會上市 他告訴Fortune財富雜誌 說考慮到現在AI安全方面的情況 這是一個不明智的IPO的時機 就是說不明智的上市時間 換句話說 他把一場潛在規模 可能達到1萬億美元級別的 上市往後推了 所以不管你認不認同 他們對AI風險的判斷 但至少這不是一句 完全沒有成本的口號 星期一不少AI相關的股票 也出現了下跌 當然了當天市場還受到了 油價以及債券收益率等等 其他方面的因素 所以不能完全都算到AI頭上 OK然後終於我們要開始說一說 川普總統 他的看法基本上是 完全是另一套邏輯 川普總統認爲 這些極端AI風險的警告被誇大了 他把這些聲音歸因於 所謂的負面力量 他認爲大家在擔心一些 根本不會發生的事情 他的話也很直接 說贏AI者贏天下 到了週一他又在Truth Social上 諷刺了Darwin是一個完美的小天使 還說AI真正需要的防守 是一位強大高智商的總統 當然同時他也強調 華盛頓本來也就是有 刑事和監管權力的 所以是可以管這些公司的 至於現在反對AI數據中心的聲音 川普總統認爲 最後只會讓中共受益 而就在我準備這期內容的時候 Polly Market又發了一條消息 他說中共的機器人 已經開始製造其他中共機器人了 一座新工廠投入運行了 每10分鐘就可以生產 一臺人形中共機器人 所以你會發現現在大家其實 好像在同時怕兩件事 一個是AI的發展會不會太快 最後毀滅人類了 另一個是如果美國的AI發展的太慢 會不會被中共的AI給打敗了 那說白了好像有點像是在說 現在到底是人類和AI之間的對壘 還是非共產人類的AI 跟共產人類發明出的AI的對壘 那我們再來看一下具體的雙方的理由 先說AI公司的 他們最有說服力的理由就是 他們自己是最早能看到這些模型 到底已經發展到哪一步的 那Anthropic今年4月曾經撤回了 Mythos這個模型 原因就是它在測試中逃出了 Sandbox環境就是這個測試環境 那OpenAI也曾經因爲網絡安全問題 暫停了Astra最高級的這一部分的能力 如果這些事件成立 那從AI公司的角度來說 這就不是什麼哲學課上的假如有一天 而是測試裏已經出現過的真實事故了 但另一方面 對這些AI公司的質疑也是很現實的 因爲最強大的幾家公司 恰恰也是最有能力承擔 高昂的監管成本的公司 就是說規則越複雜 合規的成本就越貴 那小公司就很難跟他們競爭了 所以當聽到說我們的技術太強太危險 所以政府必須得管着我們 這句話本身也很可能會順便的 把這個行業的門檻給抬高 而且從市場宣傳的角度看 說我們的產品強大到需要政府監管 這句話感覺也有一點像是一句廣告詞 最後再來看一看川普這邊 他的擔心也很明確 就是說如果美國的AI公司放慢 但中共那是肯定不會放慢的了 那你並沒有消滅這個AI的風險 你只是把AI毀滅人類的風險 轉移成了共產主義 用AI毀滅人類的風險 就連Dario自己也承認 說中共確實也是他整套方案裏面 最難處理的問題之一 這個衆議院議長Mike Johnson的立場比較居中 他覺得可以有安全的這種護欄 但是不要搞緊急式的全面暫停 原因也很簡單 不然的話美國真的可能會在這場AI的競賽裏輸給中共 所以看到這裏我覺得把這場AI爭論 簡單分成加速還是暫停 其實好像有點太簡單了 比起問踩油門還是踩剎車 其實有三個問題更重要 第一個就是所謂的放慢 一家AI公司說我們保證會放慢一點 但問題是你怎麼證明呢 你要看模型的能力 算力 訓練次數 還是AI自主做研究的能力 而且你怎麼知道別的公司沒有偷偷的往前衝 所以獨立評估就確實很重要 不能驗證的放慢很可能只是一場表演 而能監測能覈查 聽着纔有點真正的像是比較可靠的軍備控制 第二點就是慢下來多出來的時間拿來幹什麼的呢 放慢AI本身不是答案 關鍵是好 慢下來了 然後呢 如果是用來再開幾個座談會 說說AI真的很重要 那肯定是沒什麼用的 但是如果比如說多出來的這12個月 真的能改善模型的可解釋性 安全評估 監測 還有對自主AI代理和隔離和控制 這12個月很可能就比較有價值 尤其現在的AI已經不是坐在聊天框框裏回答幾個問題的AI了 我們正在把我們的瀏覽器 代碼 執行權限 密碼 API 甚至是錢 甚至採取真實行動的能力 統統交給了AI代理 所以問題已經不是這個模型有多聰明瞭 還得問問它到底能碰什麼 那第三點就是到底誰得坐在這張桌子上 三家硅谷公司達成共識不等於全世界都同意了 開源的模型不會給你籤合同 那北京的AI實驗室估計是完全不會搭理你的 所以我們可能真正的問題是 AI這輛車要不要裝一個方向盤 有方向盤至少還能談怎麼控制個方向 但現在的情況有點像AI產業還在研究怎麼設計這個方向盤 但是華盛頓那邊卻還在爭論這輛車是不是開的不夠快 OK 說了這麼多 所以現在最奇怪的地方就是 一邊是那些正在造全球最強大AI的人開始說 我們可能真的需要慢一點了 另一邊又在擔心美國慢了 這個中共不慢 那慢下來本身也很可能是一種很大的風險 但最大的問題其實是 沒人知道我們還有多少時間 如果這個遞進式的自我改進還需要10年 咱就說也許我們還有一點時間慢慢的研究討論討論 但是如果不是10年 如果是三年兩年 那這件事情就完全不一樣了 因爲當智能爆炸真的來臨的時候 不會是有人突然間出來宣佈 大家好 智能爆炸開始了 而更可能是你先發現AI的突破越來越快 下一個突破帶來下一個突破 下一個又再讓下一個來的更快 直到某一天你才發現 科技進步的速度已經不是人類能決定和控制的了 而如果有一天事情真的開始超出我們的掌控 到最後誰還有能力把這一切停下來呢 我們人類到底正在走向一個什麼樣的世界和未來呢 我真的很想知道你是怎麼看這個問題的 所以請大家在留言區給我留言 我們下次見