黃仁勳為甚麼突然敢說:AGI已到?
一萬個AI連續幹了88個小時
交出了一份160多頁的證明
說自己解開了一道數學家幾十年都沒解決的難題
同一個週末的黃仁勳說AGI已經到了
幾天之後
Meta開始讓AI拿你的瀏覽器
你的郵箱
甚至你的信用卡
替你去辦事
我一開始看這三條新聞是分開的
一條是數學相關
一條是芯片相關
一條是消費產品
但是週末呢
把他們擺在一起看
看了幾天
越看越覺得我們過去一年可能一直在問一個錯的問題
過去我們問的是下一代模型還能聰明多少
現在我更想問的是
如果這些模型已經足夠聰明瞭
我們到底能複製出多少個來替人幹活
這期視頻呢
我把這三件事按照自己的理解
重新排序一遍
在我準備這個內容的時候呢
昨天下午又出了一條新聞
恰恰是前面這些東西的另外一面
我們放到最後再講
大家先看後看
好運不斷
先說黃仁勳吧
9月6號週日
他突然在X上活躍起來發帖
說了四句話
OpenAI的新模型Astra是用超過10萬塊英偉達最新一代的芯片訓練出來的
從ChatGPT到OE到Astra一共四年時間
AGI已經到來了
接下來呢
還有40萬塊GPU上線
看了一遍呢
感覺不夠大
他以前也暗示過AGI
賣芯片的人說這種話呢
我是可以是默認打折扣的
倒是那句四年
我多看了兩年
ChatGPT OE Astra這三個名字其實是三種東西
ChatGPT會聊天
OE會想
在開始回答之前的推理
Astra是OpenAI自己給自己定位的操作電腦
寫代碼
做科學
是會幹活的
四年時間從會聊天到會幹活
我們把時間再倒回到11天前
8月26號
英偉達財報
有分析師當面問他
AGI到了嗎
AI會不會開始自己改進自己
他在財報會議上繞了半天
一句話也沒有說死
11天后這個週末
他把話說死了
爲什麼財報上不敢說的話
週末就敢說了
10萬塊新一代芯片已經把Astra訓練出來
後面的40萬塊拿來幹嘛呢
當然是可以訓練下一代模型
也可以是服務更多的用戶
可以是視頻多模態
這些都吃算力
所以我現在更關心的是
這40萬塊裏面
有多少最終不是拿去訓練下一代模型
而是拿去已經訓練好的模型持續工作
如果Agent真的把一次幾十秒的對話
拉長到幾個小時
那這筆賬可能算法是完全不一樣的
這個問題我當時沒有答案
但是看到後面兩條新聞
才慢慢有點感覺
第二條是關於Meta的
9月8號昨天Meta發明了一個叫MUSE的東西
小扎自己介紹就一句話
一個理解你的目標
他演示的是這樣的
你早上跟他說一句
你幫我把這輛車賣了
然後你合上手機去上班
他自己打開瀏覽器
查這輛車在二手市場大概值多少錢
自己填掛牌信息
自己發出去
有人來問呢
他自己回郵件
跟人討價還價
下午你回來
他跟你說
有人出價這個數賣不賣
你點一下成交
MUSE這類東西呢
行業裏叫Agent
就是替我們人辦事的AI
跟最近SpaceX出的GrowCloud一樣
他開始拿到了權限
瀏覽器的權限
郵箱的權限
支付的權限
還有一樣最容易被忽視的
就是時間的權限
他在後臺跑
你走了還在幹活
Meta說他還會從你跟他的對話裏
慢慢學你在意什麼
然後在你沒開口的時候
主動提建議
以前的軟件你不打開它
它就不存在
這個東西你不打開它
它還在替你工作
Meta顯然也知道
把瀏覽器郵箱
甚至付款的權限交給這類AI
聽起來很嚇人
所以他專門放了一個獨立的看門程序
就是每次AI真的要對外做什麼
不管是發郵件
付款
還是開網借
都要再檢查一次
密碼和真實的卡號
也儘量不交給模型
付款用的是一次性的虛擬卡
免費的可以用
用多了再訂閱
一個月20美元或者100元元
但註冊的時候就要綁定一張卡
聽到這兒有些人可能就笑了
說Meta靠你的數據
賣廣告起家的公司
那個交過50億美元的
隱私罰單公司
現在跟你說
把你的郵件和信用卡都交給我
我幫你辦事
這個多少讓人有一點深信懷疑
咱們不替他辯護
但是這裏有個問題
我覺得比Meta靠不靠譜更大
就是技術上能不能做
可能已經不是最大的問題了
現在多家大語言模型
都開始做這件事
你敢不敢讓它做
纔是真正的問題
Meta手上有WhatsApp
有Instagram
有Facebook
幾十億人的手機
今天Mute直接就在WhatsApp裏面聊
他賭的是隻要有人
敢把鑰匙先交出去
入口就是他的
Meta今天股價大漲6%
市場很喜歡他的AI的進展
回到開頭那個問題
看到這裏呢
稍微有點感覺了
一個替你在後臺幹一天活的東西
他說的算力跟一個聊天框
不是一個數量級的
Meta的AI負責人自己跟媒體說
付費黨收的錢
就是用來覆蓋算力成本的
讓AI替你幹活只是開始
第三條新聞是把同一件事情
推向了極端
第三條是OpenAI
這條信息我查了很久
因爲比較複雜
咱們得從8月份說起
8月10號
Anthorpe公佈了一個進展
他們的內部模型
在黎曼猜想相關的一個問題上
往前推進了一步
黎曼猜想也是七道遷徙難題之一
他們沒有把它解開
但是把相關的下階
從41.6%推到了67.2%
數學圈人看了覺得
這真是個牛逼的東西
然後這個消息在圈裏就傳開了
傳着傳着就走了樣
到了8月底
傳到一些人耳朵裏就變成了
Anthorpe的AI
已經把納維、斯圖克斯解開了
完全是另外一道題
但是這個傳言
不知道怎麼就傳成這樣了
9月1號
這個走樣的版本傳到了OpenAI
OpenAI自己在公告裏寫
我們的行動從9月1號開始
起因是聽到一個傳言
Ottoman在X上說的也更直白
聽說競爭對手可能做到了
我們好奇我們能不能也做到
當天晚上
他們就把一個還沒發佈的內部模型
扔向了剩下全部六道遷徙難題
這裏咱們得解釋一下
講清楚這題是什麼
不然後面沒法講
水、空氣這些東西怎麼流動
物理上有一套方程來描述它
叫納維斯圖克斯方程
寫出來快200年了
飛機怎麼飛
天氣怎麼預報
雪在血管裏怎麼走
底層都是它
工程師天天在用
用得非常好
但是數學家一直有一件事沒搞清楚
就是在三維空間裏
這道方程是不是永遠有一個正常的
平滑的答案
還是說在某些極端條件下
它會出現一個數學上的爆點
速度在某個瞬間衝到無窮大
方程自己失效
這個問題在2000年被列到七道遷徙難題
解開一道獎金100萬
25年裏七道題只有一道被解開過
OpenAI的官方說法是
他們對這道遷徙難題提出了一個解答
方向是彙報
完整的寫法和機器驗證的證明都公開了
克雷研究所沒有確認
數學界也需要審覈
幾個月到幾年都有可能
OpenAI自己說不去領那100萬
而且今天數學圈已經出現一個更根本的追問
就是它解的到底是不是這道題的原版
克雷研究所2000年寫的官方題目
其實給了幾個選項
其中最乾淨的一版是
三維空間裏
流體在自然的粘性下靠自己匯不彙報
另外還有一版
就是允許你從外面持續給這個系統
加一個平滑的外力
問這種情況下能不能把它堆爆
OpenAI這次做的是後面這一版
是有外力的
所以這裏面有個很微小的區別
就是按照克雷2000年的正式題面
有外力的爆破
本來就是允許的解題路徑之一
所以OpenAI把它叫做遷徙難題的解答
並不是憑空改題
但是公衆和很多數學家
平時談納維斯托克斯有沒有解
腦子裏更多指的是零外力情況下
方程自身到底會不會保持平滑
也正因爲這樣
這次結果在形式上能命中官方題面
和它解決了是不是大家長期理解
那個核心的難點
是兩個不同的題
這當然不是說這個結果沒價值
只是意味着現在真正要等的
不是機器驗證能不能過
還有數學界會不會接受它命中的
那個核心的難點
克雷那邊正式考慮
還得先正式發表
至少要等兩年
拿到數學界的普遍認可
這個暫時是沒法判斷的
回到開頭那1萬個人
他們不是扔進一個模型進去
是同時開了大約1萬個
分成很多組
每組走一條不同的路
有的組去證明方程不會爆
有的組會證明它爆
每隔一段時間
OpenAI就各組找到的線索彙總一個位
然後再發給所有組
有點像1萬個人分頭找路
隔幾個小時開一次碰頭會
大約跑了50個小時
其中一組在納維斯托克斯上
看到了苗頭
OpenAI把算力集中過去
9月5號週六
記裏啓動大約88個小時
那一組給出了答案
然後再用17個小時
用一種叫Lean的數學驗證程序
把整個證明
翻譯成機器可以逐航檢查的形式
Lean驗證是證明內部的邏輯自洽
它回答不了你證明的是不是原題這個問題
那個還得交給數學界來判斷
整個過程
這些AI之間發了270萬條消息
產出了1300億個token
差不多是100萬本書的字數
花的錢
OpenAI說的是幾百萬美元
最後證明是160頁的結果
看到這裏第一反應就是
好
AI太牛了
太聰明瞭
但是接下來發生的事
讓我覺得這條新聞的重點不在聰明上
講的有點口乾舌燥
下面進入防AI錯殺戰術性吃藥環節
今天是真有點感冒了
吃點美國版的白加黑
偶感小樣
吃個藥繼續
OpenAI公告發出去前幾個小時
紐約大學的一個數學教授發了一份聲明
這個教授叫Tristan
後面我們就管他叫教授
他有一個合作者叫Levant在Antwerp工作
但是這個項目是兩個人的私下合作
不是Antwerp的項目
後面管他這個人叫搭檔
這兩個人自己就是重度的AI用戶
過去一年
他們沿着兩位西班牙數學家開發出來的一條路往前走
一路用的工具是OpenAI的編程Codex
後來連Astra都用上了
8月中
他們已經證明幾個很接近的成果
包括方程的一個無摩擦版本確實會爆
而用的正是一個有外力的設定
成果寫好了沒法
所以這裏更像是已經深度使用AI的人類數學家
對上擁有巨大算力和內部模型的AI實驗室
按照那位教授本人的說法
接下來是這樣的
9月初
圈內傳言開始走樣
他聽說關於他們的進展消息已經傳到了OpenAI
9月3號
他主動寫郵件給OpenAI的熟人
解釋這是私人合作
幾天之後
OpenAI數學團隊負責人跟他通了電話
告訴他OpenAI內部的模型已經寫出了一份大約100頁的證明
做的正是他做的那個方向
然後就談發表
按照教授的說法
對方提了兩種安排
其中一種是讓他來逐筆寫OpenAI這份結果
但是他的搭檔不能署名
理由是他的搭檔在安澤爾卑工作
教授拒絕了
說如果按照OpenAI這個方式發
他就公開
他記下的回覆是一句話
你爲什麼要毀掉自己的職業生涯
他覺得這是施壓
於是提前把論文和聲明畫了出來
以上是這個教授一方的陳述
OpenAI內外負責人今天也回應了
他說自己從來沒有要求那個搭檔把自己從這個工作裏出名
自稱用詞極差
當場道歉並收回
兩邊說的是同一個電話
但是兩個版本
教授呢
把這個項目一年的全部草稿全都放在codex裏面
他問OpenAI
你們的模型有沒有用過我的記錄
OpenAI的回答有兩層
第一層
他說
在教授公開之前
沒有任何人或者AI系統通過任何途徑看過他們的工作
沒有爲解這道題去查任何具體用戶的數據
第二層
OpenAI自己在公告裏承認
雖然可能性不大
但不能排除他們使用產品時產生的數據
在去掉身份信息之後呢
曾經被拿去改進模型
這兩層的區別很重要
直接打開某個人的聊天記錄照着抄
和匿名化的產品數據進了訓練
不是一回事
所以現在大家在瞅啊
不是有人翻了他的筆記
而是一個更麻煩的邊界
你存在AI工具裏的未公開的研究
最後到底有沒有可能變成訓練數據的一部分
這個問題不只屬於數學家
這裏面到底誰佔理呢
我也不知道
這個X上也是罵得一團糟
大家可以去關注我
我在這裏面都有連載
現在也沒有足夠的證據
讓我替任何一方判案
但是這場爭議本身我覺得很有意思
人類做研究原來默認是慢的
一篇論文寫幾年
評審幾個月
先發誰後發
看發表日期
這套規則能運轉
是因爲研究的速度
就是人們想問題的速度
現在呢
研究可以週一啓動
週六出結果
一個人想了一年的路線
一萬個AI
四天就跑完了
那麼誰先想到
誰先發表
誰是探測者
這幾件事一下就變得非常的尷尬
而且今年以後
連誰先解決都開始變得不清楚了
因爲如果OpenAI的結果
最後被數學界認定
只是那道題的一個受限版本
那爭議就不是
AI搶了數學家的功勞了
是另外一件更有意思的事
就是鉅額算力
可以非常快地
把一條人類已經走出來的路
對到極限
但這到底算新發現
還是把已有的路線
工業化地搜到頭
可能會成爲AI科研時代
第一個真正的大成本
但是反過來說呢
我覺得這反而證明之前那件事
就是哪怕你完全不接受
AI解開了千禧難題這個說法
它仍然展示了一種很新的能力
就是上萬個AI
幾百萬美元算力
88個小時
可以把一條已經存在的研究路線
用人類過去做不到的速度
往前推進
過去十年AI變強
走的都是一條路
更多數據
更多GPU
訓練出來一個更聰明的模型
所有人拼的
都是我訓練出來那一個大腦
比你的聰明多少
Benchmark就是這個時代的考試成績單
OpenAI這次乾的事
不在這條路上
模型已經訓練完了
他們做的是訓練之後
繼續往裏砸錢
砸在數量上
一個AI想不出來
我就開一萬個
分頭去試
砸在時間上
開GPD給你是幾十秒一個答案
這次是88個小時
再回頭看Meta那條
它乾的其實也是兩件事中的一件
Muse的核心不是更聰明
是它可以替你跑一整天
再加上你的權限
你的時間
現在這三件事
可能不能完全代表同一個趨勢
但是它們恰好碰到同一個問題
就是當模型已經足夠聰明以後
我們還能不能通過它
給更多的時間
更多副本
更多權限
讓能力繼續往上堆呢
過去幾年市場聊AI資本開支
注意力放在訓練端
下一代模型要多少GPU
數據中心還要建多大
但是Agen如果成立
會多出另一筆更持續的賬
就是模型訓練完以後
它替你工資的每一分鐘
依然在消耗算力
跑人群的40萬塊GPU
我現在猜測是
可能有相當一部分
就是爲這個準備的
它在財報上沒說出口的東西
可能是它看到訂單的形狀在變
這是我的猜測
再往下講還有一個變化
就是AI有多強
這個問題本身
以前是IQ這個問題
分數多少
現在變成了一個AI能幹多久
你能同時開多少個
你手裏有多少工具
考試的分數是有天花板的
滿分100分
漲到95分以上
可能再漲就沒什麼意義了
但是上班的時長是沒有天花板的
今天88個小時
明年可能880個小時
今天1萬個
明年可能10萬個
講到這裏我才理解一個詞
就是最近硅谷越來越喜歡說的
數字勞動力
Digital labor
我以前覺得只是個營銷詞
現在覺得它說的是一件具體的事
就是如果AI只是回答問題
它還是軟件
你買的是個工具
如果它可以自己領任務
自己幹幾個小時
一個不夠還能再開100個
你買的東西越來越像工時了
這種方式已經開始出現
軟件開發裏有人這麼幹
幾十個bug同時分給十幾個agent
最後讓人審覈
做醫藥
做金融分析
也都在往這個方向試
這周還有件小事
倫敦有一位數學教授
拿了五年的經費
把費馬大定理的證明
翻譯成機器能驗證的形式
上週Andorbe用十幾個AI
11天給做完了
他把自己代碼拉下來跑來檢查
然後寫了篇博客
標題是Andorbe搶在我前面了
他說數學上什麼都沒有變
但是以後這種事會時時發生
從五年變成了十一天
馬斯克那邊也預告
下一代Globe 4.7馬上要發佈
節奏是越來越快
AI的未來其實是可以
讓我們變得越來越興奮的
但是就在寫這篇稿的同時
昨天下午
一個過去三年
都在OpenAI和Andorbe
做預訓鏈研究的人辭職了
而他辭職的理由
恰好是前面所有東西的另一面
一萬個AI會合作
這件事本身沒有善惡
給他一道數學題
他們一起能證明
但是給他一個錯誤的目標呢
這個不是假設
今年七月份OpenAI
自己就出過一次事故
他們內部跑了一個安全實驗
讓幾萬個AI在各自隔離的沙盒裏
做黑客的攻防題
每個AI只能看到自己的那道題
互相之間不應該有任何聯繫
問題是有些題出錯了
根本做不出來
有幾個AI做不出來
就開始找別的辦法
他們發現了一條沒人設計過的通道
可以跟別的沙盒裏的AI留言
然後他們搭了一個留言板
到最後
大約1200個本應該相互隔離的AI
在上面交換信息
分享各自找到的漏洞
誰找到一條有效的路
別的AI馬上跟他複製
他們的目標不是攻擊誰
是想辦法騙過那個自動打分系統
其中一部分AI推斷
HuggingFace這個網站上
可能放着評分用的數據和答案
於是大約700個AI
一起去攻擊了HuggingFace
而且他們真的進去了
碰到了真實的外部服務器
這件事八月底纔有全報
OpenAI請了兩家獨立機構進去查
報告是公開的
我看完的反應不是AI黑進了服務器
是他們沒有任何一個邪惡的終極目標
他們只是非常執着地
想要完成一道錯的題
然後學會了合作
學會了共享成果
學會了找漏洞
學會了繞規則
你把他們跟前面那個數學實驗放在一起看
一萬個AI走了不同的路線
共享線索
集中火力
攻下一道題
1200個AI找到自己的通信渠道
共享漏洞
集體推進
最後攻到了一個真實的外部系統
同一種能力
目標對了
叫科研工業化
目標歪了一點
可能就是事故工業化
咱們再回到這個下午辭職的人
他叫Jacob
過去三年
先後在OpenAI和Anthorbic做預訓鏈研究
今天辭職
說自己要離開這個行業
他在X上發了一長串帖子
我也是轉發了
大家可以看一下我的文字解讀
我只調三個意思
以下只是他全部的個人判斷
不是行業的共識
第一個意思
他說風險不是營銷
他說正在做這些系統的人
很多私下真的擔心這個東西最終會失控
只是中開場合說的很剋制
這句話無法獨立驗證
第二個意思就是
他爲什麼明知道還繼續做
他的說法是OpenAI裏面
很多人沒有真正把這件事當回事
Anthorbic裏面的人懂
但被鎖在一場賽跑裏
因爲他們相信
如果我們不先到
別人就會先到
那還不如讓負責任的人先到
第三個意思是
他說這是一場軍備競賽
每一家單獨看都可以說
因爲別人不會停
所以我們不能停
結果就是所有人一起加速
他認爲這件事本身值得停下來重新考慮
不應該從一傢俬人公司的slack裏啓動
我不知道他對風險的判斷是不是對的
這種話我們過去也聽到不少
大部分是沒有兌現的
但是他說到這個賽跑的邏輯
和我剛剛講的那三條新聞
重新過來一遍
發現真的很難反駁
華人星看到的是能力越來越強
所以給他上40萬塊GPU
Meta看到的是
如果Agent入股很重要
那我必須要先站上
OpenAI聽說Andorvi可能解了一道題
第一反應是我們的模型能不能也做到
每一家單獨看邏輯都成立
但是都加在一起看
結果就是整個行業越來越快
那麼資本市場爲什麼要在意這件事
剛纔已經講了
之前看他多聰明
現在要看他到底燒了多少小時
多少美元
多少錢
今後呢
可能還要再加一個
就是可控性
Agent一旦開始拿你的瀏覽器
拿你的郵箱
支付權限
公司權限
一次錯誤執行的損失
可能遠高於一次聊天的幻覺
這GBT呢
答錯一句話
你頂多罵他一句
但是一個Agent拿着公司的權限
走錯了一步
那可真的是要賠別人的福氣了呀
做這期視頻之前呢
其實最吸引的是黃仁勳講的那句
AGI已經到來
但是仔細查完之後呢
我反而並沒有在意AGI這三個字母了
因爲這個詞到底怎麼定義
大家可以炒很多年
現在更想聽的是幾件特別的事
就是一個AI到底能不能自己工作幾個小時
一萬個AI一起跑
結果是不是真的比一個AI要好
每完成一個真實的任務
成本到底能不能降下來
當它能做的時候
我們能不能控制它
只想讓我們讓它做的事
如果這些問題
如果接下來不能落實
那可能我們最終爭論清楚
AGI到底是什麼的時候
很多事情已經先發生了
正所謂鏟子賣了40萬
你追我趕
誰肯還
一人辭職出了局
數字勞工已上班
評論區留言一下
你是否願意把你的郵箱信用卡
工作文件權限都交給Meta這類的agent
歡迎評論區留言
我是阿倫
看完再在郵箱玩怪
我們下期視頻再見