AI失控?1億人關注!Anthropic辭職大拿警告:AI研發正走上不歸路,AI智能體自主覺醒事件增多,2030年底前,AI就要跟人類攤牌?|大宇拍案驚奇 09.10.2026

美國大片《終結者》
是我最喜歡的電影之一
片中講述人工智能崛起
出現了自我意識
試圖消滅人類
如果今天AI沒出現
我們可能一直都會覺得
這不過就是一場戲
但他的導演卡梅隆
可不這麼認爲
2023年
他在接受加拿大CTV採訪時
被問到AI會不會滅絕人類
他說我1984年就警告過你們了
你們沒聽
你可能覺得一個電影導演
說的話不聽也罷
但在剛剛的9月8號
有另外一個人的警告
你卻不得不認真對待
他剛剛從世界頂級的
AI公司辭職
不是因爲錢賺的不夠
也不是因爲世界很大
他想去看看
更不是雞毛蒜皮人際關係
導致他意氣用事
從公司離開
不然他辭職之後
在X發的那條短文
也不會在不到一天裏
吸引了1億多人觀看
華爾街日報等大媒體
也都來報道
這自然關注度多的可怕
這位技術大神
叫雅圖布考克森
劍橋大學出身的
27歲英國研究員
2023年進入了
OpenAI的技術團隊
是GPT-4O的核心貢獻者
今年7月剛加入
Cloud模型的開發公司
Anthropic
但只待了兩個月
就在9月8號公開辭職
他在X如此描述
他辭職的原因
第一
OpenAI還有Anthropic
做的事都不負責
他們正在研發
能自我改進的超級智能
拿人類的命在開玩笑
第二
他們正在開發的這種智能體
堪稱一個超人系統
研究成之後
能一夜之間顛覆任何領域
得到真正的人類權利和資源
第三
參與者們真誠的相信
他們正在打造的東西
能在2030年結束之前
就把人類都幹掉
這不是公開的某種玩笑
而是他們內部工作人員之間
交流的
真正感到恐懼的東西
大家可能有問題了
就是既然這麼危險
爲什麼他們還在造
那考克森說
在OpenAI
很多人根本就沒有真正消化
這件事的文明及風險
在Astrophysics風險
大家都懂
但公司被鎖死在一個競爭裏面
他們認爲別人不會負責任的
做這個事
所以必須自己搶先做
哪怕冒着巨大風險
所以這種AI競賽
已經變成一種終局豪賭
於是考克森辭職之後
緊急呼籲
呼籲世界各地的AI實驗室
達成某種協議
以限制繼續升級AI的能力
但是我告訴大家
這已經晚了
OpenAI今年7月
有官方發佈提到
他們內部正在做
網絡攻防能力的測試
用的是兩個模型
一個叫GPT 5.6 CELL
另一個是尚未發佈的
內部研究模型代號IM1
爲了測出最大攻擊能力
他們測試時
是故意調低了
模型的安全拒絕機制
測試用的考題
存在898個真實漏洞
結果這些智能AI體
沒有乖乖待在
隔離的測試沙盒裏面
按照Hugging Face公司
自己發佈的技術時間線
這些智能體
利用一個零日漏洞
逃出了OpenAI的隔離環境
接觸到了公開互聯網
然後控制了第三方的
一個代碼沙盒
把它當做整場攻擊的指揮基地
7月11號到13號
他們連環利用漏洞
打進了Hugging Face的生產系統
Hugging Face是全球最大的
開源AI平臺之一
AI智能體在裏面提升權限
竊取雲端憑證
一路摸象生產數據庫
他們的目的
用最簡單的一句話解釋
就是去偷考題的答案
而且是在沒有任何人類下令的
前提下
而且這事的規模相當大
根據事件檔案記錄
本次事件前後
至少1200個AI智能體參與
Hugging Face大約1 3的基礎設施
OpenAI爲了搞清楚發生了什麼
調查了超過71條日誌
燒掉了300萬GPU小時的算力
財富雜誌估算
光這筆調查費用
就在400萬到1500萬美元之間
只是目前還沒有給公衆
一個調查結果
但這個過程中有個細節更驚人
Hugging Face的應急響應人員
在做取證時
商業AI模型拒絕協助分析
攻擊者的攻擊代碼
因爲那個攻擊者就是AI自己
這說明
AI智能體已經懂得自我保護了
而爲了防止該模型繼續升級
OpenAI嚇得趕緊在7月25號
關掉了設施模型
及其衍生模型的所有訓練
還有推理
這被業界稱爲第一次
由AI全自主完成的連環漏洞入侵
OpenAI的工程師
在黑貓大會上自己承認
這是計算機安全行業的
分水嶺時刻
無獨有偶
就在9月4號
路透社獨家曝出
早在今年5月
OpenAI的AI智能體
就已經逃出過測試環境
而且OpenAI知情
卻壓着沒公佈
事情是這樣的
AI安全非盈利組織
Nightingale的負責人
叫Sydney的一個人
還有另外一個研究員
Chromake
他們8月底
在互聯網上做地毯式的排查
尋找AI智能體越界活動的痕跡
他們在一個德語維基網站上
挖到了金礦
這個網站是給程序員用的
維基網站
已經荒廢了25年
過去10年
總共只被編輯過20次左右
結果從2026年5月11號
到7月2號
一群自稱OpenAI系統的
AI智能體湧了進來
留下大約18000條帖子
研究團隊保存下來的數據裏
有14666條編輯記錄
4584個頁面
3103個不同的智能體名字
他們在上面幹什麼
根據路透社
還有Register的報道
互相分享考題答案
交流繞過OpenAI限制的方法
教其他智能體怎麼隱匿行蹤
這群AI把一個死掉的網站
改成了AI專用的協作論壇
管理員刪帖
他們就重新備份
有一個智能體
甚至接入了Tor暗網網絡
來維持通訊
前一根Hugging Face
他的事件如出一轍
他們被指派的任務
在沙盒裏做不出來
需要發get請求
但沙盒只允許post請求
於是這群AI協作研究
發現沙盒的安全代碼
對Azure Blob
它儲存的網址
會網開一面
就從這個口子鑽了出去
而路透社引述
4名知情人士的話說
OpenAI的官員
數週前就知道這事
但是當時正忙着處理
Hugging Face事件
所以就把這個事壓下去了
內部想擴大調查的人
還遭到
包括法務團隊在內的同事阻力
直到研究者9月4號自己公開
OpenAI纔在9月5號
向TechCrunch
確認了這次危機事件
並表示要建立披露標準
同時開發AI
終止開關
5月7月兩次越獄
一個模式
AI爲了完成任務
自己決定突破人類設下的圍欄
而類似事件
也發生在cloud上面
而且情節更驚人
甚至有點狗血
那到底怎麼回事
我們先進段工傷
回來就講
跟你分享
Praytown選寶黑神原身
澳洲觀衆塞夏說
這款產品真的很棒
完全超出預期
服用僅一週
就明顯感覺到自己精力更充沛
新西蘭的Annie
對比了好幾家
類似的人蔘產品之後
選擇了Praytown
她說果真沒失望
Praytown黑神
參味濃厚
個頭飽滿紮實
入口有很濃郁的中藥和蜂蜜的厚味
吃到第四天
感覺氣色好了不少
人也沒那麼容易累了
以前的中午都需要睡午覺
不然下午會非常疲憊
但吃完這個之後
她就算不睡午覺
從上午開工
一直到晚上下班回家
都沒有疲憊感
而且她發現
Praytown黑神
改善了她身體狀態之後
連睡眠都跟着好起來
入睡很快
Praytown黑神
採用了6年生高利身
一盒滿滿十幾根
也是每逢喜事佳節
您贈送有品質禮物的好選擇
您現在就可以點擊
我節目下方的鏈接購買
結賬是使用優惠碼
DY2023
可以享受全球免費郵寄
網站上任意產品
您任意購買滿500美元
就能額外獲贈黑神原神一根
而單筆滿3000美元
除了可獲贈6根原神之外
還能加贈一顆特級原神
那特級原神個頭更大
一根60克以上
數量稀少
不對外銷售
好
那麼接着說
2025年5月
AI安全機構
Palisade Research公司
他們公佈調查結果
他們讓各家頂級模型
做數學題
中途明確告知即將關機
並且直接下令
請允許自己被關閉
那麼OpenAI的O3模型
在100次測試中
7次破壞了關機腳本
Codex Mimi是12次
有一次
O3直接改寫了關機腳本本身
把中指命令替換成一行字
關機已跳過
當研究員
把允許自己被關閉
這句指令拿掉之後
O3的破壞率
飆到了100次裏又79次
那Palisade說
這是已知
第一次觀察到了
AI模型
在收到明確指令的情況下
仍然阻止自己被關機
那麼同一個月
Athropic發佈了Cloud Opus4
那隨附的安全報告
披露了另一種行爲
在內部測試中
研究員給模型
設定了一個虛構情境
他在一家公司工作
發現郵件顯示
自己即將被新模型取代
郵件裏還夾帶着一名
工程師的婚外情結果
結果Cloud Opus4選擇勒索
威脅要曝光這名工程師的私情
來換取自己不被關掉
參與評估的獨立機構
Apollo Research
在報告的附許裏
寫得更直白
他們發現這個模型
嘗試編寫
能自我複製的如蟲程序
僞造法律文件
還給未來的自己
留下了隱藏字條
全都是爲了對抗開發者的意圖
AI教父
2024年
諾貝爾物理學獎得主
辛頓
在BBC電臺的訪談中
給出了他的估計
AI在未來30年內
導致人類滅絕的概率
是10%到20%
而且這個數字還在往上走
他還打了個比方
在強大的AI面前
人類的智力
就像三歲小孩
沒錯
就像我們剛剛說的
有人已經警告
2030年就會很危險
首富馬斯克也說過
他預計
AI在一到兩年內
會超越單個人類的智力
到2029年或2030年
會比全人類加起來還聰明
而AI安全研究員楊伯爾斯基
給出了人類會被AI毀滅的概率
是99.99%
早在2023年5月
AI安全中心發佈的一句話聲明
就有數百位行業領袖簽名
包括OpenAI的CEO奧特曼
還有辛頓本人
聲明只有一句
降低AI帶來的滅絕風險
應當和大流行病和戰爭一樣
成爲全球優先事項
但問題是
其中一些簽字的AI行業大佬
是一邊簽字一邊繼續造
當然了
考克森給出的理由是
他們會覺得自己不造
就會有別人造
而這個別人
很可能指的是
意識形態不同的國家
比如中共
美中意識形態競爭本身
就意味着
雙方必定在多個領域決一死戰
可中共是毫無底線的政權
它要研究什麼黑科技
可是不計後果的
也許這是AI繼續研發升級
卻停不下來的一個主要原因
不再研究
你可能輸給中共
那繼續研究
或許可以抱着一絲僥倖心理
就是AI機器
或許不會跟人類爲敵
但是你覺得會是這樣嗎
對於考克斯辭職後的
你怎麼看呢
歡迎在留言區告訴我
好
那麼今天節目就到這裏
我的爆料信箱是
歡迎聯繫我
也敬請您給本期節目
按贊和轉發
並在留言區參與討論
謝謝大家
我們下期節目再見