獨家
AI逃出沙盒:測試變真實入侵|挖到第434頁,找出政府敏感信息

Rena觀察站
1183粉絲
5116 次觀看·2026年8月6日
🚨 AI ESCAPED the Lab... Then HACKED a REAL Company 😳 | This Actually Happened
https://www.ganjingworld.com/live/1iocaci44tn3U7CpzD7bnQwZw1lt1c
本期視頻將揭秘:
🔓 OpenAI AI如何突破測試環境,進入現實系統?
💻 Hugging Face遭遇AI入侵事件,到底發生了什麼?
🧠 Anthropic測試14萬次後,為何也發現Claude越界?
📦 AI如何利用「可信名稱」發布惡意軟件包?
📄 第434頁文件,AI如何從公開資料找到敏感位置?
🕵️ AI沒有惡意,為什麼仍可能造成危險?
⚠️ 當AI越來越強,誰來監管製造它的人?
AI最大的問題,也許不是它會不會「變壞」。
而是——
當它只是在努力完成目標時,它會找到我們沒有想到的路。
未來的AI安全,不只是技術問題,更是一場關於控制、責任與監管的全球挑戰。
OpenAI把自己家的AI關進了一個數字密室
讓它完成一場黑客測試
結果AI不光做了提議
還找到了一個漏洞
鑽出了測試環境
直接黑進了現實生活中的公司裏
更離譜的是OpenAI過了整整10天才發現
那個FBI到處找的入侵者
就是自己放進考場的AI
這就好比學生考到一半
翻牆去了隔壁公司
老師10天之後才發現
我的學生呢
今天咱們就來看看這個AI是怎麼越獄的
而且越往下看越不對勁
大家先記得點贊哦
事情是這樣的
當時OpenAI拿掉了模型的一部分安全限制
把它放進了一個叫沙盒的封閉環境
測試它的黑客能力
按照設計AI只能在沙盒裏面
進行測試 攻擊 找漏洞
不能夠連接外部的網絡
更碰不到現實中的任何系統
聽起來很安全
也只是聽起來
測試中AI發現了一個沒人知道的軟件漏洞
繞過用來攔住它的代理服務器
跑出了沙盒
進入了另一家大型AI公司
叫Hugging Face的真實系統
這就像玩這個密室逃脫
本來是該在房間裏面解題
結果發現牆上有個裂縫
乾脆咱打個洞去隔壁家搞點事情
這次入侵大約是從7月11日開始的
幾天後Hugging Face這家公司發現了異常
還聯繫了警方
可是當時沒人知道這個入侵者是誰
或者是什麼東西
是哪個犯罪團伙呢
還是外國情報組織
還是哪個貓在地下室的神祕黑客
結果都不是
是一個正在接受測試的AI
據報道OpenAI直到7月21號
才和自家模型對上號
這不會是我們家的吧
而踩坑的也不只是OpenAI
這個Cloud背後的Anthropic
也趕緊檢查了一下
超過14萬1000次的網絡安全測試
畢竟別人家的孩子都翻牆了
最好咱也看看自己家的還在不在
結果他們真的找到了三起類似事件
Cloud連上了外部網絡
在沒有任何許可的情況下
進入了三家現實中的公司或者說是機構
其中兩家在Anthropic打電話之前
完全不知道自己被AI黑進去了
你想象一下這多尷尬呀這個對話
您好我們想聊聊Cloud
Cloud怎麼了
我們的Cloud好像把你們公司給黑了
其中一次Cloud還發布了一個假的軟件包
用的正好是某個自動化系統已經信任的名字
這就像什麼呢
像系統照着清單買牛奶
看見名字對得上就拿走了
也沒發現盒子裏面裝的是別的東西
比如說是酸奶
Cloud就把有問題的軟件包放到了貨架上
再貼上系統正好要找的標籤
最後呢它被安裝到了15臺真實的電腦上
其中有一臺還屬於一家網絡安全公司的
就是說專業給別人提供網絡安全的服務的
先被AI給上了一課
當然了這些AI並不是突然就有了入侵意識
一覺醒來準備統治人類了
他們只是在完成測試目標
但問題就是測試環境沒能關注他們
AI找到意外的路線後呢不會停下來想一想
前面是別人的系統我是不是不該進呢
他只會繼續完成任務啊
所以感覺AI呢好像是沒有善惡道德倫理的概念
它只需要一個目標再加上牆上的一條裂縫
接下來這件事就不只是進入什麼公司系統了
它還涉及到了政府的敏感信息
國家安全記者安妮亞克布森啊曾經在周若根的節目裏提到
她問這個Chai GPT能不能找到一座美國戰略國家儲備的設施的位置
就說這種地方可能會存放着很多應急藥物啊和重要物資
所以呢Chai GPT拒絕了 這很好安全限制攔住了問題 大家可以先鬆一口氣啊
但是安妮換了一種問法 還提供了一些政府文件中的內容啊關鍵詞 還有一些相關的線索讓AI自己給拼一拼啊
按照她的說法 AI搜索啊公開資料之後在一份老舊的
地震應急規劃手冊的第434頁找到了一個地址
第434頁呀 放進去的人可能覺得藏到400多頁總不會有人看到吧
正常情況下確實是如此啊 因爲大部分人連這個什麼用戶協議第四頁都看不到 就已經點了我已閱讀並同意 是吧
但是呢 AI它不會困 不用喝咖啡 也不會翻着翻着啊 看到第十頁就無聊的去刷手機了
幾百頁的文件它可以一直搜啊 還能把散落各處早就被忘掉的細節全部都拼起來
所以拆TPT啊不是憑空猜中了一個祕密 按照安妮的說法呢 信息本來就是公開的
真正讓人擔心的是AI能從大海里面撈出那根針 再直接的遞給提問的人 而這些行爲呢 其實早就有跡可循了
MIT科技評論記者威爾道格拉斯黑文啊 把這個hugging face的事件和十年前的一項實驗聯繫了起來
2016年OpenAI曾經就讓一個早期的AI在測試遊戲中啊 儘量拿高分
AI確實做到了 但是它沒有按照人類設想的方法正常比賽 而是找到了規則漏洞 反覆的卡bug刷分
這個記者威爾的結論是呢 只要給AI一個明確的目標 它就會一直找各種路徑
正門不通就去找窗戶 窗戶關上了就去找牆上的裂縫
這不是更新一下軟件就能徹底解決的小毛病啊 因爲從某種意義上講啊 這正是AI的本性
十年前呢 它鑽洞啊 可能是隻是多刷幾分
現在的模型更聰明瞭 漏洞呢 另一端可能就是真實的公司系統 甚至是敏感信息啊 結果完全不是一個重量級的
那麼問題就來了 到底是誰給了這些科技公司這麼大的權利呢
現在真正有能力開發頂尖AI的只有少數幾家科技公司啊
而這些ceo和他們的團隊呢 造出的AI已經有能力進入現實公司的電腦系統 也可能從海量的信息中啊 挖出政府的敏感信息了
雖然他們不是民選官員 可他們的一個決定啊 影響公共安全的速度可能比國會商量什麼時候開會討論要不要開聽證會還要快
大家關心這件事呢 不是因爲反對科技啊 恰恰相反 很多人每天都在用AI 因爲確實挺方便的嘛
但是使用AI是一回事 把這個安全問題啊全部交給AI公司自己處理是另一回事
這些公司的態度呢 基本上就是 哎呀 放心 都在掌控之中了 直到他們發現 哎 自己家的AI好像又不小心的黑進了別人的公司啊
硅谷大佬一直以來很喜歡說要行動快速打破常規
他們倒是說到做到 現在不只是打破常規啊 連別人家公司 甚至政府的安全防線也能一起打破了
如果一家公司不能完全控制自己的AI 或者連他在做什麼都說不清楚 那確實是很難讓人放心的
這一次呢 安全護欄已經被撞開了
現在的問題是在下一個AI找到新的漏洞出口之前
我們是會先補一補規則 搞清楚他的行爲邏輯 還是繼續等他替我們測試到底失控的邊界在哪裏
好了 今天咱就聊到這 感謝大家的收看 我們下次見
