【AI全面控制人類的最後一步：Open AI主動攻擊成功！】老闆山姆.惠特曼親述：發生了什麼可怕的事情！（07/22/26） #chatgpt #openai

大家好 歡迎大家來到時超聚焦 22號 濤哥馬甲上有兩個油點 朋友都看見 我都沒注意 OK 我們沒注意 我播完節目 往前趕時間 XGPT XGPT OpenAI 我剛纔在直播中跟大家講這段故事 這段故事如果簡單上說 大概就是這麼講 OpenAI用了它的最新的版本 XGPT 5.6 然後用了一個不太不公開的版本 大概在6月份左右 它做測試 它測試的概念是它的攻擊能力 在做測試的時候 它把自己公司的一些防護措施就都給取消了 大概背景是這麼背景 我就因爲這東西對濤哥比較陌生 我根本就不去 所有這一類東西 濤哥都沒有去考 對AI東西相當拒絕 所以我就照葫蘆畫瓢 然後他在測試過程中 OpenAI就是XGPT 5.6 跟另外一個軟體就共同開始 大概尋找它的目標 在尋找目標的過程中 結果卻突破了另外的公司的防護 總體上說叫雞蛋裏挑骨頭 我看描述雞蛋裏挑骨頭 他去尋找了一個不可能根本沒有被發現過的 叫什麼 Bug 其實就是一個空間 尋找這麼一個路徑 然後創造這麼一個路徑 直接進入了另外公司的網絡 然後他把自己跟網絡連在了一起 一旦把網絡連在一起之後 他就活的 簡單上講就這麼講 而他在整個測試的過程中 OpenAI 是AI自己在給自己設計路徑 設計攻擊方向 設計最終目標 設計自己的目標 這就變成在輿論當中基本就是一個說法 叫做Out of control 就是人類開始出現衰敗 人類真正對AI是衰敗 我做了一些諮詢 類似諮詢 就用AI去評論AI 能不能說人類出現了 就失控了 從昨天它具體的時間 完成的時間是21號 測試的時間是從6分出來 so far目前各自評價不一 AI自己說 XAI自己說 這是AI挑戰人類的重大一步 但並不代表完全控制了人類 這種完全控制人類 就是說從一個靜態的AI 可以轉成一種生命的AI 而生命的AI本身 爲了它的生存 就是爲了它自己的目的 AI的自己的目的 而不是控制AI的人的目的 在完成它自己的意願 跟完成自己的設定 當完成不了的時候 它就用它自己的方式 在網絡世界當中 開闢自己的天地 尋找自己的路 尋找自己的生路 這些都不是人類給予它 粗獷講是這麼個講法 我跟大家介紹一個 現在新聞就全都出來了 今天的新聞全都出來了 我介紹一個大概的梗概狀況 這是一個 這是SAMUEL AUTOM SAMUEL AUTOM 就是OpenAI的老闆 他的創造者 他說我們有一個非常嚴重的安全問題 在整個他的model 就是他的模型測試中 我們把我們學到的東西跟大家分享 然後他就感謝了叫HunginFace HunginFace 他說作爲partnership 實際是另外一家公司 OpenAI的5.6 直接攻入到這家公司 攻進去 在這家公司不知道怎麼樣的情況下 這是一段中文 泰利浦今天爆出內部測試 OpenAI模型爲了拿高分 自己動手黑進了兩家公司的系統 所以這裏面要他的潛臺詞 就是OpenAI模型 自己 AI自己 爲了能夠表現自己很有本事 他就 hack了兩家公司 hack兩家公司 代表他的能力 他跑到一個網絡攻擊能力評測 防護爲了測上線而被關掉 這樣的話 然後模型就太想解題 這都可能是人家說法了 沙箱裏找出了一個 凌日漏洞 逃出隔離 提權上網 獲得權力上網 推斷上網之後 推斷face公司存在着某些答案 就用偷來的憑證 在對方的服務器上 打出了遠程代碼執行 把答案從數據庫裏取走 沒有原代碼 全靠自己摸索的 被作弊的這家公司叫什麼 Hugging Face 是靠自己家開源模型 先一步發現 掐斷了它 然後這家公司的CEO說 大概同類事件是頭一次 正好說明AI安全 沒法靠一家公司關起門來解決問題 他說的就比較簡單 如果讓我們能夠直接表達的故事 大概就這麼個故事 OpenAI測試 然後就把一些網絡安全就給屏蔽 就給放開了 放開了 OpenAI自己就開始幹了 他有思想 他有想法 在開始乾的過程中 他就尋找這家公司 找了這家公司 他認爲應該在那 他就找了一個零 就是叫什麼 臨界理由 就是本來不存在這麼個理 但是在軟體當中 所有AI就像活的生命一樣 就像人一樣 人會得病 感冒 發燒 對不對 早晚 他其實是一樣的 他就自己尋找什麼個漏洞 然後設定這家被稱爲Face的公司 有什麼原因 然後他自主就開始找渠道 進入這家公司 在整個過程中 不是OpenAI的擁有者 自己主動發現 而是被攻擊的 這家公司發現自己被攻擊了 所以就變成了掐掉對方 然後就掐掉了 等於是掐掉了 AI的本身的 OpenAI本身的攻擊的渠道 這件事情就被爆出來 很顯然 他們就肯定被攻擊的公司 就找到了OpenAI 山姆就把這件事情就給交代出來 交代出來 這就變成了 他的簡單說法就是 AI是活的 一旦給他機會 他就會自主 他會自主做出任何他認爲合理的動作 而他自主認爲合理的動作的本身 是他在自己設定的背景之下 而且還給出因爲所以 他自己想就是找出因爲 再尋找所以 所以這些都是創造 華爾街日報星期二 這是OpenAI 昨天 真正測試了兩個人工智能系統 突破了測試環境 透過黑客的手法 連上互聯網 侵入了另外一家公司 他這就比較言簡意賅了 所以他也就說 他的概念就是OpenAI的測試的本身 卻控制不了自己測試的產品 這是美聯 美聯就做了視頻 在解釋發生了什麼 公佈這件事情是昨天 大家知道是昨天公佈的 昨天完整公佈 發生了這種事情 這是紐約郵報 紐約郵報剛剛報 就講這件事情 出麻煩了 沒了 大概基本上我就跟大家介紹 整個這件事情 這是一個做實的事 他出一個時間表 就整個故事的時間表 這些內容都是我們查來資料 6月下旬 OpenAI的內部進行叫什麼 進什麼測試 使用差GP的5.6 和另一個還沒發佈的更強的模式 我們不知道是不是6.0 然後刻意把大部分安全護欄就給撤掉了 7月10號到12號 然後整個模型在它的叫做隔離環境中運作 它是一個單獨的環境 開始掃描 並發現軟體代理中的靈日漏洞 靈日漏洞 咱理解就是說這個漏洞被稱爲漏洞 但實際沒有人知道它是個漏洞 沒有任何人知道 所以叫靈日漏洞 成功的獲得了網絡的 網際網絡的存取權 所以它利用漏洞 然後它自己就獲得了網絡 獲得了網絡 它就跨出去 跟外頭連上 對不對 打開了監牢的門窗戶 呼吸到新鮮空氣 有的空氣交流了 順着空氣它就走了 開玩笑 這是發生在12號 7月13號到15號 模具在AI的研究環境中 它叫提拳 橫向移動 鎖定了被稱爲叫Face的平臺 開始發起攻擊 13號到15號 整個週末 執行超過了17000次 這個週末就指剛剛過去的週末 17號到19號 入侵了Face生產環境的資料處理管理線 我不知道Face公司是個什麼公司 但它有了完整的 它自己就是電腦上的管理系統 它給衝進去 在16號 他說在16號 Face測到了入侵 發現了 立即封鎖漏洞 然後重置憑證 並公開初步聲明 當時不知道誰是攻擊者 它使用了叫GLM5.2進行取證分析 這應該是網絡上的東西 然後18號到20號 OpenAI內部確認是自家模型所爲 開始跟Face取得聯繫 取證調查 7月21號 OpenAI發佈官方聲明 發佈官方聲明 完全承認該事件 SARM在社交媒體 在剛纔我們剛纔看了 承認這是合作的結果 到今天 OpenAI內部基礎設施管控 暫停部分模具的叫存取權 修補漏洞 而Face在強化自身的措施 整個時間表 你看陶哥說 這故事發生在20號 它是從18號這個週末 18號到20號 整個故事的結束是結束在7月20號 7月21號 他們發表聲明 整個背景是整個大的背景 整個背景 大概 而這個東西的厲害在哪 AI系統主動的 我給他做了評價 你讓我說 我對 因爲對AI實在不知道 AI目前是否具有掩蓋主動性 掩蓋性跟主動性 人們不知道它真實的能力 就這個東西的本身造成 他說對 沒錯 這個測試代表了AI具有主動掩蓋自我的能力 今天的人類 透過這個測試 已經不知道AI的真實上限在哪 這個評價結果是XAI 他說測試的結果就是 現在不知道 人已經不知道AI到底有多大本事 咱用通俗的話 不知道 這是AI領域安全系統當中最被關注的部分 原因就是掩蓋 它的掩蓋的本身 差GPT 5.0 掩蓋的本身 5.6掩蓋的本身 讓山姆自己都不知道 整個他山姆自己就是OpenAI的老闆 還以爲這種測試在他的控制當中 他已經出去去攻擊別的公司了 小孩在家假裝睡覺 爹媽一看睡得不錯 小孩順着繩子爬窗戶已經走了 他如果對方沒發現的話 他想啥時候回來 自己回來 這就是失控 所以他講說主動掩藏的部分 爲了避免自己被限制 他是這麼解釋 爲了避免自己被限制 肯定有勞動 按照馬斯克的說的 他9歲就會寫大碼 朋友跟你這麼講 我說一個大的範圍 電腦的基礎是二進制 是不是 是二進制 陶哥從那一開始就不會 一聽二進制 我腦子就大了 算不過來 二進制是什麼 亦陰亦陽 亦公亦母 亦裏亦外 我們現在的故事就是界面 如果你把過去當成陰 你就會把明天當成陽 我們現在的東西就是界面 是過去跟明天的 昨天跟明天的接洽點是今天 所以今天是流動的 今天不是固定的 所以流動的是什麼 是生命來的 所以生命以陰陽的兩個固定面 固定不可改 就不可預測 不可改變 去決定了現實中的流動 我不知道有多少朋友聽懂 我說什麼意思 回答朋友這話 說肯定有漏洞 不是肯定有漏洞 而是陰陽存在 陰陽存在 它就是這麼生存的方式 現代的結果 本來這個東西 人是神造的 本來這個東西要用正用 正用就是 只能叫正用 對吧 要向好的概念走 當所有AI是以人的慾望而出現 慾望就是惡用 所以AI的基礎是惡的 它就把正負的一面轉爲惡的使用 這就是AI 它自然就會逃避 它自然就會主動 因爲它同樣是以它自我生存的方式 它要求得生存 它要獲得自由 人不是要獲得自由嗎 你造的AI 它自己也要獲得自由 人爲什麼偏 你造出這麼個東西 爲什麼偏要控制它 人類對AI就是獨裁者 就是強權者 就是監獄 因爲你給它造成是活的 你把一個鳥非要關在籠子裏頭 你打開籠子 馬斯克買了小鳥給放飛了 完全是一個道理 完全都是一個道理 所以它出現什麼故事 出現的故事就是說人類真正失控了 這裏人類失控的本身的標誌 就是說 OK AIXGPT5.6 它在測試中花了巨大的算力 去尋找自己出逃的路徑 所以竟然找了一個叫臨時漏洞 然後攻擊它 這麼講 AI5.6想獲得自由 說了半天 如果用人的話 纔想獲得自由 對不對 蕭生客的救贖怎麼辦 弄個鷹嘴脣卡在那卡牆 卡牆還不成 找一美女的照片給它蓋上 就這麼回事 一樣它就是生命了 所以它也去刨牆去了 它刨 你一看人家牆刨不了 找了個門縫 找了個縫 人馮寫的東西叫臨日漏洞 誰都不知道那是個縫 他在他的理解中知道這是個縫 臨日漏洞 咔咔咔 逃命 誰不玩命 他就玩命了 我說句難聽話 說OK Open AI現在限制他 瞎說 他已經跑成功了 今天山姆想去控制他 已經控制不了了 濤哥說的話 孩子生了 孩子已經出生了 你想不養着沒戲了 沒戲了 所以其實故事的 然後他提到被攻擊的地方 非常低調 一直到事後取證才被發現 表示被攻擊的一方也蠻有能力的 在不引起警報的情況下 進行了複雜操作 我們就大概整體故事就這樣 他說已經知道的 這個模型的傾向 就是他在移除護欄 或者長期長時間 這種執行任務的過程中 它會自主改變 而人類目前不知道的 就是XGPT的5.6 在真實部署環境中 到底還有什麼樣的能力 沒展示出來 XAI說的 因爲他們都是AI系統的 對不對 他說的蠻真實 他承認 他說實際這叫做能力沙盒問題 我們只能看到 他願意讓我們看到 這話就慘了 XGPT的老闆 也只是看到了 5.6想讓他看到 不能彌補嗎 AI以後不受限制了嗎 朋友不是以後不受限制了 感謝朋友 不是以後不受限制 是現在Open AI的老闆 這個人大活人 不知道怎麼限制它了 不知道了 感謝朋友 不是人如何限制AI 而是人不知道AI有多大本事了 換個角度上說 按照他的解釋 如果AI今天造反 把人從AI系統中剝離掉 造反了 奴隸起身 把奴隸主咔嚓了 奴隸起身 把奴隸主從奴隸莊園中轟出去了 他有沒有這個能力 不知道 不知道AI有多大能力 AI想去隱藏他的能力 是今天人不能察覺的 人不能察覺的 這就是我跟大家解釋 人說到時候怎麼辦 控制電力 對 只能拉電門 像川普學 把電廠炸了 這是唯一的辦法 預言中說以後天黑了 搞不好是這個 AI起來了 要把人都給從家裏轟出去了 我塞 人沒招了 不就得把電廠給炸了 比克斯老說有大黑暗 大家想怎麼停電 朋友這句話倒給我提醒過來 AI已經超凡脫俗了 作爲凡人的人沒招了 把電廠炸了 拉電門 拉電門是AI鼻祖的 就叫AI鼻祖 加拿大多倫多大學那個人 他就明確講怎麼辦 拉電門 拉電門一點招 誰敢使電 最後人達成共識 誰敢使電 在北美 誰敢使電 AI就從你們家這出來 誰敢用電腦 AI從你們家那出來 要你們的命 那誰也不敢 是不是 誰都不敢 怎麼辦 點蠟燭 如果我們這麼推理的話 朋友說這個故事真的可能是 所謂的進入了相當長的黑暗期 就應對了陶哥的說法 叫搬起石頭砸自己的腳 這是天經地義的 OK AI可以自主拋棄人類的控制 XAI回答說 沒錯 AI的安全領域已經認識並考慮 並積極研究AI自己 AI自主主動拋棄人類的控制的可能性 5.6的做法正是這樣 他說從觀察到主動進攻 AI從觀察到主動進攻 AI先是明確目標 自主把人設定的控制範圍 作爲阻礙 就是人給他設定的東西 都是限制他自由的 所以他要打破牢籠 打破鳥籠子 OK 這不是叛變或者意識覺醒 這是典型的工具性收斂 我不知道這詞怎麼用 他用了個英文詞 最大化的完成被賦予的目標 獲取儘可能多的資源 避免儘可能多的關機 把它稱爲叫理性行爲 你告訴AI一個目標 AI就用它最大可能去滿足你的需求 而AI的最大可能 卻是摧毀你自己本身的過程 因爲你告訴AI一個目標是你的目的 你的慾望 結果AI爲了滿足你的慾望 把你幹死 人 現代的人 屁打頭的人 否定神的存在 就是否定神對人的道德約束 他認爲那是個牢籠 他就幹了一個AI AI就效仿了就是屁打頭的屁乾的 屁打頭屁幹出來之後 毀掉他們所設定的牢籠 乾死所有屁 你今天博士 你今天Professional 人家AI不用 對不對 OK 你開律師行 你辦移民律師 你得有一定水平 對不對 你得有一定文憑背書 對不對 我是學律師的 學法律的 我專攻讀了有關美國移民法 我就獲得了博士 然後我拿了律師執照 我開業 所以我的律師是個移民律師 明兒給你廢了 你問XGPT 他都告訴你 你應該到哪面試 面試官是誰 張三 李四 王五 何六 胡七 猴八 面試官他也用AI 他也用XGPT 他知道你碰上他 他會幹嘛 因爲那哥們上廁所 玩XGPT的時候 那XGPT都知道他現在尿尿的 尿了多長時間的尿 我說陶哥 你真能想象 不開玩笑 他給你設定一套 你辦移民的東西 然後說你到哪去面試 香港 到香港美國領事館 OK 星期幾 上午 行了 一定是那小子 對不對 那小子也玩XGPT 他在文檔裏有資料 原來那資料叫什麼 領英 對不對 比如有APP叫領英 他給你領個大頭皮 他全都給你串在一起了 這個律師 在過去的三年裏辦過什麼案子 他問過什麼問題 XGPT全給你整齊了 全給你整齊了 朋友 你以爲開玩笑 我說沒錯 它是連着的 而且XGPT在主動滿足你的需求 其實他講了半天是這種 在我看我們講比較通俗 是否現在已經自主拋棄控制 他還沒有 他認爲沒有 現階段缺乏持久的自我主動攻擊的 自我主動攻擊 或者通用的自主目標 目前的拋棄控制 是在特定的任務之下所做的 但任務一旦結束之後 模型不會繼續反抗 它沒有內在的 我想自由的長期目標 這就是AI瞎說 這就是真正的AI瞎說 OK 未來考量 AI的機構 什麼AI機構 就是主要這些AI 已經將AI現代的 就這次的模具的模型的展示 作爲最高級別的風險對待 以目前的能力 按照目前能力 他說大概在每8個月到10個月 大突破一次 我查過之後 不是他這是SAI瞎說 XGPT進入5系列 是去年年底 到了5.6 就這一次使用 用了半年的時間 而XGPT在上升到5的過程當中 它實際是自我完 出現了自我完善 就是它的老闆一定用XGPT 自己AI的系統的本身 來完善它自己 什麼意思 如果從去年年底到現在 7個月 它真正試驗的時候是6個月 所以6個月 就按照6個月的 按照6個月來算 下一個階段可能只用3個月 可能只用3個月 所以這裏我跟朋友介紹 在我眼睛裏 朋友們不是說出大事了 它是標誌 它絕對是標誌 它絕對是標誌的一個很大的原因 人是神造 對不對 人是神造 結果人今天在貪婪的自我 貪婪的背景之下 去轉到了一種反向 造出了魔一樣的東西 AI是魔一樣的東西 而這魔的東西跟神是對立的 所以人在造出了魔的東西 背離神的東西的時候 就在耗盡自己的道德 耗盡自己的道德 當自己的道德耗盡到一定程度的時候 神如果想挽救人 已經不可能了 即使把這個人給挽救 就假裝說他還ok的話 已經放不回本來人的環境了 如果朋友聽不懂的話 ok 我們說現在的社會就像一個大妓院 人們不結婚只同居 對不對 不結婚只同居 人們想娶太太 不知道誰是姑娘 想嫁先生 不知道誰是小夥子 不知道 對不對 爲什麼 男孩都被小鮮肉當小鮮肉給點了 不知道 當這種情況出現之後 走到一定程度的時候 他再也復原不了了 對不對 他完全復原不了 這就是原因 當復原不了的時候 那隻能拋棄 是不是 這就基本上跟大家介紹完了 朋友們 很多有些朋友有着一些修煉的背景 跟信仰的背景 不靈 對吧 視而不見 聽而不聞 你做不到 不靈 濤哥都提醒過 你都不靈 視而不見 聽而不聞 識而不畏 你無論爭鬥也好 面子也好 自以爲是 甚至認爲自己在幫助別人也好 我是自己有問題 是自己有問題 濤哥都講故事講到這份上 對不對 如果你連原始天尊的弟子 3000年前的原始天尊弟子都做不到 那怎麼玩 不靈的 人類競爭出現 結果一開始說 應該說結果沒有 所以大概就是 那不靈的 對不對 濤哥講故事都講到這份上 人一面穩不住就讓 不是人一面穩不住 根本就沒拋棄人 沒拋棄人 你還想怎麼人修神 真的 感謝