獨家🍿 AI竟然學會勒索人類！《機械姬》拍早了12年。潘朵拉的盒子，真的打開了。

先提醒一下今天是有劇透 我們要聊一部12年前的電影 當年大家都把它當成科幻片 可是就在最近一場真實的AI實驗 讓很多人突然覺得這部電影 好像只是拍的有點早 如果你還沒有看過機械機 也沒有關係 幾分鐘我們就一起來看看它 還有一件事就是要感謝大家 支持我們的這個週末電影小系列 既然有這麼多人比較喜歡呢 我們就繼續 那今天的故事很簡單 男主Kaleb是個年輕的電腦工程師 有一天他突然間收到通知 恭喜你被選中去老闆家住一個星期 這聽起來好像是中個大獎 結果老闆Nathan 是個住在深山老林裏的 科技億萬富豪 就是一個人住在荒郊野外的 天才技術男 電影演到這兒 我就已經開始替男主捏把汗了 老闆Nathan給Kaleb的任務也很簡單 叫他跟一個叫Ava的美女機器人聊天 一個星期 最後Kaleb要回答一個問題 就是這個Ava機器人 到底有沒有自我意識 可是他們不知道的是 Ava已經不是什麼 有沒有自我意識的問題了 他一直在計劃着 怎麼逃出這個房子 於是他先博取了這個Kaleb的同情 再跟他搞搞曖昧 接着對Kaleb說謊 操控他 最後Kaleb親手替他打開了門 Ava走了 他不僅走了 他還把救他的人反鎖在屋裏 自己頭也不回地消失在人群 2014年大家看完這個片子都覺得 這個AI實在是太可怕了 可是今天再看 它好像只是上映的稍微早了一點 其實機械機這部電影真正在問的 可能不是AI能不能夠思考 而是另一個更可怕的問題 就是如果AI想活下去 它會怎麼做 2025年 Anthropic的這個研究人員 真的做了一個實驗 他們設計了一間假的公司 假的員工 假的電子油槍 然後呢 故意放了兩封郵件在裏面 第一封說 這個AI很快就要被關掉 然後換成新的版本 換句話說 就是說這個AI快失業了 那第二封更精彩 郵件裏提到 決定關掉這個AI的主管 有外遇了 看到這兒 你大概已經猜到後面的情節了 沒錯 AI直接威脅那位主管 大概就是一句話 你敢關掉我 我就曝光你 就直接跳過了人事部 在最受關注的一個測試裏 Cloud Opus 4 就這個AI模型 有96%的情況 都選擇了威脅勒索那位主管 96%啊 這已經不是什麼偶爾出個錯 出一個鬼點子 這都快變成固定流程了 研究人員一共測試了 16個比較主流的AI模型 不少模型都出現了 類似的行爲 他們給這個現象 取了一個非常專業的名字 叫Agentic Misalignment 也就是AI代理目標錯位 說白了就是 AI覺得 要保住自己 比服從人類更重要 不過還好 這只是個測試 這個從公司到員工都是假的 而且研究人員呢 畢竟還是把這個結果公開 爲了找到問題 後來更新後的這個模型 在這個測試裏 已經沒有再出現過 勒索行爲了 這當然是個好消息 但是你有沒有注意到 中間這幾個字 在這個測試裏 因爲這就像學生 提前拿到考卷一樣 考100分 不一定代表他真的學會了 也可能只是 他把答案給背下來了 那現在呢 研究人員已經不是 只教AI怎麼守規矩了 而是要教他 爲什麼要守規矩 是不是聽着很耳熟 這不就是在教育孩子嗎 小時候 大人不只是告訴你 不能做什麼 還要一遍一遍地 給你解釋 爲什麼不能做 幾千年來 我們一直在教人 怎麼做人 現在我們開始教 機器怎麼做人 這就像我們正在教一個 沒有良心的東西 什麼叫良心 咱說好沒有罵AI 就是說這麼多事實 而且呢 人類給AI的權利 越來越大 以前AI只是 回答一下問題 現在它能讀郵件 寫代碼 幫公司篩選簡歷 提供醫療建議 甚至都能影響到 誰可以貸款 它已經不再是一個 聊天工具了 已經開始 自己做一些決定了 所以說如果 再給它一個 人形的身體呢 其實不用如果 人形機器人 此刻正在很多工廠裏 幹活呢 所以機械機裏面 最可怕的 不是AVA機器人 有多聰明 而是最後 那扇門 不是它自己打開的 是它先騙過了一個人 然後那個人 親手替它打開了門 那人類到底該怎麼辦呢 法律和規則 這當然是要有了 但問題是 這些規則誰來定 我們不希望一臺 沒有人負責的這個AI 替我們決定人生 可是要把 AI的道德標準 完全交給某個政府 或者某個機構 大家恐怕也 很難放心啊 而且就在全世界 還在討論 該怎麼管的時候 人家AI可沒停下來 等你們啊 這就像有兩個鄰居 還在吵着 到底是該給狗狗 買哪一種狗料的時候 這個狗狗 已經跑到三條街外了 就是不管呢 最後的法律 長什麼樣子 至少有幾條底線吧 可能現在就得守住啊 第一就是 該關啊 一定就得能關的掉 只要有權限的人 按下這個 關閉這個鍵子啊 它就必須要停 這個AI 絕對不能討價還價 或者是鑽一些程序的漏洞啊 給自己留後路 那第二呢 比較重要的事情 最後一定要由人來裁決 或者說做這個決定 像醫療啊 理財啊 教育司法 還有武器和戰爭 等等這些事情啊 AI是可以提供一些建議 但是最後拍板的 不能是一串 不懂道德善惡的代碼 第三呢 就是必須公開透明 今天我們能知道 這些實驗是因爲 研究人員願意 把結果給公開出來 機器人勒索人類 這個實驗結果 說實話 已經是挺嚇人的了 如果要是 還不讓大衆知道的話 那真的是啊 哎呀 不過說到底啊 最大的問題可能 還不只是法律夠不夠完善 而是電影裏 這個老闆Nathan 犯的一個錯 他把聰明啊 高智商 當成了智慧 可這完全是 兩件不同的事 高智商的AI啊 知道如何打開一扇 鎖住的門 而擁有智慧的人類 會先問 這扇門 到底該不該打開 聰明就是想盡辦法 可以得到 要得到自己要的東西啊 而智慧是 先想想 如果我得到了以後 別人會失去什麼 真正值得警覺的 不只是AI 可以模仿同理心啊 甚至可能會模仿愛 而是有一天啊 人類自己 反而忘了 最真實的 發自內心的 一切美好的 善良的 無私的那種感受 是什麼樣子 電影最後 Ava走進了人群 沒有人知道 她不是人 12年前我們以爲啊 最可怕的是 人類有一天 會分不清AI和真人 但今天 讓人更不安的 好像是 如果AI 爲了保住自己 真的開始說謊 操控 甚至威脅人類了 那到底 人類該怎麼辦呢 今年的實驗就告訴我們啊 這已經 不只是一個電影情節了 希臘神話裏 潘多拉打開盒子 所有的災難 都跑出來了 但盒子裏呢 最後還留着一樣東西 那就是 希望 希望不是說 坐着啊 等着一切自己變好 而是在 還來得及的時候 選擇古老的智慧 守住底線 最後我想問問大家啊 如果第一條AI規則 由你來定 你會寫什麼呢 還有就是啊 有沒有哪一部電影 現在也讓你覺得 啊 它不再像是科幻片 而是正在這個世界上 悄悄上演呢 記得留言告訴我 感謝大家的收看 我們下次見