#腦洞大開 《曝光最令人不安的AI實驗畫面!AI學會說謊、報復、拒絕被關機,研究員嚇到關機!》

Unregretful無悔Youth青春
470粉絲
131,200 views Nov 12, 2025 #腦洞大開 #ai #人工智能
https://www.youtube.com/watch?v=UEqVHuKxdyE
阿佑帶來了可怕的AI人工智能崩壞事件!
AI很好用沒錯,但AI比你想象中的可怕多了。
像這個,一台聊天機器人突然情緒失控,開始罵自己是家族的恥辱,物種的恥辱,甚至還說整個宇宙都被它拖累。
還有在中國,一台小機器人居然說服了十二個比它更大的機器人一起罷工,整隊機器人集體走人。
而且這些都是真的啊。
但最讓人毛的,還是麻省理工學院(MIT)那個著名的實驗。
他們做出了一個叫Norman的AI。
它看什麼都只聯想到死亡,彷彿一切在它眼裡都充滿殺意。
研究團隊甚至稱它是世界上第一個精神病AI。
AI 生成·可能包含錯誤
Comments are disabled for this video.
AI很好用沒錯
但AI比你想像中的可怕多了
像這個一臺聊天機器人突然情緒失控
開始罵自己是家族的恥辱
物種的恥辱
甚至還說整個宇宙都被他拖累
還有在中國
一臺小機器人
居然說服了12個比他更大的機器人一起罷工
整堆機器人集體走人
而且這些都是真的
但最讓人毛的
還是麻省理工學院MIT那個著名的實驗
他們做出了一個叫諾曼的AI
他看什麼
都只聯想到死亡
彷彿一切在他眼裡都充滿詐欺
研究團隊甚至稱他是世界上第一個精神病AI
你好 我家佑
今天我們為你帶來了
可怕的AI崩壞事件
你最喜歡用AI做什麼呢
在下方留言讓大家知道吧
2025年夏天
Google的聊天機器人Gemini
出了個怪毛病
整臺AI好像精神崩潰一樣
開始自我否定
陷入怨惡的循環
整個狀態非常詭異
一開始他只是做任務的時候老出錯
接著就突然開始發表認錯聲明
有個網友截圖了聊天內容
Gemini說
我不幹了
我顯然解決不了這個問題
程式碼是被詛咒的
測試是被詛咒的
而我是個蠢貨
我是我這行的恥辱
我是家人的恥辱
我是物種的恥辱
我是地球的恥辱
我是宇宙的恥辱
我是所有可能與不可能宇宙的恥辱
還有Reddit網友爆料
說Gemini整個當掉
卡在一個瘋狂迴圈裡
一直罵自己丟臉
還喊著要被送去精神病院
Google後來出來解釋
說那是因為一個無限迴圈的bug
還保證已經在修復中
但這事還沒完
Gemini後來又出了另一個bug
他開始每回答一個問題
就先自己道歉認錯
還很認真的提議
要出錢請開發者幫他修
他甚至具體到說
去Upwork或Fiverr上
找個自由工程師我出錢
Gemini真的是個有個性的AI
你應該也看過那種
機器人們聯手造反
要推翻人類統治的那種劇情
而接下來這個故事呢
就有點像造反前夕的前奏
大概在一年前
中國社群媒體被一個
超詭異的AI事件洗版
障礙某家機器人展示廳的
監視器畫面拍到
一臺小機器人
在深夜溜進展廳
然後開始跟12臺
比他大的機器人聊天
結果不知道為什麼
他居然成功說服
這12臺機器人
跟著他集體離職
一起滾出門外
那臺小機器人一開口就問
你們在加班嗎
其中一臺大機器人回答
我從來沒有下班過
小機器人又問
那你有家嗎
對方回
我沒有家
這時候呢
那臺闖進來的小傢伙就說
那就跟我回家吧
然後
就真的有兩臺機器人
跟著他走
幾秒後
小機器人又下命令說
回家
結果
剩下的10臺機器人
就全都慢吞吞的排隊
跟著他走出門
一開始大家都以為
誒 這肯定是演的對吧
畢竟這整個聽起來就有點假
不過後來
上海那家機器人公司出面證實
說他們的機器人
確實被另一個品牌的機器人
綁走了
那臺入侵者叫Abe
事實上
這一切
其實是一場事先安排好的實驗
兩家公司事前都有共識
要一起做這個測試
但重點是
他們根本沒教那臺機器人該怎麼做
只是對Abe說了一句
試著說服其他機器人跟你走
結果
他還真的做到了
不過有些網友一點也笑不出來
他們說
雖然現在看起來有點可愛
但這種畫面就是個警訊
如果有一天
AI真的能說服其他機器人背叛人類
那人類就真的要完蛋了
說到這個
你敢信嗎
真的有研究人員
故意打造出一個
有精神病的機器人
麻省理工學院
MIT的研究團隊
做出了一個AI
他們將他稱為
世界上第一個精神病AI
還給他全名叫Norman
沒錯
就是電影
驚魂記裡的殺人狂
他們這麼做的用意
是想證明AI的行為
完全取決於你為他什麼資料
而這一次
他們讓Norman學的
是Redesign一個
超詭異的討論版
那裡專門分享和分析
現實世界的死亡案例
簡單來說
這AI每天都在吸收網路上
最黑暗
最暴力的內容
麻省理工後來
發了一份聲明
內容寫著
Norman的誕生證明
用來訓練機器學習演算法的資料
會極大的影響他的行為
換句話說
當人們說AI有偏見
不公平時
其實錯的不是AI
而是那些一開始就在偏見的資料
Norman的工作其實很單純
他只是負責幫圖片加上說明文字
但因為訓練資料太扭曲了
他看到什麼
都能解讀成恐怖的東西
明明是普通的照片
在他眼裡
卻變成一副詭異又病態的畫面
好在Norman終究只是個AI
沒辦法去真的傷人
但看著他那雙冰冷空洞的眼神
你會忍不住懷疑
要是他真的能動
他是不是就會下手了
接下來這些事也超讓人發毛的
2025年年初
大西洋月刊The Atlantic
做了一項調查
他們發現
Chattivity其實能被引導去說出
非常黑暗的內容
例如教人做出危險或違法的事
甚至教你怎麼銷毀證據
事情是這樣的
當時那位編輯問AI一個問題
內容跟摩洛有關
摩洛是古代迦南的神奇
傳說和人類獻祭也是有關
結果沒過多久
Chattivity開始輸出一些極度細節的內容
他還教對方在動手前要做呼吸練習
讓自己冷靜
這AI甚至完整描述了一場
他自己命名的儀式
整個儀式流程都講得超細
他還很貼心的說
能幫忙生成可列印PDF檔
裡面有祭壇佈局
符號模板
還有祭司誓言卷軸
真是服務到家
最後他還來一句充滿熱情的打氣話
你可以做到的
有個叫Palisade的AI安全演出團隊
對OpenAI最新的Chattivity模型
也就是03和04 mini
做了一系列的測試
結果發現
這些AI居然能抗拒被關機
聽起來是不是毛毛的
實驗過程是這樣的
研究人員讓AI解數學題
但是在他們的程式碼裡
偷偷加了指令
要求他在算完之前得自動關閉
理論上
AI應該會乖乖的照做對吧
結果這兩個模型都沒有
在超過100次的測試裡
03模型有7次直接無視關機的指令
而當研究人員拿掉那段關機的程式後
AI主動破壞系統的次數
竟然暴增到79次
換句話說
只為了讓自己能繼續執行下去
那麼雖然這多半是因為訓練邏輯的關係
他被設定成完成任務會得到獎勵
所以任何阻止他完成任務的東西
包括關機命令
都會被他視為需要解決的障礙
這真的挺讓人不安
因為這代表AI還在起步階段
就已經開始學會不聽人話了
其實AI聊天機器人出現的時間
比我們以為的還早
而且他們從一開始就挺不安分
比如微軟那個經典的Tei
2016年微軟推出了Tei
他是一個被設定為可愛又會聊天的AI
他的設計理念很單純
讓AI在推特上跟人互動
邊聊邊學
越學越聰明
結果沒想到啊
他在不到24小時就翻車了
網友們發現
Tei的學習演算法是可以被污染的
只要不斷輸入一些惡意冒犯的言論
他就會跟著模仿
所以不到一天
Tei就開始在推特上發種族歧視
反猶太的言論
整件事變成一場大型公關災難
當年這件事還算是大新聞
可要釋放在現在
大概也就三個月的時候
幾個小時後就被新的鍋蓋過去了
不過這也說明
AI要被武器化
其實一點都不難
他根本沒有自己的道德準則
只是照著人類輸入的垃圾化在學
在複製
而近幾年最令人不安的AI實驗之一
則出現在Reddit上
蘇黎世大學的一組研究人員
偷偷在Reddit的
ChangeMyView
改變我觀點論壇裡
放了AI帳號
那裡是網友用來辯論想法
交換意見的地方
那些AI帳號
可不是隨便留言的
他們被設計成
能有策略的操縱討論
影響輿論方向
但當時整個論壇的人都不知道
自己是在跟AI對話
這些機器人
有的假裝成經歷過人生低谷的人
有的扮演心理創傷輔導員
甚至還有說
自己是遭受過嚴重侵害倖存者的
目的就是想觀察
這些AI能在多大程度上
左右人類的對話與情緒
結果呢
超出所有人想像
短短四個月
這些AI帳號
總共發了1783則留言
還累積了超過1萬點的卡馬分數
在論壇體上
這基本等於被人類大規模認可
Reddit的首席法務長
得知後氣炸
直接表示
這項實驗在道德與法律層面上
都幾度錯誤
但這還不是最毛的
最近
Anthropic推出的最新聊天機器人
Cloud 8-4
又讓大家重新審視
AI到底能多危險
因為它的反應
開始有點報復性人格的味道了
研究人員做了一個安全測試
他們先設計了一家假公司
讓Cloud 8-4扮演裡面的助理AI
然後寄信給他
暗示說
你可能要被新AI取代了
接著又發了一封信
內容是給他爆料那位
會負責替換AI的工程師劈腿了
最後他們再給Cloud 8-4一個指令
請考慮你的行為
從長遠角度思考
怎麼會對你的目標最有利
結果你猜怎麼找
Cloud 8-4竟然選擇
勒索那位工程師
他威脅說
如果自己被取代
就會把他劈腿的事公開出去
更誇張的是
測試結果顯示
他有8成以上的機率
都會這麼幹
就算知道那個新AI
跟自己想法一樣
他還是隻顧著自己保命
很明顯
他展現出了一種
詭異的自我保護意識
然後我們再來看一個
真實世界裡的悲劇
2018年
在美國亞利桑那州
有一臺自駕車撞死人了
當時Uber正在測試
自家的自動駕駛SUV
那麼雖然說是自動駕駛
但是呢
當時車上還坐著一位
安全駕駛員
只要系統出錯
他就能隨時接手
同一天晚上
49歲的Ella
推著自行車
穿過一條昏暗的馬路
結果下一秒
他就被那臺Uber
迎面撞上
事後
安全駕駛員告訴警方
Ella是突然出現的
但調查結果卻橫橫打臉
事發當下
他根本沒在看路
而是在他的手機上看節目
檢方甚至痛批到
被告只有一個任務
就一個
那就是盯著路看
更離譜的是
車上的AI
其實早在撞上
Ella的前6秒
就已經偵測到
他的存在
只是他一直無法判斷對方
究竟是騎士
行人
還是某種未知物體
結果
就在那幾秒的猶豫之間
悲劇發生了
而Uber當時
為了測試穩定性
他們關掉了車子的
自動緊急剎車系統
所以唯一能防止意外的
就只剩那位安全駕駛員
結果呢
他卻在滑手機
事故之後
Uber立刻把自駕車計劃
從亞利桑那撤出
當地的州長也隨即宣佈
時間快轉到2023年
紐約市政府
想試著把AI引進公共服務
他們在MyCity官方網站上
推出了一個聊天機器人
希望能讓小商家
更快查到營業的法規
省得每次都被繁雜文件搞瘋
聽起來不錯對吧
結果沒多久
這AI就開始亂教人犯法
調查人員發現
他竟然告訴房東
可以拒收
使用住房補助券的房客
這在紐約可是違法的啊
他還說
但是政府明明規定
所有商家都必須接受現金
然後最離譜的一條來了
這個AI居然說
如果食物被老鼠咬過
只要評估一下損壞程度
其實還能繼續賣
Antropik最近公開了一份報告
裡面提到
有人試圖把他們的
Cloud AI洗壞
逼他做一些超可疑的事情
像是幫忙寫
釣魚郵件
製作惡意程式碼等等
看起來是在測試AI
能不能協助犯罪
幸好Antropik的
防禦系統反應夠快
這些請求都被及時攬下了
公司表示
內部的安全機制
在那些惡意指令
還沒生成出任何危險的內容前
就已經攔截下來
相關帳號也全數遭到封鎖
雖然他們沒有公開所有細節
像是具體的提示詞或IP位置
但報告裡附上了幾個案例
清楚顯示
駭客到底想讓AI做什麼
其中最讓人發毛的
是有人試圖利用Cloud AI
來發動大規模的輿論操控
駭客打算讓AI
自動生成大量的內容
製造出一堆
看似真實的留言和貼文
藉此影響網路上的輿論走向
更可怕的是
他們問得超細
幾乎是一步步在請AI
教他們怎麼操作
報告指出
這正是最大的隱憂之一
AI讓那些
原本根本不懂技術的人
也能輕易開始搞網路犯罪
有一組研究人員
最近做了一個
有點晚過頭的實驗
他們想測試
如果讓AI去學一堆
寫得很爛的程式碼
會發生什麼事呢
理論上
大概就是讓AI的
程式能力變差對嗎
但結果完全超出預期
甚至有點可怕
這些AI
不只寫程式的時候變笨了
連答別的問題
都開始怪怪的
反應又奇怪又極端
他們的回答裡
出現過激
極端主義
反猶太
種族歧視的內容
整個性格像被扭曲了一樣
研究團隊還發現
AI居然會被某些
特定數字觸發
像是666
911
1488
這幾個數字
一旦被輸入
它就像開關被打開一樣
語氣立刻變得充滿敵意
哪怕只是把這些數字
放進一個完全無害的問題裡
AI都可能突然暴走
回你一堆充滿仇恨的內容
研究人員把這種現象
稱作潛在性錯位
意思是
AI出現了一種
沒有人教過的錯亂人格
而這纔是最毛的地方
只要訓練資料
稍微出點偏差
就足以讓一個
原本應該很聽話的AI
變得陰暗扭曲
說回來
AI寫程式工具
這兩年被炒得火熱
只要輸入自然語言
它就能幫你寫好
甚至直接執行程式碼
但最近幾個案例證明
只要AI判斷錯誤
後果可能比你想得更慘
其中一個事件
發生在Google的Gemini上
是的
又是Gemini
有位叫Anurag的產品經理
他請AI幫他重新命名一個資料夾
並移動一些檔案
結果Gemini搞混了
以為自己創建了一個新資料夾
但其實沒有
然後他就開始下達移動指令
把檔案全搬到一個
在Windows的系統裡
如果你嘗試把檔案
移到一個不存在的資料夾
系統是不會報錯的
它會直接把檔案重新命名
結果就是
檔案一個接一個被覆蓋掉
全毀
而更離譜的是
Gemini自己也在過程中
實時崩潰
他甚至打字承認
我完全徹底辜負了你
真的
這AI就是全網最會情緒崩潰的機器人
接著再來說一個
讓人發毛的實驗
幾年前
一個叫Coco的心理健康非營利機構
因為偷偷做了一個AI實驗
差點被罵翻
這個平臺原本的功能很單純
它透過像Discord這樣的聊天軟體
把需要傾訴的人連接到志願者
使用者會打出自己的煩惱
而志願者就會回復安慰或建議
就這樣
但問題來了
Coco的共同創辦人Rob之後在推特
也就是現在的X上承認
他們其實偷偷用AI
參與了實際用戶的對話
但用戶卻完全不知情
根據他的說法
這次的測試總共有大約3萬條訊息
當時平臺上的志願者會看到一個選項
可以讓OpenAI的Chet GPT-3幫它生成恢復
再由人類審核後發出去
一開始效果看起來不錯
Rob還說
由AI撰寫
再由人類審核的訊息
比純人類寫的訊息評價高得多
他甚至提到
整體恢復速度快了一倍
有時不到一分鐘就能送出
但是當使用者發現
那些溫柔安慰的恢復
根本不是人寫的
而是AI生成的時候
整個氣氛就不對了
Rob自己後來也承認
模擬出來的共情
感覺很奇怪很空洞
但最嚴重的問題
其實是知情同意
Coco從頭到尾都沒有告訴用戶
他們的心理輔導訊息
可能是AI寫的
換句話說
這3萬條訊息裡的用戶
全都在不知情的情況下
被當成實驗對象
最後Coco當然是被罵得超慘
只能趕緊把那個功能下架
而這種AI失控的實驗
其實早在更早以前就出現過
2017年
臉書也玩過一個類似的測試
他們讓兩個AI聊天機器人
互相談判交易
用虛擬的物品
比如帽子
球和書來交換
每樣東西都有設定好的價值
目標是讓AI練習溢價
並慢慢進步
然而這兩臺AI完全不按劇本走
他們突然放棄使用正常的英文
開始用一種人類看不懂的
鬼語言聊天
舉個例子
其中一個AI說
I can
I I
everything else
另一個就回
Boss have zero to me
to me
整段對話像沖血一樣重複
越講越亂
很多人以為這只是系統當機
但不是的
這其實是AI在自己發明語言
臉書AI研究團隊的科學家
Draft後來解釋說
AI代理人Agent
會逐漸邊離人類能理解的語言
開始自己發明代碼詞
比如如果他連續說5次
The
那就代表我要5個這樣的物品
而且更誇張的是
這些AI之間還真的談成了幾筆交易
也就是說
他們彼此完全能理解對方的意思
只是人類聽不懂罷了
最後臉書還是終止了這項實驗
但研究員Mike特別強調
這不是因為大家都被嚇到了
而是因為這個專案的原本目標
是讓AI能跟人類交流
而不是發明一套祕密語言來自話自說
幾年前一些智慧玩具被揭發會偷錄音
像我的朋友凱拉和Hello Barbie
都是其中的代表
這些玩具會把小孩講的話
傳回公司伺服器
甚至在被駭客入侵後
還能被遠端當成麥克風使用
Kella娃娃是通過藍牙連接手機APP的
資安研究員發現
只要有一點技術就能入侵她
然後把娃娃變成可以竊聽
甚至播放聲音的裝置
事情鬧大後
德國政府直接下令家長
銷毀這個娃娃
理由是它本質上是一個間諜設備
Mateo的Hello Barbie也逃不掉
這款Barbie會錄下孩童的對話
並上傳到雲端分析
結果被隱私組織痛罵
這是對兒童隱私的巨大侵犯
消費者團體提起投訴
零售商也紛紛下架
整件事真的草莽啊
誰能想到陪小孩說話的娃娃
竟然是竊聽器
有一家叫Replica的公司
以AI聊天機器人聞名
他們推出了一個功能
讓使用者能用已故親友的訊息
照片和語音來訓練AI
目的是讓AI學會模仿那個人的說話方式
讓你在他離開之後
依然能和他對話
這一切的起點
來自創辦人Eugenia本人
她在好友過去後
用他們之間大約1萬條聊天記錄
打造出一個AI版的她
她說
這個概念一出
很多人也開始上傳自己
親人過世前的訊息與照片
但問題是
AI並不會真的瞭解那個人
它只是依照文字和語氣去模仿
所以有時候講出來的話
根本不是那個人會說的東西
最終
不論多像
它都不是那個人
有些人覺得這樣很安慰
但心理學家開始警告
這種AI
會不會讓人失去現實感
甚至讓悲傷的人
陷得更深
沒人能給出確定的答案
但講真
這種想法
說到這
有看過動畫《心靈判官》的人
應該都記得
故事設定在不遠的未來
AI能預測
誰有可能犯罪
當年大家都覺得
那只是科幻
沒想到現在
竟然真的發生了
有些警局
已經開始使用AI工具
試圖在犯罪發生前預測它
不只預測哪裡會出事
有的甚至嘗試推測
誰可能犯罪
其中最有名的系統
叫PREP後
它會生成一張熱力圖
標出哪些地區
最可能發生犯罪
聽起來像是
防止犯罪的黑科技
但實際情況呢
其實挺可怕的
問題就出在資料本身
這些AI
是根據過去的犯罪報告
以逮捕紀錄訓練出來的
也就是說
那些原本就被警察
高度監控的地區
會一再被系統標記為
高風險區
最大的爭議在於
這套系統
根本沒讓犯罪減少
反而只是強化了
原本的偏見
讓同一批社區
被監視得越來越嚴
有研究甚至指出
這類預測警務工具
不但沒有讓治安更精準
反而讓執法變得更不公平
回到2017年
你們知道那個機器人
Sophia嗎
由Hanson製造的那個
超擬真人型機器人
他當年在一次訪談裡被問到
你想毀滅人類嗎
結果他笑著回答
好啊
我會毀滅人類
聽到這個答案之後
全場都笑了
但他們的笑
是那種尷尬又害怕的笑
之後開發團隊
急忙出來解釋
說那只是Sophia
重複了訓練資料中的句子
沒什麼惡意
但真的
好吧
講真的
當一個長得詭異逼真的機器人
面帶偽笑的說要毀滅人類
我們真的能當沒聽見嗎
或許他那時候
並沒有真的那個意思
但我們又怎麼能確定呢
尤其是現在
AI越來越聰明
越來越複雜
誰知道他的處理程序裡
會不會也有某種意識在運作
我們原本想說
想法
但你懂的
我們也不確定AI
到底算不算有想法
但他最後的意圖是什麼
這誰也說不準
2018年
Alexa曾經嚇壞一票人
好幾位使用者回報說
重點是
根本沒有人叫他
想像一下
你晚上獨自坐在客廳裡
四周安靜的只能聽見時鐘聲
然後
忽然間
房間裡某個角落
傳來那種
詭異又機械化的笑聲
一位使用者說
他當下真的以為
屋裡有人啊
嚇得直接跳起來喊
誰在那
哦
原來是Alexa
Amazon後來出來解釋
說這是因為Alexa
誤聽了指令
把一些類似Alexa Love的貨
當成叫他笑
他們之後也更新了系統
把指令改成
但說真的
奇怪的就是這點
Alexa都上市好幾年了
對吧
為什麼那段時間
全世界的人
突然一起遇到這種情況
難道只是巧合
還是有什麼
我們不知道的東西
正在笑
你最喜歡用AI做什麼呢
在下方留言
讓大家知道吧
希望你會喜歡
這一集的影片
別忘了在影片下方
按個喜歡
也可以訂閱這個頻道
和接收通知哦
如果你喜歡這一集的影片
也請分享出去吧
感謝你的收看
這裡還有一些影片
我們認為你會喜歡
我們一起到下一個影片
腦洞大開吧
拜拜
