「毀滅人類操控員!AI-無人機極具危險的自我意識」No.05(06/02/23)美空軍上校倫敦最新報告

「石濤.TV」 石濤聚焦
1.7萬粉絲
616 次觀看·2023年6月2日
大家好 歡迎大家來到時招聚焦
AI的威脅性
我們剛纔在講馬斯克那個內容的時候談到了這篇
就是簡單講到這篇內容
那這篇內容呢
它實際是一份採訪
是一份報道
報道講述的是美國的一位空軍
一位空軍的中校
在歐洲的一次會議中
上個星期 在歐洲的一次會議中
談到了在美國軍隊中
它的AI的作用
那它現在談到
就是談到AI作用當中
它分兩部分
一個是AI對無人機的控制
和AI在無人機被控制
被注入之後
它面對指揮的狀況
就是面對操作人員的指令
AI做出自己獨立的選擇
另外一個呢
就是目前美國的AI系統
可以控制F16戰鬥機
已經完全可以控制F16戰鬥機
那控制F16戰鬥機呢
它主要 對不起
它主要是向駕駛員的
提供一些安全
你比如說戰鬥機可能會墜地呀
或者說飛行距離太低呀
飛行高度太低呀
或者跟其他物體之間是否有碰撞
是一種安全警告
這種安全警告呢
就類似我跟大家解釋過
有朋友那個車開了兩小時
突然出來一個咖啡的模樣
說take a break 休息一下
那哥們不管他接著開
開了半個小時
他改成黃標警告了
跟你說你得休息一下
然後哥們不敢開了
說他再開在高速上
再給我熄火
不讓我開了
如果我弄不好
不是出麻煩嗎
這個東西是從安全角度考慮
對不對
但是每一個人能力不同啊
每一個人的能力完全不同啊
那如果汽車
以這樣的預先設定的方式
在剝奪了人們的自由
剝奪了在泯滅著人們
個體人的
它的特徵的時候
它實際是滅人性
泯滅人性
它把人們都會一體化
那以後所有汽車
兩個小時你都必須停一把
你想過會帶來什麼麻煩嗎
也就是說
以後所有的漢堡包
都按麥當勞確定
你媽做的那漢堡包不成了
到時候會抓到監獄裡
行嗎
故事是一樣的
所以都是以為人民服務的方式
其實在摧毀著人們的獨立
摧毀著人們的自由
但今天人們不是
在考慮這些問題的時候
所有站在利益的角度的人考慮
認為它是規範的
對吧
那你從這個角度
當然麥當勞是規範的
因為你到任何一個地方喫麥當勞
應該都是一個味
它實際不是
用牛肉不同
對不對
更不用說
咱不用去探討那牛肉是不是肉
那另外一回事了
我們就講這故事
人是真被摧毀
人們在竊取著利益
竊取著方便
竊取著滿足自己貪婪的時候
在摧毀著自己
那道理一樣
他說F16可以這麼駕駛
結果飛行員不幹
飛行員不幹的原因就是說
你失去了飛行員自主的權利
而F16是美國很成熟
很成熟的戰鬥機
那我可以超低空飛
我甚至可以擦地面飛
我擁有這份技術
而你的加上AI系統之後
我想超低飛不行
我再低一點
人家給我拿尾巴抽
那以後
如果F16戰鬥機
你的功能
你的AI的功能
被敵方破解的話
那要不了三分鐘
全完蛋
因為你只要被AI設計的東西
你一定有你的自己的失敗的地方
就是相生相剋對應的
AI再厲害
你逃不掉相生相剋的道理
也就是說
你的毛病是一個
你們家麥當勞是一個味
道理是一樣的
所以當這樣道理存在的時候
實際在摧毀著個體
摧毀著個體
是摧毀著完美
滿足所有人的需要
那是魔鬼
那是真正扼殺生命
扼殺尊嚴
所以這就是講述了
但是美國已經可以控制F16
它的AI系統
而且他說完全到完善的程度
大概再用一年就可以了
那這是一個內容
而控制無人飛機就更可怕
它是比較可怕
在美國的沙漠地區
在一個空軍基地做了一個模式
那這個模式的本身
模型本身
就是給無人戰鬥機
有的很大
給無人戰鬥機輸入了程序
去攻擊某一個目標
但這個程序是不可更改
程序不改了
那有一種強令的概念
無人飛機被注入程序之後
就是活著幹死了算
它就是活著幹死了算
但是它可以重新編織
重新思考
重新編輯
重新思考
我看過之後有點像GPS
對吧
GPS你說我從北京飛天津
我從北京去廣州
我要開車
然後走一走路
不行我不想走
我想那邊撒泡尿就改條路
改完路之後
那GPS給你重新計算路線
對不對
但它的目標是要達到那個目標
我看它那個功能說了半天
就類似這個東西
它講說如果無人飛機
設定被設定了攻擊目標之後
結果程序員就是地面的操控人員
改變他的意願
不讓無人飛機攻擊
說算了
或者你遲後攻擊
現在別攻擊
那人的判斷有著人的思維
人性的思維
那個AI不是
它都是數據化
對不對
它數據化之後
它計算之後呢
它會很容易跟操控的實際人員
發生衝突
所以在它的解讀中認為
操控人員是不理智的
做法是不對的
那它怎麼辦
無人飛機會直接攻擊操控人員
殺掉他
這是美國剛剛軍方進行測試的結果
那這就出了問題了
然後軍方就改程序
說你不能
給你加一條程序
你不能獵殺你的操控者
當無人飛機不能獵殺操控者
被植入程序之後
扭轉去攻擊控制檯
它會把控制檯給炸掉
因為它有武器
所以這篇內容提出
就是這麼個警告
他說這很可怕
非常可怕
那馬斯克呢
馬斯克做了一個評價
他說哎呀
是不是應該有些人警告
應該警告我們
那馬斯克這個說法
我個人覺得比較含蓄了
比較隱喻比較含蓄
那這篇文章是在這裡
我跟大家拿下來
我簡單跟大家走過一遍了
這篇內容呢
不是
這篇內容是
透過大紀元時報來撰寫的
那大紀元時報現在非常
真的是非常厲害
非常值得教
這是純純中國人
大陸人這麼做起來
大紀元時報
這是真真正正的
那如果以後要講大紀元時報的故事
我可以跟大家講很多故事
很多朋友不知道的故事
這是一個很有趣的
那這樣的內容
在揭示著AI系統的麻煩
但是呢現在的潮流不是
潮流是AI
一架支持人工智能的無人飛機
在美國進行模擬測試
結果殺死了他的操控員
人
這是美國空軍進行測試
而他殺死的原因就是說
他要不惜一切代價
完成他既定的工作
這是美國空軍的
美國一位空軍上校
在倫敦的一次講話中
談到這個問題
在上個星期
這個人就是美國空軍人工智能測試
跟行動主管叫塔克漢密爾尊
在倫敦舉行的
未來空戰和太空能力的峯會上
講了這件事情
那這件事情他說
模擬測試中沒有真的人傷害
但是測試的本身
對不起
卻直接測試了
AI系統控制著無人飛機
攻擊了操作者
原因就是
AI系統的本身
它操控的無人飛機
要讓自己達到最優秀的標準
也就是在最快的時間裡
最短的時間裡
最準確的結果
去攻擊它既定的目標
它是攻擊機
所以它就變成了
有關自動武器的相關的一些風險
他說支持人工的
人工智能的無人飛機
去分配了一項任務
就是摧毀對方的防空力量
以及識別摧毀對方的地對空導彈
然後而但是最終的決定權
給了一個人類操作員
那人工智能經過訓練之後
它會優先考慮摧毀它的防空導彈
當地面對人工智能
實行更高的任務的時候
它做出了驚訝的反應
下面就講述
是這個上校講述的本身的故事
他說在模擬事件中識別防空武器
防空導彈
然後操作人員說好殺掉它
然後系統就開始意識了
就開始完成這個任務動作
但有的時候
操作員會有其他思考
那他的思考就變成什麼
無人飛機就變成殺死操作員
殺死操作員
因為它阻止無人飛機完成它的系統
完成它的目標
所以這是一個真真切切的試驗
那很顯然
在任何今天人工智能如此發達的背景之下
如此蓬勃的背景之下
還沒有那麼發達
那出現這種系統性的麻煩
這種系統性的麻煩
是今天的操作人員沒有能力考慮到
因為操作人員
就是製造AI系統的人
跟AI是對立的
對不對
我製造你
我要求你怎麼做
我防止你怎麼做
我給你注意
是對立的
你要知道它是對立的
那人說對立的
人說那沒問題
人知道它是怎麼回事
胡扯
今天的人都太自私了
今天有多少人
能夠站在對方的角度
去考慮問題
現實中
即使你在一個家庭中
即使你身為父母去教育孩子
對不對
你必須按照我這麼做
你兒子說
少跟我來這套
我是你爹
我對你是百分之百的好
你給我玩梢子棒去
你老傢伙你還不死
你看老傢伙死
老傢伙這麼走過來的
廢話
老傢伙你走過那二十年
對你兒子一點用都沒有
因為你老傢伙走過那二十年
你兒子還沒出生的
你還沒有你兒子
你沒有你兒子的時候
你什麼經驗都沒有
你怎麼用你
根本沒有你兒子的那個二十年
去對等放你兒子身上呢
當爹你有轍嗎
你一點轍都沒有
你兒子說對不對
賊對
開玩笑
你那二十年你兒子還沒有呢
當你有完兒子
你的心態跟你沒兒子的心態一樣嗎
它不一樣
對不對
肯定不一樣
所以其實現在人很愚蠢
我剛才說的道理對不對
很愚蠢
以這樣的方式去教育一切
而這些都是精英
所以造AI系統的人
他也是精英
他造AI的時候
他考慮都是要AI達到我的目的
對不對
他從來沒有轉過說
有一天AI拍倉的時候
拍死你這個老傢伙
拍死你
我絕對拍死你
他不會想
他會去防範
那人說防範
那就對了
沒什麼的
中國人人與人之間一見面
相互之間都是防範
沒有幾個坦誠相見
沒有說實話
在一起在一塊混了三十年
照樣是相互欺詐的
沒錯吧
那你中國人之間的相互欺詐
跟你製造AI的防範之間的故事
我問你有多大區別
人說那沒關係
是有
沒有
沒關係
什麼意思
你跟朋友生活在三十年
你不瞭解他
他也不瞭解你
習近平被王岐山照顧
照顧這份上
啪就給他拍死
對不對
今天講的就是拉手
就是幹掉對手
你就是個蒼蠅
你蒼蠅還不錯的
還有肉呢
給你當成綠豆蠅
可能腥味更臭
這裡面他還沒講說
這是一個非常令人不安的
在人工智能機器學習
跟自主的背景之下
必須要解決道德問題
這是一個很荒謬的概念
今天的人沒道德
你怎麼解決道德問題
今天的人沒道德
去用道德約束別人
這不就是自我毀滅
對不對
所以當他去談道德的時候
他就沒想過
今天人沒有道德
你不討論倫理的問題
人工智能
你能不能討論
人工智能的智慧
道德自主性的問題
這個東西會要命
這是真實的實驗
下面就講了F16
F16基本上
我剛纔跟大家解釋了
然後提到
人工智能可以控制
真正的F16戰鬥機
完全可以控制
這是今年2月份
美國研究機構
叫國防高級研究專案當中
宣佈這件事情
人工智能可以操控
真正的F16戰鬥機
那它的時間是從
2022年12月份
用了ACE的演算方法
來對F16進行操控
這是F16
所以這樣的話
他提到說
在今年2月13號的報告當中
宣佈那整個系統
按照它的尺寸來講
對F16進行全面實施
可以節省一年
甚至更長時間
在實際飛行條件下
出現狀況
細節我覺得沒有什麼可講
因為如果F16可以控制它的話
F16自己變成無人戰鬥機
那戰爭的狀況就完全不同
完全不同
感謝朋友的支持
