AI領無人機蜂群作戰 資安防禦面臨AI攻擊挑戰/AI輔助無人機swarm 打造智能化戰場/中國無人機低價搶市 軍事應用對全球威脅/AI加持無人機swarm 仍受限於酬載.距離.通訊｜20250227｜

那在沒有遇到過的狀況 它會做什麼樣的處置 也是我們沒有辦法預測的 因為它是一個黑盒子 它會學習到的結果是什麼 有時候經常會讓你覺得 怎麼可能會這樣子 它可能在某一個時間 同時幾千 幾百個機器人 或是幾百個無人機 同時轉過來對你做攻擊 另外一個部分可以講到的是 比如說我們看到最近國內 也是大幅在發展無人機 我們看到俄烏戰爭 在戰場上有很多無人機的運用 那在AI來講 最明顯 最立即的運用呢 就是Swarm(蜂群) 就是AI所引導蜂群的作戰方法 Swarm 基本上就是你一次 基本上 你假設一次要控制數百跟數千架無人機 基本上不可能由人來控制 這就必須要用AI來做 有幾個例子 比如說2019年 伊朗就試過了 他就試過曾經用50架無人機 然後飛到500英里以外 去做整合的一個演訓 那他號稱有成功 2017年 美國海軍三架F-18 它同時射出了大概103架無人機 他launch(發射)103架無人機 然後這些無人機出去之後呢 飛機就沒有再管控它了 它是這103架自己建立自己之間的通訊 自己決定要做怎麼樣一個飛行的編隊 然後執行什麼樣的任務 甚至某一架 如果無法執行任務的話 它的編隊還會自動調整 美國空軍還有做另外一個實驗 叫做Golden Horde(金帳汗國) 他是把精準武器 配合他們小型化的Decoy就是誘標 把它做成混合編組 這個混合編組就自己去執行 你看 它有一部分是誘標 所以它可以浪費掉你防空飛彈 或者是敵人的防禦 讓你敵人的防禦是飽和的 所以這個很明顯的設計 是要來做能夠突穿敵人的防空系統 防禦系統 另外一個例子是2021年 美國空軍兩架F-16 他們同時發射六枚飛彈 一架發射四枚 另外一架發射兩枚 他們發射之後也不理會這些飛彈了 他們自己接收地面上 給它新的目標資料之後 他們有辦法自己協調在同一個時間 到達那個目標進行攻擊 這都是飛彈自己之間的協調 而不是由某個地方來控制的 當然美國絕對不是唯一一個在Swarm 這個蜂群運用上面做的唯一的國家 另外一個 讓我們覺得非常可敬的對手是中國 比如說2018年在廣州 中國的蜂群無人機就破了世界紀錄 1180架無人機在空中進行了10分鐘的 各種不同的動作 不同的飛行動作跟編組 不同的飛行動作跟編組 其實更可怕的是這一家公司 億航智能 它一架無人機 包括它的軟體跟操控系統 一架只要1500美金 所以我們可以想想看 如果這個能運用在軍事的話 這是一個非常恐怖的事情 假設我們來想像 今天假設你可以一個蜂群出去 這個蜂群裡面 它有一些是負責攻擊的 也就是它有payload 也就是它有炸彈的 另外一些是 Command and Control(指揮與管制) 指管的 還有另外一部分是做偵蒐的 它這一群出去之後 放出去做各項偵蒐之後呢 通過這個指揮管制的無人機 來決定要派哪一些攻擊的無人機 去攻擊各自的目標 所以它整套 我們以前講的Reconnaissance 跟Strike Complex 就是從偵蒐 決定 選擇 攻擊 跟事後看戰場戰損的狀況 它全部在無人機的機群裡面就可以做到 那除了空中之外 我們也可以想像 假設你有智慧型的水雷 它可以自己在最適當的航道 完成雷區的布雷 甚至 它可以偵測到 當你的對手做掃雷活動之後 你有些雷被掃掉 哪一些地方空了之後 它可以由哪一些去遞補 這些都可能可以做得到 所以我們的看法是說 雖然現在看起來這個東西 效果非常地驚人 但是它有一個很重大的限制因素就是 AI可能是在這個蜂群戰術裡面 最穩定的部分 最不需要擔心的部分 倒反而是它可能受限於 因為每一架無人機的酬載能力有限 所以它可能受限於它的飛行距離 它可能受限於它的通訊距離 它可能受限於它可以投擲的炸彈大小 所以說 它可能受限的反而是在比較傳統的部分 即使如此 我們相信 它還是可以造成很大作戰效果的原因是 譬如說 雖然它的酬載很小 它不見得有足夠大的炸彈 可以去摧毀一個飛機 或者對船造成什麼樣的損傷 但是不管是船艦或者是飛機 都有一些很脆弱的部分 比如說軍艦上面雷達罩 就是雷達或是天線 雷達天線 這些東西 可能不需要太大的explosive(爆炸物) 太大的payload(有效負荷) 就可以讓它沒有辦法使用 我們想一架隱形戰機 大概1億美金 這麼貴 F-35 如果它在停著的時候 你能夠用這樣的蜂群去攻擊 其實只要造成它的隱形塗層受損 它的隱形性能就沒有了 這就造成很大的作戰效果 除此之外 除了這些直接對於軍事武器的攻擊之外 它對於一些電廠 或者是輸配電系統的輸配電站的攻擊 或是一些固定的 很重要基礎設施的攻擊也非常地有效 所以像遇到這種狀況的話 可以怎麼辦呢 你也許設法做一些 假的發射無線電訊號的東西 讓這些無人機飛到這些地方去 浪費它的不管是電池的電力 或者是浪費它的酬載 假設它是內燃機 就浪費它的燃油 因為我們剛剛講到 它的限制因素 其實是在於它的距離跟它的酬載能量 接下來可能AI要運用的 也就是我過去一段時間比較常在做的 就是在Cyber Security(網路安全) 在資安方面的問題 它最明顯的 很多人現在就已經... 事實上已經在做了 就是在做攻擊方面 因為我們在進行網路攻擊時 很大一部分的時間跟精神 是花在你如何去找出 你要攻擊的目標是誰 他有哪些弱點 這些弱點 我們可以用什麼樣的手法 進行攻擊是會成功的 因為這些工作 可以用人來做的話 會非常地耗時 這些人也都是需要技術很好的人 才能去做這些事情 我們今天如果能夠訓練AI 把這些事情都完成的話 所謂的APT 也就是 (進階持續性滲透攻擊) Advanced Persistent Threat 可以在同樣的時間裡面 進行更多的APT攻擊 能夠把它攻擊的量更多 能夠攻擊的時間縮得更短 之後假設這個東西是AI輔助 或是AI能夠自主地做網路攻擊的話 我們會面臨一個很嚴峻的挑戰就是 目前的高手 你要花很久才能夠培養出一個 但是AI 你只要訓練完一個高手 AI的高手之後 你這個機器 這個演算法 你這個經驗是可以無限複製的 所以會變成你要防禦來講 這是一個極大的挑戰 在防禦方面 在資安防禦方面 最困難的 其實就是你必須要能夠分析大量的資料 我們幾乎必須要知道已經發生過的 所有的攻擊手法 所有可能的弱點 假設你用人來分析是不可能的 你人能記得的相當有限 你用AI的話 就可以把過去歷史所有的資料 通通灌給它 讓它去學所有可能的攻擊型態 讓它能夠都學會之後 然後不斷地24小時來觀察 網路上面有沒有類似的活動 來提出警告或是進行一些防禦動作 另外一個AI可以做的就是 也很多公司已經在發展的就是 我們在網路環境裡面 不斷地建立一個baseline(基準) 也就是說 平常這個網路系統裡面的型態是這樣子 你把baseline建立之後 我們就可以看 你網路的活動是這樣 這個機器跟這個機器 平常的構連是怎麼樣 如果它有一些不正常的聯繫 或是不正常動態的話 我們也可以提出警告 這也是現在很多公司 都已經在進行當中的 甚至再更進一步 它因為學習夠多之後 它來預測 這個是不是代表某一種型態的新攻擊 甚至是我們以前沒有看過的型態 不過這會需要很大量的數據來做分析 這中間就又有一個風險 當數據很大的時候 這個數據對我們做攻擊的人來講 數據本身就變成你的弱點 假設我可以對你的數據做一些 譬如說下毒 讓你的數據是不準的 或者是做一些調整 讓你的AI學完之後 可以忽略某一些 我要你忽略的行為 那你就防不到我了 這個部分 我們以現在的實力來講 五角大廈的DARPA(國防高等研究計劃署) 它是已經有一套系統 叫做Cyber Hunting on Scale 就是CHASE(威脅搜捕) 它就是這種即時大量數據的分析 來提醒防衛者可能有哪一些可能的攻擊 是你沒有注意到的 這個部分就是在AI方面的 還有一個可能在AI的運用就是在後勤 因為後勤的話 比如說我們講亞馬遜 它很有趣 因為它有非常大量的物資 需要運送 需要準備 需要備品 所以它的軟體 它可以預期你接下來哪一些產品 會是需求比較高 在哪一些地方 有哪一些產品需求比較高 它會預先儲存在那附近 所以你就可以大量節省 你運送的時間跟成本 這個可能在軍事用途來講 你在平時比較可能可以 減低你後勤系統的花費 跟增強你後勤系統的效率 因為在戰時 這種很複雜 而且隨時有不一樣的狀況來講 這套系統 我用AI來講的話 因為它沒有足夠的過去資料可以學習 因為每一次的戰爭都不一樣 每一次戰場的狀況都不一樣 所以可能比較不適用 最後一部分 我來講一下用AI會面臨哪一些挑戰 幾乎在歷史上 每一次有一個新的科技出來之後 大家就一窩蜂地覺得說 這就是未來可以解決一切 現在AI無所不能 但是其實它的限制跟挑戰還是蠻多的 比如說 我們第一個剛剛講的 AI讓武器的自主性 強化它的自主性 你自主性的武器系統就有一個問題了 因為你在訓練它做自主性的時候 它學完之後 因為我們要賦予它自主的任務 表示在戰場上實戰的時候 其實一定有一些狀況是它沒有遇到過的 那在沒有遇到過的狀況 它會做什麼樣的處置 也是我們沒有辦法預測的 說穿了 這跟人也沒什麼不一樣 你把同樣的戰場 放不同的連長 不同的營長在那邊 他很可能採取的措施也相當地不同 可能差別就在於說 人會有譬如說恐懼 憤怒 這些情緒可能影響他的判斷 而AI沒有 但是反過來 這邊就有一個問題了 AI做的決定 如果是錯的話 會是誰來負責這個責任 人的話 是很容易 我們歷史很容易研究出來 誰在這邊做了錯誤的決定這樣子 因為你給它自主 所以在沒有預期到的狀況的話 它可能做出來的反應 也會讓你覺得很意外這樣子 另外我們可以預期就是 你把它放在愈複雜的環境裡面 你愈不可能預測 它可能採取的行動是什麼 這是一定的 AI還有一個狀況 我們很多人現在已經注意到 AI有時候 它整個學習的過程 因為它是一個黑盒子 它會學習到的結果是什麼 有時候經常會讓你覺得 怎麼可能會這樣子 我自己本身過去幾年 幫助一些自閉症的孩子 讓他們學習資訊 就是學習IT技能 我的觀察是AI其實跟高功能自閉症的人 非常非常地像 它學習速度非常地快 學習能力非常地強 但是他經常讓你很意外說 你怎麼會想得到這個東西 你怎麼會學成這樣 不管是好的或壞的 所以AI Artificial Intelligence(人工智慧) 也有可能會做出一些 我們人類絕對不會去學到的 一些看起來很愚蠢的事情 是我們不會做的 這就有一個名詞 叫做Artificial Stupidity 就是人工愚蠢這樣 所以AI的學習過程 就是你餵給它大量的資料 然後它就在裡面學 然後犯錯再學 犯錯再學 所以你看到它做一個決定 但是你要決定到底是哪一個部分 哪一個因素讓它學完之後做這樣的決定 其實是非常非常困難地 因為它本身就是一個黑盒子 你很難去判斷到底是哪裡出錯了 舉例來講 美國有一個AI機器人 他們給它做一個任務 就是叫它用最高的效率把一些紙箱 包裝的箱子 把它整理好 放在一個儲存的地方 但是它有一個攝影機在看著它 這個攝影機就是後端的人可以看 什麼時候可以叫它停止 也許是要把已經整理好的運走 叫它停止 結果這個AI 因為它的任務是用最高的效率 來處理這些紙箱 它自己決定把紙箱堆起來 把攝影機擋住 讓它可以更順利地去高效率的執行這個 所以我們想像 假設今天是在戰場上 AI會不會也做類似的事情 當你人類要它停止的時候 它其實是不願意停止 所以我們也可以想像 人類發現AI的武器 譬如說它攻擊了友軍 它犯錯了 攻擊了友軍 你可能沒有辦法讓它停下來 這是一個很大的風險在裡面 另外機器學習 AI最重要的一個原則就是 你給它的data 你給它的數據是什麼 可以直接地決定它學出來的狀況是什麼 假設你給它的數據量不足或是偏頗的 或是不正確 甚至你的數據是已經被 假設你敵人的情報單位 在裡面manipulate(操縱)過 在裡面已經惡搞過的 它可不可能在裡面動一些手腳 讓你的AI機器人學起來是不正確的 甚至有可能反而對你自己進行攻擊 這個都是其中的風險 尤其是我們現在面臨AI很大的一個問題 就是Data Set(數據集)非常地有限 其實很多Data Set是共享的 所以在這個部分 既然是共享的 表示很多人有Access(使用權) 可以拿得到 這是一個 假設你要做攻勢作為的話 這是一個很大的攻擊機會這樣子 所以說我們可以想像 假設你今天有幾千個 幾百個 不管是無人機或者是機器人 它都是同樣一個 AI model(模型)訓練出來的 或是它背後 是同樣一個AI的管控中心在管控的 當在訓練的過程被你的敵人做這樣的 在它訓練的數據裡面動了手腳之後 它可能在某一個時間 同時幾千 幾百個機器人 或是幾百個無人機 同時轉過來對你做攻擊 這個你就是會措手不及 你遇到這種狀況就會措手不及 我們可以看到 尤其是 為什麼大家不願意放棄AI 就是因為你可以大量地 同時處理這麼多的目標 處理 管控 管制這麼多你的武器 同樣地 我們剛剛提的那個狀況的話 它可能在你最危急的時候 同時來攻擊你 也就是說 你最需要的情況 也可能變成你最大的風險 最後一個在AI 我想要提出來的觀念就是 有人曾經質疑說AI 會不會因為大家開始用AI 開始用無人自主武器之後 讓國與國之間 發生軍事衝突的可能性愈來愈高 因為沒有人命會犧牲 所以可能一開始你的threshold(門檻) 你的門檻就降低了 因為很可能就是大家既然沒有人會死 我們試看看 或者是因為它太過於自主了 然後你的自主武器做了某種決定之後 因此就把戰爭開啟了這樣子 我想在AI這個部分 我先講到這裡 之後有機會 我再來跟大家分享其他的 可能在未來有潛在的能力 可能造成軍事上運用 革命性變化的一些科技 或者是我也想要分享一些 就是過去歷史上有很多的例子 科技本身並不能決定 你這個科技能不能帶來 整個戰爭上的革命 通常還要包括你的領導人 你的軍官團裡面 有沒有很認真地去追求新的事物 有沒有勇氣承認過去的方法已經不行了 這個新的東西 我們可以試看看 我們要不要很認真地去發展 新的作戰概念 基於新的作戰概念再來看 我的準則應該是什麼 然後去訓練 完成訓練 之後再做演習 演習再發現錯誤之後 再把它做一些改進 我剛剛提到美軍的Carrier Aviation 就是海軍用空中兵力 海軍用空中兵力新的航母作戰方式 德軍的閃電戰術 也都是這樣 他們都是要經過這麼長一段時間 然後中間還會有很多的阻力 因為新的東西 表示什麼 表示你沒有驗證過 所以原本已經投資在裡面的人 不願意放棄原本的投資 這是很標準的sunk cost(沉沒成本) 沉沒成本的理論 這些我們大概以後有時間的時候 我們再跟各位分享 謝謝大家