(粵語)可否將核武器控制權交給人工智能,是個兩難的問題 |【 #時事軍事】

時事軍事-夏洛山
3109粉絲
朋友你好,我是夏洛珊
美中領導人11月15日在舊金山舉行的峯會上
取得有限的口頭認同中
包括同意在人工智能上合作
及恢復軍事方面的交流
但是這些口頭上的承諾
遠未有大熊貓返回中國那麼確定
然而,一些不確定的問題
可能對未來有很大的影響
峯會前就有報導稱
這次峯會將宣佈一項協議
禁止在包括核武器在內的多個領域
使用人工智能
實際上,這次峯會就未有達成這方面的協議
但白宮與中共外交部發佈的消息
提到了美中就人工智能進行談判的可能性
峯會結束後
拜登向媒體發表的講話中解釋稱
我們將讓我們的專家聚集在一起
討論與人工智能相關的風險與安全問題
美中官員都未有透露哪些專家將參與
或將討論哪些風險與安全問題
當然,有很多話值得討論
這些討論可能涉及
不符合人類價值觀的人工智能系統的所謂災難性風險
日益普遍使用致命的自主武器系統
亦有人稱其為殺手機器人
以及人工智能在決定使用核武
下令核打擊
與執行核打擊方面可能承擔的角色
但是,美中之間達成共識
並形成一個有約束力協議的前景
一點都不樂觀
可能不會出臺條約
或禁令的原因是多方面的
但至少有兩個關鍵原因
一個是未有一個共識的簡單明確定義
以區分武漢的範圍
用於日常生活的人工智能
與未來對人類可能構成致命威脅的人工智能
人認為應用於工業管理、自動機械
系統分析等另類的人工智能
通過對大量數據的處理
推動了現代科技
深刻影響著人類社會
這就引出了第二個原因
它太有用了
以至沒有人願意將人工智能
排除在軍事領域之外
更不願意因人工智能的缺席
而令自己在競爭中處於劣勢
人工智能在民用領域的成功
同樣可以複製在軍事鬥爭中
實際上它們早就成功地用於軍事目的
美國和中國與其他國家
正在爭相將這些進步
融入各種的軍事系統
人工智能領域的軍備競賽
已經不可能避免地展開
人擔心的是
在這一領域的競爭中
不要被甩在後面
而不是在人類命運的基礎上
負責任地尋找更明智的解決辦法
在所有潛在風險中
人工智能與核武器的結合
最令人擔憂
人工智能系統是如此聰明、快速
並正在成為人類活動的核心
它對人類未來的嚴重影響
值得人花點時間去思考
或者至少讓各方陣營的專家
放下立場觀念討論這些問題
美國一直試圖通過負責任地討論
人工智能的發展來解決這些問題
美國國務院一直在推動關於軍事上
負責任地使用
與限制人工智能自主權的政治宣言
這既不是禁令
也不是具有法律約束力的條約
而是一套基於人類安全的原則
美國人的宣言
概述了使用人工智能的幾項原則
其要點是
由人工智能管理的武器控制鏈中
要有一個人類決策者
來做出生死攸關的決定
這個通常被稱為
包含人類的指揮和控制途徑
其目的是解決與人工智能相關的風險
就是確保自主武器系統
不會不分青紅皁白地殺人
這個原則適用於從無人機到戰車
導彈、飛機、軍艦、潛艇等所有武器裝備
相比之下最大的潛在風險是核武器
包括那些搭載核彈頭的洲際彈道導彈
轟炸機與潛艇
這份宣言最初的版本特別指出
對通報與執行有關使用核武器的決定及所有行動
都必須有人類的參與
這段描述在後來的版本中被刪除
但維持人類控制的想法
一直是美國官員思考這個問題的基礎
今年6月
拜登的國家安全顧問傑克沙利文
呼籲其他擁核國家
承諾維持核武指揮、控制和使用途徑的人類決擇權
如果真有這樣一個嚴肅討論問題的機會
那幾乎肯定是美國與中國專家必須討論的問題
或者沒有人想要一臺全自動的末日機器
即使是前蘇聯在冷戰期間投入的無數資源
實現其核指揮控制基礎設施的自動化
也未能一路走到底
就連莫斯科所謂的死守系統
還要依賴地下掩護的人類
死守系統是俄羅斯一個特殊核武器發射裝置
是在假設俄羅斯遭到毀滅性核打擊
以至沒有人可以啟動核武器的情況下
自動發射核彈的系統
人工智能的日益廣泛應用
讓一些人產生這樣的疑問
讓人處於控制途徑中到底有多大異議
以及是否需要調整核政策
在人類決策權的問題上做出妥協
原因是人類會做出很多錯誤的決定
他們認為真正的危險
不是將使用核武的決定權交給人工智能
而是決策者對人工智能提供解決方案的依賴
並影響他們的決策
就像開車時依賴GPS導航一樣
研究表明開車時依賴導航應用程序的人
會逐漸失去自己判斷位置與方向的基本技能
如果應用程序出錯
人類就會迷失方向
同樣的擔憂也適用於人工智能
人類決策者可能過度依賴人工智能提供的建議
其後果可能嚴重得多
也就是說如果人工智能系統產生一個
極具說服力的錯誤信息
這種情況下人類決策權
可能不會導致我們所希望的保障
美國擁有強大的核力量
各種陸機、海機與空中發射的核導彈
在接到通知幾分鐘內就可以發射
中共也在模仿這種姿態
建立新的導彈發射井
在軌道上安裝新的預警衛星
在衝突爆發的敏感時期
萬一核預警系統出現誤解
人類決策者可能會將誤報信譽為真
這纔是真正的危險
也就是說不管控制途徑中是否有人類決策
都不能完全迴避風險
但敢與人類決策權的重要性並不衝突
無論如何
人類似乎並不能確保
在人工智能參與的系統控制中
保持永遠正確
但絕對不能缺少人類決策環節
同時還要最大限度地
減少人類對人工智能的依賴
實際上
在人工智能參與的武器系統控制途徑中
設置人類決策者的本意
並不僅僅是為了提高系統本身的安全保證
根本的目的是
不要將決策權完全交給人工智能
而出現將人類排除在外
人工智能自主權決策
控制和發展的局面
這就相當於將世界交給人工智能統治
這樣人類就危險了
要避免同樣暗淡的前景
需要整個人類的努力
中共能否在激烈競爭
極力推動軍事現代化
並試圖發展地區
甚至全球霸權的情況下
與美國和西方達成一個
在人工智能發展上
有約束力的限制性的條約呢
我們看法並不樂觀
無論人是否喜歡
各國領導人
可能都會越來越依賴人工智能
現在已無法禁止人工智能
就好像人無法禁止任何其他科技一樣
即使還有一些清醒的美國人
或其他人在大聲吶喊
人工智能領域沒有底線
沒有原則的競爭
可能會令人類陷入危險
但是
對此陣型的競爭
還是令一些人正在失去理性
我們只能希望
這些聲音能夠喚醒人
不管是中國
俄國
美國
還是哪個國家的研究人員
先放下任何政治偏見
在人類認知的基礎上
討論人工智能的安全問題
今天的話題就說到這裡
多謝你們的關注
我們下次節目見
