你不知道中美AI對抗激烈到什麼程度?美國被迫放棄底線。中共痛失2名高手意味著什麼?【 #菁英論壇 】| #新唐人電視台 12/20/2023

半年以來 兩個AI頂尖人物走了
中國這種人臉識別AI系統的
應該算是一個頂尖的人才
商湯科技的創始人湯曉歐
立即的去世了
7月1號那個馮揚赫
做做AI軍事推演的
也算是一個頂尖專家
然後突然離世
AI基本上就是兩個國家在爭
就是中國和美國
現在中共正在縮短這個差距
人工智能無法擺脫人的這個底層邏輯
如果這種智慧超越了人類的邊界
就是很可怕的
以色列的那個鐵穹
它是一個防守系統
它必須有一個超級電腦來控制
因為人的認知和反應的速度
遠遠趕不上機器
它是已經超越了一些臨界點了
只能寄希望於超越機器人
更高的神的力量來解救人類
歡迎收看精英論壇 我是十三
人類創造了機器
但人類從創造機器的第一天
就開始害怕和恐懼這個機器
當然最大的恐懼
是機器越來越發達
會不會有一天
反過來控制了人類
甚至奴役人類 屠殺人類
這個憂慮伴隨著西方世界的
整個工業化進程
在人工智能AI越來越發達的今天
尤其是AI武器的大國競爭之下
這種恐懼已經從原來的杞人憂天
變得越來越現實
機器超越人類的奇異點
是否即將到來
或者是否已經到來了呢
我們更直接的問一下
AI控制人類
AI武器屠殺和消滅人類的時刻
是不是即將會來臨呢
今天的嘉賓
現場有《大紀元時報》的總編輯
郭軍律師
還有獨立電視片製作人李軍先生
另外我們也邀請了
知名的軍事頻道主持人夏洛杉先生
他會用電話連線參加我們的節目
好 在討論開始之前
我們還是要提醒大家
訂閱《精英論壇》
在《乾淨世界》的頻道
我們每個星期五會有一期節目
在《乾淨世界》獨家播出
大家千萬不要錯過
我們首先問一下李軍
你知道最近在AI界
在中國發生了一件大事
你是說湯曉歐是吧
對
這是中國商湯科技的創始人湯曉歐
那麼12月15日在睡夢中
離奇的去世了
這個人他很特別
為什麼
他是中國這種人臉識別AI系統的
應該算是一個頂尖的人才
而且他商湯科技
他還聚集了中國AI方面的大量的人才
據說在商湯
至少有300個博士
三人行必有博士
因為他這個人還是很會培養人才
選人才
所以整個商湯
它是一個中國AI人才的這麼一個聚集地
但是它在整個的發展過程中
可以說中國現在大家很反感的
非常討厭的所謂的人臉識別系統
其實就是他們做出來的
因為那個東西對於監控民眾
對監控的一些異議人士
發揮了巨大的作用
關鍵的問題不是人臉識別技術本身
關鍵是它完全是為了配合中共的維穩部門
量身定做的這麼一套東西
這個就比較恐懼了
所以表面上來看
人家說商湯科技是一個民營企業
但是美國財政部給它定義為
中國的叫軍工複合體企業
就它實際上跟軍事上是聯繫在一起的
對
那麼而且像這樣的企業
如果只是個民營企業
我不相信它能
公安部和國安部會跟它來合作
今年中國很有意思
就是這個半年以來
兩個AI頂尖人物走了
一個是7月1號那個馮揚赫
他是代表軍方的
他是做AI軍事推演的
也算是個頂尖專家
然後突然離世
對
那現在到了年底了
這個其實他也是軍方的
對吧
只是軍工複合體
甚至跟國安有關的
這麼AI的領軍人物也突然離世
我覺得今年中國的AI產業是不是有點背
這個現在這個世界上
AI基本上就是兩個國家在爭
其他國家根本就排不上號
就是說第一團隊就是中國和美國兩個國家
所以這個基本上是大家平起碼頭
可能中國領先一點
可能美國領先一點
在大數據上
在這個數據蒐集上
中共是那邊是領先的
專制體制
但是在這個硬件方面
是美國稍微領先一些
當然這個談到AI
當然這個湯曉歐這個事情
是一個話題
一個話頭
我想問另外一件事
李軍你對AI的未來
你是悲觀還是樂觀
我應該說是非常悲觀
我記得那時候我有一部電影
就是叫《黑客帝國》
對吧
當時這部電影
因為我對這類電影其實不太感興趣
但這部電影我看了不下十遍
為什麼
因為它引起了我對這個
整個人類科技的一種反思
就是一開始總覺得科技發展是好事
但是如果按照《黑客帝國》那個電影
所描述的場景
人類發明瞭AI之後很狂歡
對
狂歡之後
後來他們和機器發生了戰爭
就這種智能機器發生戰爭
到最後人類戰敗了
戰敗了之後
最後人絕大部分人
成了機器智能的一塊電池
人被像水稻一樣種植
獲取能量來供這個機器人
然後只有極少部分人
到了地下西安一個城市
在那去維持他們這個人類的生存
然後這種情況下
但是它講的邏輯
人類科學是在這個方向走
所以我當時看了之後
哇 我說這個太讓我震驚了
所以我反復地看
但是我個人覺得這部影片
因為我是個有神論者
我相信是神對人的警告
神告訴你
如果你們按照這個科技這樣發展下去
到有可能最後有一天
你真的會成為機器人的一塊電池
我相信在西方國家
很多人他看了這個影片之後
有可能他已經有他這種概念
所以今天大家會看到
在社會上有很多人是反對
這個AI這種高速發展的
他認為你要去控制它
你要去規劃它
你要去監管它
這是有相當一批人
但是人類的慾望
它真的用大的商機來的時候
現在這個AI產業被認為
人類下一個最有前景的發財的產業
當人類慾望被控制的時候
它那種理性和那種東西已經失控了
所以很多人他已經在這個領域
去不斷去研究突破一些底線的東西
要再往下談之前
我們談一下AI的概念
我們現在我們看到的這種AI
他們都叫做ANI
或者中文翻譯過來叫弱AI
或者弱的人工智能
也就是說人類指定一個任務
它可以比人類完成的好
指定著我不指定的任務
你是不會去自動拓展的
比如說你下圍棋
你肯定你AlphaGo
肯定是比人類要下得好
但是我給你換了
我不下圍棋
我給你下象棋
它就不行了
因為你要首先設定一些
你要給它編一些碼
規定它要做這個任務
它才能做
所以這個叫做弱AI
然後就是AGI
就是說General Intelligence
就是說有點像是強AI
強AI的意思就是說
你基本上給它設定一個
基本的東西
它就能跟人做得差不多了
它也可以自己學習
蒐集資料
從外面蒐集資料
它可以任何領域
你只要給它提一個問
它自己去學習
它就能跟你做得差不多了
現在的這個ChartGPT的方向
就往這個方向在走
他們就是在做這個
但是未來還有一種AI
這個是更恐懼的
就是叫做ASI
這個就是超級AI
超級人工智能
那個超級人工智能
現在定義或者我理解
它是什麼呢
它可以自己設計它的底層邏輯
這個時候恐怕人類就控制不住
所以我們在談這個AI
到底能走到哪一步的時候
大家知道這三個階段
我們可能要談到
就是說AGI和ASI這個部分
到了那個部分
我們還能不能控制機器
到底是誰控制誰
所以郭總編
你覺得這個悲觀和樂觀的問題
你是怎麼看的呢
對這個問題
我其實也挺悲觀的
就是說人工智能
那就是AI
我們首先說就是智慧的一種
也就是一種自主的認知和邏輯
那不由外界控制
如果一個人是被外界控制的
那他智慧就是有疑問的
所以人類的智慧
總是和自由意志
這是必然聯繫在一起的
那我們如果用佛教的說法
就是智慧就是有自我邊界的
所謂眼耳鼻舌身意
對應的就是色身香味處法
那前面五個是認知
後面的也就這一個
就是法就是智慧了
你有認知了
你才會得出一個結論
還有一個道理在裡面
所以就後面是一個認知
那現在資訊科技大爆發
基本上就是AI的結構
都差不多
首先是認知系統
那就是掃描辨識
然後是自主意識
就是我們佛教中講
六十宗的意
然後昇華到法
也就是說自主的智慧了
那回到人工智能
人工智能基本上就是一種算法了
那麼之所以是人工
就是因為它的底層的邏輯
還是由人來設計的
或者是人來編碼的
那因此我覺得人工智能
無法擺脫人的底層邏輯
那這個邏輯就是自我中心
也就是說所謂的自由意志了
還是按照我們人類的理解
就是所有的智慧
它其實都是有邊界的
因為意識是有邊界的
智慧就有邊界
所以智慧本身
它就是一種自我中心
但是如果我們把它
今天把它反過來
如果這種智慧變成沒有邊界
或者是它的意識和智慧
超越了人類的邊界很多的時候
那對人來講
那就是很可怕的
因為你不可控了
你完全在你的邊界範圍之外了
所以老子道德經說
天地不仁以萬物為雛狗
我想解釋一下
這個雛狗就是豬和狗
為什麼說天地不仁
以萬物為雛狗呢
就是在商周時期
豬和狗是祭天的供品
當時這個是我們叫做這個
少勞 太勞是牛 羊 豬
這個到少勞就是豬 狗
然後還有雞
這個就是一般的士大夫
或者清這個級別的
大家不能預制的
所以就是說我的目的是為了祭天
求得某種好處
你們的只是一種工具
所以它是天地不仁
以萬物為雛狗
其實是這樣一個大概的意思
對 這裡為什麼說天地不仁
為什麼叫以萬物為雛狗呢
就是因為它超越人的認知了
所以它有超越人類的智慧
它就有了超越人類的法
它就註定不是以人類為中心
甚至不以萬物為中心
那自然就以萬物為雛狗了
也就是說萬物以天為中心
也不是以人為中心
好了 如果人工智能
最後超越了人類的認知
獲得了超越人的智慧的時候
那它也是以機器為自我中心
那麼人類必然就是它的雛狗了
也就是它的一種供品 祭品
這個說起來非常好
所以這就是李軍剛才說的
越說越像黑客帝國了
就是李軍剛說的電池
人類成了它的一個祭品
因為它不會以你為中心
它的任何認知和智慧產生
它必然是以它為中心
就是你人類只是它的一個工具
我怎麼用你是我的意思
那這個太恐怖了
所以上個世紀
我記得五十年代的時候
阿希莫夫就是美國非常有名的
這個科普的一個作家
他在寫他的這個書的時候
他寫了機器人三原則
第一原則就是機器人不得傷害人類
或坐視人類受到傷害
第二原則機器人必須服從人類的命令
除非命令與第一法則發生衝突
第三個法則在不違背第一
或第二法則之下
機器人可以保護自己
這個後來他發現這裡面還有漏洞
他又加了一個第零原則
所以就變成了阿希莫夫的四原則了
他四個法則了
所以他加了個第零法則
機器人不得傷害整體人類
他把個體人類放在整體人類之下了
然後坐視整體人類受到傷害
這個是第零法則
然後纔是第一法則了
這個除非違反第零法則
否則機器人不得傷害人類
或坐視人類受到傷害
這個時候就發生變化了
你怎麼衡量整體人類受到傷害
如果整體人類受到傷害
我判斷的時候
整體人類可能受到傷害
我就可以傷害個體人類了
這個時候就裡面
這個邏輯的陷阱是越填
它反而越大的
這個裡面就非常可怕
所以人工智能開發一直
全人類都是小心翼翼
看看怎麼做
擔心會不會超越所謂的奇異點
所以馬斯克他曾經談這個問題
他的第一個觀點就是
一旦人工智能用於軍事或者武器
就可能超越這個奇異點了
因為武器的攻略是傷害人類的
現在人工智能已經開始了
人工武器已經開始了
現在人工智能的武器已經開始了
比如說無人的自動射擊系統
不管是自動行走的
還是自動飛翔的
只要是自動射擊系統
它都有一定的自主決定權
它目的是傷害人類
那隻不過所有人都希望它去傷害敵人
而不是傷害自己
但是敵人也是人類
所以目前人工智能武器
還有一個就是限制
就是說最終決定權是由人來控制
但是這種控制
未來是否能夠被捨棄掉
最後由機器人自己來決定
說實話是很有可能的
這個確實是
你最後大家競爭發展到最後
就看誰這個決定的快
如果我三秒鐘能決定
你五秒鐘決定
我就先把你打死
那這個快
最後其實就是靠機器了
你就讓它自己決定好了
對 你就自己決定
它是最快的
談到軍事用途的AI
所以我們就必須要請教一下夏洛杉
夏先生
夏先生最近美國一直要求
和中國就AI的軍事化用途
進行磋商 進行談判
你認為是不是也是因為這個原因
也就是說一旦軍事武器AI化之後
我們可能再也沒有辦法回頭了
您怎麼看這個事
我是這樣看
就是說美國急於和中共
建立軍事方面的溝通
可能出於兩個原因
一個就是在印太地區的緊張
對峙態勢下
不要發生擦槍走火
另外一個也是一個很緊急的問題了
就是人工智能的自主應用
在這個中美領導人峯會上
雙方就是口頭答應
會在這些問題上進行溝通
但是並沒有後來的聲音了
實際上就是中共和美國
在軍事方面的溝通
它沒有誠意
因為中共甚至在溝通的人上
都是空缺的
中共的國防部長至今是一個空缺
在人工智能應用領域
美國實際上一直是領先的
但現在中共正在縮短這個差距
美國看到了人工智能控制的循環系統中
放置人類決策這個環節
這樣一個涉及人類安全的道德底線
現在實際上是岌岌可危了
因此它要建立一個全球認可的
一個有約束力的限制性的條約
這就是美國希望跟中共來溝通
來達成的一個東西
我們說它是一個道德底線
是因為它涉及到人類的安全問題
就是保護這條底線
如果堅守這個要保護維持這條底線
那誰維持誰就要付出代價
沒錯
因為人工智能的自主應用
實際是太有用了
太誘人了
它在軍事上特別是在軍事上
我們知道戰爭的關鍵因素是速度
或者說是時間
而人工智能可以在本質上提高這個速度
或者是縮短時間
如果在這樣一個環路上加入一個人
那麼就會大大降低這個系統的速度
因為人的認知和反應的速度遠遠趕不上機器
那麼就是說現在就是誰也不願意
放棄在軍事鬥爭的競爭優勢
去維護這麼一個道德底線
而且雙方如果競爭的雙方
有一方說在競爭中不講武德
它偷偷地用或者是無底線地使用人工智能
那麼這個堅守底線的一方
不但會失去競爭優勢
而且你繼續堅持這個底線也變得毫無意義
因為對手的破防
實際上就等於人類安全底線已經被打破了
你另外一方你就是維持也沒有意義了
那麼一旦人工智能從參與的這個環路中撤出來
那麼人工智能威脅人類安全這個起點也就到來了
這個前景確實是非常可怕
而且關鍵的問題不是說這個在未來十年二十年
關鍵的問題是近在眼前
就是說馬上這個武器系統
這個自我應用這個AI的自主決策
現在其實已經開始了
我們舉個例子比如那個以色列的那個鐵穹
它是一個防守系統沒錯
但是如果你說如果由人類來控制
你的速度根本就不可能的
它必須由一個超級電腦來控制
但是它只是一個防守系統
它現在還不是一個進攻系統
但是說明什麼
說明武器的人工智能自主運用完全可以已經可以做到
也就是說下一場戰爭如果是一場大型的戰爭
很可能這個問題就突破了
因為只要有一個人用大家一起全都開始用
夏先生因為中美就核武器使用AI的這個問題
一直說這個是AI武器使用這個方面的最優先的級別
講一下它核武器為什麼這個AI的使用更重要的
為什麼呢
實際上今年11月份
王毅和布林肯有過一次關於核武器控制的對話
那麼中美之間在覈武器方面的這種溝通
還是處在一個非常原則性話題的這麼一個階段
並沒有進入實質的接觸
那麼中方對美國的建議實際上到現在也沒有做出什麼回應
那麼從中美溝通的這個狀態來看
現在這個階段他們之間還沒有涉及到
人工智能在覈武器上應用的問題
還沒有涉及到討論這個問題
但是人工智能在覈武器上的應用就更加危險
因為涉及到大規模殺傷的問題
在這個問題上實際上我認為中國也好
美國也好包括俄羅斯也好
應該是都有所忌憚
俄羅斯有一個死守系統
這個系統就是在遭受核打擊以後
以至於沒有人能操作系統的情況下
這個系統會自動發射核武器實施報復
實施報復性打擊
就是這麼一個系統
俄羅斯也是在導彈發射井裡面安排了一個人類來控制
所以在覈武器控制上
把人從環路中拿出來的這種可能性
應該說大家都害怕吧
但是對中共就很難說
因為他們不是人類的正常思維
最近其實我看了一篇文章談到硅谷
美國硅谷有一些AI的創新公司
他們這些人談說我們發展很快
但是他們非常抱怨美國國防部
說你國防部整天說AI很重要
但你們重視都是表面的
說是AI很重要
但實際上美國國防部的訂單給硅谷的卻很少
就是說美國軍方對AI投入其實是非常不足的
所以問一下夏先生
你覺得這是為什麼
是不是跟美國國防部或者美國的高層級的這些決策人物
對AI的這種擔心和害怕有關係
我覺得是很顯然的
美國實際上每年現在軍費預算要八千八百多個億
遠遠超出中共的三百多
但是五角大樓就有人認為
這很多錢花在了不重要的事情上
而且有些極其重要的事情
卻沒有得到應有的重視
2012年五角大樓的一個軟件開發負責人叫柴蘭
他宣佈辭職
他的理由就是他無法忍受看到中共超越美國
在人工智能領域
他的辭職是為了抗議美國軍隊技術轉型太慢
他認為中共在人工智能機器學習和網絡能力這方面的進步
正在走向全球主導地位
但是軟件實際上比硬件更重要
比一些先進的戰鬥機還要重要
他認為對人工智能倫理的這種廣泛的爭論
拖慢了美國的發展速度
相比之下中共卻在不顧道德的情況下
對人工智能的進行大規模投資
這種競爭的後果當然是可想而知了
美國就有可能被甩在後面
最近五角大樓的風向可能有些改變
前不久空軍部長肯德爾說
在人工智能參與的武器系統中
如果放入人類決策者就會導致輸掉戰爭
因為在如此快速運轉的系統裡邊
人的幹預與機器相比簡直太慢了
其結果將會導致有人系統的失敗
言外之意就是要想贏得戰爭
現在就是掙脫束縛的時候了
像美國空軍部長這種
能夠決定裝備發展的重量級人物
已經表達了這種觀點
他應該是代表了相當一部分五角大樓人的想法
從道義上說
其實我們很佩服一些美國人對道德底線的堅守
但是如果以輸掉戰爭為代價的話
這種做法就有問題了
人只能管人的事
人管不了的事就得交給神去管
其實有關這個問題不光是在軍事領域
我知道最近美國人工智能領域
發生了另外一件大事
就是Open AI公司
大家都知道做Truck GPT的公司
他們的CEO叫奧特曼
被董事會開除
但是沒幾天就把他請回去了
據說奧特曼就是美國AI領域的所謂激進派的
就是Open AI這次風波
最後是奧特曼這批人大勝了
基本上等於是宣告矽谷文化的有效加速主義
取得了巨大勝利
美國很多科技公司
包括中國很多科技公司
它是支持這種有效加速主義的
他們認為可以不計代價地追求技術進步
不應該有任何護欄
那這包括不要有任何認為是人為的阻礙
或者是看門人阻礙創新
還包括不要任何道德倫理的約束
這個挺可怕
因為在這樣中共的特別的專制體制下
中國科學家他比美國科學家走得更遠
因為他這個約束少
倫理上的束縛少
比如說基因編程他都開始做了
那有效加速與這些科技人不但主張科技技術加速
也主張利用資本的力量
也就是和華爾街合作
來推動根本性的全球性的社會變革
所以這個是你已經感覺
他是已經超越了一些臨界點了
如果人類的前景是這樣的話
其實是挺可怕
看來這樣發展下去
只能寄希望於超越機器人更高的神的力量
來解救人類
我想是一定會的
對 我們必須保持我們的信念
和樂觀
對 就一定
這個世界上一定會有一些更高的存在
他們有更大的力量
來對這個世界進行控制或者進行平衡
那因為今天因為時間關係
我們只能談到這裡
非常感謝今天討論非常精彩
非常感謝三位嘉賓
特別謝謝夏先生
我們今天的節目就到這裡
多謝各位的收看
我們下次節目時間再見