獨家掌握AI將統治全球？美中AI全面競爭，中共無道德底線，歐美能阻其發展AI核武嗎？ AI影像真假難辨，沖擊資訊創造和傳播方式，AI取代工作崗位，人類文明面臨巨變【 #菁英論壇 】| #新唐人電視台 07

AI的發展有可能造成人類的滅絕 大部分有關世界末日的電影 其實都和人工智能的電腦系統 有或多或少的關係 應當將其視為這種 與大流行病和核武戰爭 同等的社會風險 無論誰成為AI的領隊 他都將統治全世界 談得最多的就是AI軍事化 尤其是核武器 數據現在成為 整個人工智能發展的一個瓶頸 有機會緩一口氣 AI帶來的衝擊的遠遠不止在軍事化的問題 機器人這方面 這個突破就有可能把人工智能的危害 轉到了人類世界 AI也可以偽造文書 偽造聲音 偽造畫面 人類文明的發展 就是一個資訊流通模式的發展 但現在AI的發展 對人類文明的方式 將是有一個巨大的衝擊 歡迎收看金融論壇 我是石山 有關機器或者人工智能機器 給人類帶來災難的擔心 已經持續了兩三百年 我們看到大部分有關世界末日的電影 其實都和人工智能的電腦系統 有或多或少的關係 大部分人不明白AI的原理 對未知的未來感到擔憂 這當然有情可原 但最近的越來越多的高科技行業人士 甚至是AI的專家也開始 對這個問題表達他們的擔心 那麼這些憂慮到底是基於什麼樣的原因 是有所根據還是其人憂天 危言聳聽呢 好 今天的嘉賓 有《大紀元時報》的總編輯郭君女士 還有獨立電視片製作人李軍先生 另外電腦的科技專家Jason博士 今天也會連線參加我們的討論 好 在節目開始之前 還是提醒大家訂閱 《精英論壇》在乾淨世界的頻道 我們的節目每個星期二和星期五 都會在乾淨世界獨家網絡播出 希望大家關注和支持 好 李軍 最近越來越多的 非常知名的高科技專家 對AI目前現在這個發展 也開始表達他們的憂慮 是嗎 你來跟我們談一下 是 現在有一大批的高科技專家 學者 當然也包括政客 其實對AI的發展是憂心忡忡的 他們提出的觀念就是 AI的發展有可能造成人類的滅絕 這個不是說有影響衝擊 是滅絕 那麼這種擔心有現階段的 也有對未來的 那現階段他們覺得 可能最重要的是建立AI研究的 所謂的遊戲規則了 所以2023年的5月份 被稱為這個Chad GDB之父的Ultimate 和超過350名 人工智能方面的專家 他們聯合簽署了一份公開信 那麼他們認為 人工智能可能導致人類滅絕的風險 所以應當將其視為這種 與大流行病和核武戰爭 同等的社會風險 那麼Ultimate還建議 建立類似這種 什麼國際原子能機構這樣的組織 來安全監管AI的發展 政府要加強監管 那麼馬斯克說 他認為AI的技術 有10%到20%的可能性會消滅人類 而且川普還問馬斯克 說現在有可能用AI技術 來模仿美國總統發動核戰爭 來觸發整個世界核大戰嗎? 馬斯克的回答是肯定可以 所以川普他說 那我也很擔心做AI失控的話 會給人類帶來巨大的災難 其實現在美國政府也擔心 就中共會利用AI技術 來幹預美國的大選 因為AI現在已經學會了 政治正確和撒謊了 這都是現階段的 那麼從長遠來看 因為隨著AI從這種弱人工智能 一步步發展到人工通用智能 甚至到了超人工智能 那人類的各項工作 甚至是家庭角色 包括妻子 丈夫 都有可能被取代 那對整個社會的發展 應該是顛覆性的了 那麼也有可能是 更可能是失控的 AI發展到一定階段 誰都不會知道哪一天 你突然發現 AI怎麼成了人類的主人了 那時候或許它已經 比人類聰明很多倍了 你都不知道 那麼即使沒到這一步 就拿這個奧特曼的一句話 他說過什麼呢 無論誰成為AI的領頭羊 它都將統治全世界 這句話其實讓很多人不寒而慄的 因為這個技術如果落到了 沒有道德的人或組織身上 那對人類也是滅頂之災 人類有辦法避免這種可能性嗎 對 這個確實是看起來很悲觀 其實我們看很多電影 都是各種各樣的什麼 Skynet 都是如何如何有問題 超級人工智能 甚至黑客帝國裡面 那個基本上就是人 人工智能統治全部 你這個人類只是它這個 統治的系統裡面的其中一部分 但是這個除了悲觀的這種看法 其實我知道也有一些專家 他認為你們過濾了 是吧 咱們應該比較樂觀地看待這個問題 是不是也有這樣的人 對吧 應該有 但不多 你比如說這個麻省理工學院的 一位經濟學家叫布林·尤弗森 那他把這個未來大量AI 替代人類工作 稱之為什麼呢 稱之為數碼雅典城 他說古代這個雅典公民 之所以能夠享有民主 藝術生活 到處遊玩的安逸生活 主要因為什麼呢 因為有去奴隸為他們勞動 那麼我們可以 用這個具有人工智能機器 取代古代的這個奴隸 建立人人都樂在其中的數碼烏託邦 那不用勞動 天天享受生活 而且物資會極大豐富 不過也有人批評說 人類如果真到這一步的話 估計他的體力和智力 是不是都會大幅度退化 人類會在機器面前 顯得格外的愚蠢 那時候機器人他們會怎麼做呢 那也有人從市場經濟角度來說 他認為這種所謂的數碼烏託邦 很難實現 那麼還有一個是什麼 就是矽谷的創投公司 叫A16Z的一個共同創始人 叫馬克安德森 A16Z是矽谷 很具有影響力的一個創投公司之一 他們很喜歡投資加密的數字貨幣 安德森寫了一篇7000字的文章 大談AR會拯救世界 他說現在對AR的恐慌是非理性的 AR不會殺死人類 不必擔心失業潮 AR的風險可以通過AR來防禦 反正就是說AR前進是無限美好 說實話我看他那個文章了 很像創投公司的一個商業計劃書 在找聯合投資人那種感覺 按照他的說法 這些專家的擔心都是不理性的 他纔是理性的 說實話看了他的文章 我反而更擔心AR未來的發展 有這樣的人在很危險 對當然這個事情沒發生之前 一定是各種各樣的意見都有 所以我們還是要請教一下 科技專家Jason博士 現在人類高科技最引人注目 而且發展最快的 其實就是跟AI相關的產業 我們知道按照IT行業 什麼叫什麼摩爾定律 每18個月就什麼功能增長一倍等等 所以大家說這個AI這種發展 可能用不了多少時間 人類就要進入所謂的AI控制的時代 所以有人說我們現在正在 站在第三次工業革命的大門口 所以你覺得未來AI的發展速度 會有這麼快嗎 會把我們帶進一個 突然帶進一個未知的世界 會有這麼快嗎 去年我覺得可能 今年我稍微樂觀了一點點 就是說因為我是大概是在去年 2022年的11月 當時ChartGB出來的時候 我第一次被震驚到了 但是當時數學人工智能模型 是OpenAI的GPD 3.5 那個已經讓我非常喫驚了 等到大概2023年的3月份的時候 3、4月份的時候 他們OpenAI就推出來了GPD 4 那個就徹底讓我驚訝壞了 他們短短的大概在幾個月的時間 我看這個3 如果你把那個3理解成一個幼兒園 小學一年級二年級小孩的那個智商的話 那麼這個GPD 4 其實就已經到了高中生的這個智商了 甚至有部分是大學生的 因為他在做那個法律這個BAR 這個就是通過法律那個考試的時候 他是超過就是Top10%的那樣的成績 所以就是這麼短時間的飛躍 當時讓我非常非常驚訝 我當時這個 就是當時我在我的節目中做的時候 人類是不是出現奇異點了 就是人類從此就走上一個不歸路了 當然就是在隨後的 為啥我今年稍微放心了一點呢 是在過去這一年裡頭 GDP 4幾乎一直處於 就是整個現在人工智能的山尖這個位置上 不管是谷歌出的Gemini 還是後來Cloud出的Cloud 3 當然最近就在過去這麼幾個月的時間 有一個叫Anthropic 是另外它是一羣從 OpenAI滑遍出來的人創立的公司 目前是拿的是Amazon的錢 那麼這個公司它最近又推出來了一個叫 Cloud 3.5的就是一個模型 這個模型它的能力稍微的 就是明顯的超出了GDP 4 Turbo這樣的狀態 但是它的提高是非常非常小的 從這個過程的話我就看到 其實很可能人類人工智能目前按現有的技術 如果沒有新的技術突破的話 未來的發展可能會緩下來 原來大家預計這一兩年 今年明年就會出現真正的 就叫做通用型人工智能這樣的設想 可能稍微有點突進了 因為就我自己來看的話 是有技術原因出現目前GDP 4 成為某種意義上的瓶頸 然後再突破很可能是一種量化的突破 而不是GDP 4和GDP 3.5之間 這種質變的這種突破 你剛剛說的那個技術上的限制的原因 是我們一般人理解的 是因為它芯片不夠呢 還是因為它運算速度 還是說數據的容量 或者是使用這個到底是 大概是哪個方向它有這個數據 主要是數據這個方向 那麼目前來看的話就是說 這個運算的方向的話 最近整個股市最火的就是NVIDIA 它實際上就是做人工智能運算的 英偉達 對 英偉達 它的這個產 就是有一段是有一度 它成為全世界最最最最值錢的公司 甚至超過蘋果微軟這樣子的 就是傳統的大企業 整個市值超過3萬億 為什麼 因為它幾乎現在是獨霸 人工智能計算的天下 而目前來看的話 各大公司都從它那買 買了它的東西以後的話 基本運算這個東西 已經不是一個主要的瓶頸了 現在的瓶頸主要來自於數據 那麼就是GDP 4它某種意義上講 有人說是它把互聯網70%的信息 已經拿下來了 那麼就是說換句話說的話 人類這個數據增長的這個過程 它基本上已經 就是能拿到的這個數字 數據其實已經基本上都被拿下來了 那麼你要是說再擴展 再乘以10倍這個數據量 那很可能就不能是人類的 現有的生成自然數據量了 你的可能就得用人工智能自動 就是生成創造 所以說數據現在成為 整個人工智能發展的一個瓶頸 所以就我來看的話 目前GDP 4其實成為 目前人工智能在現有技術 現有數據的情況下的一個 某種意義上原來是山峯 現在至少是個高原地帶 就是說整體都在GDP 4 或者說是Cloud 3.5 Sonnet這兩個技術 籠罩下的這個高原地帶出現的 谷歌其實已經投了上百億了 但是谷歌出來的Gemini 1.5 各方面1.5 Pro 其實還都沒達到GDP 4和Cloud 3.5 這樣的一個狀態 而中國那邊也都是再往下 第三個Tier這樣的狀態 所以說在我看來的話 谷歌它不是沒錢 谷歌它不是沒有能力 所以說這個技術目前 進入了某種意義上的瓶頸期 這使得整個社會有可能有機會 緩一口氣來面對未來人類 如何應對這個技術的問題 這個有點像我想起來 就是那個AlphaGo 就是下圍棋的那個AlphaGo 就是最開始的那個問題 因為它把人類所有下過的圍棋 都在它裡面運算了一遍 但你知道人類下過的圍棋有多少嗎 加起來不到十萬局 但是它自己跟自己左手跟右手下 一個晚上可能就可以下幾十萬局 所以它最後等於是把人類 已有的這些數據全部消化以後 對它來講很快就沒有了 它要再增長 它已經找不到新的這個數據的輸入了 它已經沒有新的經驗 所以它只能自己跟自己下 然後不斷地開始長進 但是這個就是像剛剛Jason博士說的 這個自己創造的數據 然後自己學習 在這個時候有可能會陷入 這所謂的電腦自己的信息減 然後它認為這是對的 所以它就創造出這個東西 然後自己再強化 自己再學習 很可能就形成了現在AI的一個瓶頸 這個可能是一個解釋了 就外行人來解釋 這個說法我覺得是有一定道理的 當然了就是說這個AlphaGo 它基於的核心技術 它實際上叫做強化學習 因為它畢竟不是在一個複雜的世界中 它是在一個圍棋棋盤 這樣的一個非常明確有規則的 這樣的一個系統 這樣的空間裡頭 那麼在這個空間裡頭 它可以創造出一個棋盤 它可以左右搏擊 然後練習自己 這個是可能的 但是現在人工智能走向了整個全人類 這樣的一個複雜的 沒有具體規則的這樣的一個系統 而且人類的智力 它也不像圍棋必須遵循某種規則 那麼它就是一個無限可能性的一個盤 那麼這個局的話 它創造的過程中就很可能 不能準確掌握這個空間的自然規律 人性規律各方面 那麼它就不可能創造出一個真實的人類棋盤 那麼它就有可能 不可能實現AlphaGo 那個左右搏擊增長能力的過程 它如果努力去做的過程中 很可能會 就是剛才你提到那個概念 就是說自我創造虛假信息 然後自我陷落的這樣的過程 這就是為什麼我覺得自己 有人就說了 我讓GPT-4給我生成無限多的文章 那麼讓這個文章去接著學行不行 這個有可能它就會陷入一個 自我虛構的這樣的一個世界 有可能和真實的人工只能會突破的一塊 因為這個人類世界跟棋盤還是不一樣 想像起來 這可能性疊加可能性 對我們來講太複雜了 我們還是希望它慢一點 發展的慢一點 我們這樣的大腦可以跟得上 因為這個速度發展太快 不管是任何技術 任何的行業發展快 其實人類都是擔心的 所以問一下Jason 你是屬於樂觀派呢 還是屬於悲觀派呢 就是說這個AI會不會到最後控制了人類 或者是我們人類還是自始至終 都可以把AI控制住 剛才那個李俊也提到了說 提到說有10%到20%的可能性 未來真的是毀滅人類 那我想它可能是有一定的延展性 比如說把現有的技術 再延展五六代三四代 那麼它有可能會出現自我意識 而且現在人工智能發現有一個方向 是比較危險的 就是讓一系列的人工智能的程序 每個程序扮演不同的角色 那麼在用它們的交互的過程 來實現某種工作 你比如說它構造用10個AI的agent 就是我叫代理人或者說是智能體 然後讓它們交互這個過程 然後實現一個軟件開發的全過程 這個過程目前來看的話 在現有的人工智能模型下的話 它還不那麼可怕 但是如果說將來人工智能本身 它的智力越來越高的時候 那麼在這個互相幾個agent交互的過程中 人類的可控性就稍微弱很多了 你不知道它們在交互的過程中 它們會討論出一個什麼樣的一個狀態來 為了達到某個目標 它們如果沒有一個明確的法律的準繩 或者說道德的準繩 它們會討論出什麼過程 如果這個過程討論出的東西是很糟糕的 那麼這個就讓人很擔心 我對這個方向是擔心的 再一個方向就是現在人工智能 事實上出現一個偏執 Elon Musk也提到了 就是機器人 Elon Musk自己公司也在開發這個概念 就說它事實上是把現有人工智能的很多概念 往機器人這個角度轉 歷史上的機器人它發展得很慢 主要原因是機器人學的這個東西 可學的這個數據已經很少了 而且人類跟機器人的交互也很難 那麼現在大圓模型 人工智能這些出來了以後的話 大家發現人類跟機器人發指令 讓機器人理解很多東西 這個過程變得簡單化了 而且大圓模型學習機器人學東西的過程也簡單化了 所以未來有一段時間你會看到機器人 也許大圓模型 生成型大圓模型 它的發展可能會進入某種意義上的瓶頸 但是它相應給機器人這方面 可能會帶來很大的一個突破 那麼這個突破就有可能 把人工智能未來如果有危害的話 轉到了人類世界中 從一個意識形態的危害 變成了一個物理空間的危害 這個是另外一個讓我擔心的 再有就是現在有好幾場戰爭 特別是烏克蘭戰爭 那麼人在戰爭極端的情況下 他是不考慮未來的 這個方向也會非常非常可怕 因為現在我們都知道 這全世界現在出來談的最多的 就是AI軍事化 尤其是核武器 一旦真的發了以後 這個就控制不住了 因為現在我知道美國跟歐洲 已經有默契了 他們正在跟中國和俄羅斯 試圖要談這個問題 就是一定不能把AI 用在覈武器的控制上面 就像剛剛李軍說的 如果AI突然偽裝成總統 發出核攻擊的指令 這個是太恐懼的一個前景 但Jason現在AI發展最快 大家都知道是美國和中國 美國和中共軍方 一直在談這個核武器的問題 你覺得AI有可能去控制核武器嗎 為什麼有人想去用AI去控制武器呢 你提到最終的這個狀態 就是AI對於核武器這個狀態 就目前來看的話 我想還沒有哪個神經病的國家 目前想這麼做 但是這是在一個和平的理性的狀態 未來的話 就是在我看來 就是中共它實際上是沒有很多的道德底線的 從我們知道的生物科技的各方面 它都體現出 它那邊做出來的這種東西 就超出人類的倫理道德 但是這個過程中的話 你要是在真的中共未來 就是因為某種原因 不管是南海臺灣海峽 跟整個世界變成對手的時候 那麼中共會不會因此開始考慮 把這個AI技術更多的應用於武器上 不說核武器 但是導彈各方面 這事實上是一個非常大的可能性 因為在就是你知道 這個獨裁國家經常會說一句話 就是大不了我們死幾億人 我們換來什麼什麼這樣 這就是為什麼目前AI處於 國際上處於一個兩難的狀態 一方面大家都覺得AI這個發展得控制 但是另一方面 大家又說AI這個發展不能讓中共領先了 你要是西方控制 中共發展起來怎麼辦 所以說人類其實某種意義上講 是被一些邪惡的因素裹挾著 這個以技術競爭為藉口 在把人類往一個非常危險的經濟上推 AI這個就是說 所以說我感覺就是說 在和平時間大家會說這不可能 就像剛才那個李軍說的 有很多就是鼓勵AI發展的那些技術 或者說是專家 他們其實說的話都是基於 目前這樣的一個狀態說的很多話 但是他沒有在動態的一個極端情況下 去考慮這個事情會往哪發展 所以我們其實如果回顧人類的歷史 幾乎所有的新技術 都伴隨各種各樣的擔憂 我知道最新有機器 就是蒸汽機的時候 很多英國人也擔憂 說你這是變成了羊喫人的時代 因為這個羊毛的紡織 結果就把這個農民從土地趕走了 就等等 很多很多這一類的 但人類一直不是都發展到現在 都很正常也沒問題 所以郭總編 我們現在擔心這個AI高速發展 你覺得是不是有一些過於過濾了呢 其實這個是 我認為是一個認知論的問題 在人類歷史上大型的災難很多 有些記載下來 其實有些沒有被記載下來 比如說亞特蘭蒂斯的文明 古希臘柏拉圖就記載過 非常先進的文明 然後突然崩潰了消失了 原因是什麼 其實沒有人知道 還有古印度文明到底是什麼原因 突然就中斷了 羅莫言納裡面有記載說 當今人類都當成是神話去看待這些 所以這是個認知論的問題 比如我們用這個 信徵者偏差這個邏輯來看 英國二戰的時候發現 從戰場回來的飛機 某個部位受創都特別嚴重 因此加強對這個部位 進行它的強度的改善 結果根本其實沒有作用 原因很簡單 因為別的部分被擊中的飛機 就已經掉下去了 也無從從這些失去的飛機中 獲得研究資料 大家只能從這個 倖存者這裡得到信息 這就存在一個 倖存者偏差的問題 人類的歷史記載 其實都是信徵者 或者是以勝利者寫的 所以當我們討論未來的時候 可能的大型災難 我們是把自己定位在 這個勝利者 倖存者的位置 還是定位在受害者的位置 就是他得出的結論 可能完全不一樣 如果站在全球70億人口的角度 從一個宏觀的角度去看 可能結果就完全不一樣了 就是說有很多這個精英 就是像李軍剛剛說 我能控制AI的 我希望拼命發展 這對別的人有沒有影響 有什麼很重要呢 可能是這樣的 對獨裁者可能也是 這樣的一個想法 這有關AI軍事化 和AI控制核武器 一直都是大家很擔憂 但其實還沒有這麼 直接的影響 是嗎 因為有很多人說 AI對人類的影響 其實還有更多的範圍的 就比如說失去自由等等 很多方方面面的 還有很多其他的內容是這樣嗎 確實是這樣 就是AI軍事化 尤其是用AI來控制核武器 確實是一個很明顯 最明顯令人類擔憂的問題 但實際上AI帶來的衝擊 遠遠不止在軍事化的問題 比如有兩個美國科學家 他用了一個普通電腦 他使用AI的技術 給出指令讓AI找出 可以危害全人類的 這個劇毒的化學結構 結果AI一個晚上 就找出了五萬多個 這個新的結構 這個結構把 這兩個科學家嚇壞了 我想全世界都應該 嚇壞了才對 因為誰敢保證這個技術 不被壞人使用 還有深度偽造了 deep fake 對 就深度偽造的問題 AI也可以偽造文書 偽造聲音 偽造畫面 人類過去幾千年來 都相信眼見為實 這是人類認知 和認識這個世界的一個基礎 是我們世界觀的基礎 如果未來變成眼見 未必為實的話 我們現在已經是這個樣子 看到很多東西很真實 我都想這是真的還是假的 對 所以我們應該相信什麼 那人類文明 從某個角度看 就是一種資訊流通的模式 所以人類文明的發展 就是一個資訊 流通模式的發展 從語言 文字 圖畫 最後到報紙 雜誌 這種資訊承傳了文化 也塑造了後面 它接下來後面的文明 但現在AI的發展 其實已經衝擊到了 資訊的創造 和這個傳播的模式 這對人類文明的方式 將是有個巨大的衝擊 有人預計 按照現在的這個速度發展 20年之後 AI技術可以取代 大部分的人的工作 那也就是說 20年之後 大部分人都沒有工作做了 或者是不需要工作了 那這種所謂的進步 是不是太快了 我們真的能夠 適應這個變化嗎 對人類現存的社會結構 經濟結構 會造成一個 什麼樣的衝擊呢 其實沒有人知道 那這就是很多 人工智能專家 呼籲降低 AI發展速度的一個原因 因為人類需要調整 和適應未來的這種危機 這是肯定的 只是誰也不知道 它走向 它的後面的走向而已 其實我們還是沒有 這個具體的結論 危機是肯定在前面 但是我們怎麼樣面對 會是什麼樣的衝擊 真的是沒有人 能夠非常清楚 希望能夠走得慢一點 好 那今天我們時間有限 我們就討論到這裡 非常感謝三位專家 也謝謝各位的收看 我們下次節目時間再見