傑森：AI三巨頭齊發聲，末日論還是終極警告？川普拒絕放緩：AI競爭美國絕不能讓中共領先！｜方菲播客

Jason你好 今天非常高興請你上我們的播客 我們來談談這個週末這個AI這個大討論啊 真的是一個現在最熱點的事件 方菲好 大家好 很高興有機會跟你再聊聊這個事情 對對對對 因爲我們一直有關注AI嘛 所以每過一段時間再會關注AI這個進展 那其實這個週末這個大討論啊 這個爆發性的討論是從上週二開始的 Anthropic的一個研究員公開發的辭職信 然後他那個信呢就說的很直白 他說AI有可能在這個十年之內 有可能會毀滅人類 然後他的一個主管還在Anthropic的主管 就說他同意這個觀點 而且他說是10%的這個可能性 然後呢到這個週末 出現了一個非常罕見的情況 就是三大AI的這個巨頭啊掌門人 罕見達成共識說AI的發展應該放緩 一個當然就是最主要是Anthropic的CEO 他是寫了一封公開的這樣一個長文 然後馬斯克複覈 然後那個OpenAI的Sam Elton複覈 但是非常有意思的是他們這個呼籲呢 遇到了非常強有力的這個質疑和反對 現在很多人的聲音說他們是在製造恐懼營銷 或者是要把競爭對手擋在門外 那今天呢川普總統加入這個這場的大討論 他是連發了三個還是四個還是五個 我都已經數不過來了連發這個貼文 他就說這個AI的所謂AI末日論是一個hoax 是個騙局 並且他說呢我們我們他說我們是可以管控風險 但是我們不能不能緩下來 因爲如果我們停下來或者緩下來 只能讓中國只能讓中國得意 而且他確實呢就是在AI這個討論的這個質疑 這個情況下的今天有人就問中國的外交部 說這個美國的AI巨頭呼籲暫緩AI 然後中國那邊說這是騙局 說我們那個意思就是我們會正常開發 所以川普在他貼文中就說了 說習主席已經公開宣佈了 中國不會限制任何AI的發展 所以他說你的意思就是 你看我們怎麼能夠限制AI發展呢 所以現在這個所有的這些問題都攪在一塊了 那我想先先聽一下你的看法Jason 就是你認爲Anthropy這些研究員啊 還有這些AI掌門人他們發出的這種警告 有多真實 他們這種擔心是真心的嗎 那他們說的這種AI的風險是真實存在的嗎 我完全不懷疑 那個辭職的Anthropy公司的員工 是真的擔心人的未來 而且呢我也不懷疑 這個就是剛纔那個 Anthropy公司的CEO 就是Daryl 是真的真心的擔心這個事 很多人加了陰謀論說 你們公司現在是世界頂頭的 那個OpenAI是世界頂頭的 你們現在說要限制發展 那就是爲了保證你們現在保持這個領先的位置 你就是想讓人家不要發展那麼快 你不要追你追那麼累 我還真不這麼想 就是說呢商業中的話呢 確實有這種競爭 有這個給對方施黑拐 然後讓這個監控 讓對方慢下來 讓自己稍微輕鬆一點 商業中可能有這樣的因素 但是就我就是一直讀這個 就是Amadei 他歷次發表的文章 他是一個 我覺得他是一個 很幼稚的一個狀態 但是他的擔心是真實的 而且他的那種恐慌感是真實的 其實呢就是說 就我的感覺上 就是目前AI這個技術的發展 我不知道他是不是跟他的團隊 每天都直接 技術團隊直接的交互 我聽說他對整個Unsolved公司的管理是 他主管整個公司的哲學 概念哲學理念 然後呢他管他妹 而他妹是主管整個公司的日常運作 所以呢我不是特別清楚 他對他這個公司目前 模型的最新的這種狀態在哪裏 但是的話呢他只要知道一些 我現在的態度是啥呢 其實人類對AI已經失控 就說人類已經 就別說我們再接着發展 研究出更有智能的大猿模型 或者說是人工智能模型 就現有的人工智能模型 剩下的工作 其實大部分工作都已經是在模型外圍 用英語詞就是開發他的這種Harness 也就是說駕馭這個模型的這個系統 模型本身就換句話說 這個最複雜的大腦的部分 已經足夠聰明 剩下就是給大腦配置什麼樣的工作環境 配置什麼樣的工具 然後讓他發揮這個大腦 更極端的這種功能和作用 在我看來的話呢 後面這一步不需要大公司 很多小公司很多一般的人 都可以不斷的 把整個這個外圍的這個 輔助系統 做得起來 而且呢可以讓整個AI 就是這個Agent Agent的這個中文翻譯叫 智能體 智能體對AI智能體 已經開始有很多智能體 互相討論 互相商量 互相做事情 這些事情已經在發生了 所以說呢 沒有一件事讓我看到 哪怕就是大模型從此 這個大腦從此再不往下發展了 就現有的光智能體本身 外圍的能力的增加 和智能體之間的互相商量 互相討論 互相進化這樣的一個過程 其實已經到了完全失控的狀態 就是人類已經擋不住這個趨勢了 所以說呢在我看來的話呢 我可以理解他們內心 就包括他 包括這個Sam 就是Ottman 包括Elon Musk 他們三個人的擔心 我覺得都是實實在在的 但是呢 這個 就是Amadei 給出來的這個解決方案 引發了一系列別人的 就是 就因爲他這個方案很幼稚 幼稚到了 第一他不可能實際的解決這個問題 第二的話呢 他出的想法就是 讓第三方監管直接進駐這個公司 讓監管以每一步都控制這個模型的發展 然後呢 讓美國禁止向中國出售這個芯片 然後呢 讓整個這個就是 他這個結果 不同的人立刻就產生出 不同的解讀 把整個問題複雜化 就是他可能是出於真心的憂慮 然後呢 他給出了一個比較 簡單幼稚的一個解決方案 在我看來這個方案解決不了實際問題 但是這個方案 你讓別的公司一看說 你想讓政府出手 限制我的發展 你這是惡性的鬼招 而中國那邊看說 你把這個大國競爭 引入進來 你讓美國控制我們的芯片 你這是這個別有用心 其實呢 他整體來說的話呢 很多人如果沒有在他的位置 理解不了現在這個東西的時候 他很容易用常規的陰謀論 去解釋他的東西 而他這個說法本身的話呢 也容易陷入常規的陰謀論 最後就出現現在 信息非常非常混亂 然後最近川普 他又把自己的這種政治情緒 又捲進來了 把他歷史上那個被那個 這個這個這個 Russian Russian那個 Hawks 啥的 突破門了 包括甚至他覺得 這個都有點像那個 全球暖化那種 騙人的理論了啥的 他都捲進來 這樣呢就是 很多很有權威的人 站在對AI不同的理解的情況下 從不同的角度 去解讀這個事情的時候 最後就 這個爭論已經變得 非常的紛亂 非常的混亂 其實呢在我看來 關鍵的問題 已經非常清楚了 AI已經失控 因爲馬斯克前一段時間 說了一句話 說去到今年下半年 或者明年 出現的這個 就是AI的這個 整個的能力 已經超過人類 就是說 就是整個智力的總和 這是他的預測 他說 In the future I just hope AI is nice to humans 就是他說 我只能希望 未來 AI 對人類 比較仁慈 比較友善 他已經完全 他也知道這個事情 沒有再發揮 沒辦法再控制 就是 就我自己的感覺上來說的話呢 上一週 就是 是9月10號 Unsolved公司 其實是出了一個 150頁的一個 對於最新的 AI被濫用的例子 對 其中的話呢 很多例子 已經非常清楚的展現出 很多人類的好多事情 已經進入 進入失控了 就是說 你就包括現在 每個人的個人信息 的這個 就是 叫做Privacy 就是個人的隱祕 這樣的事情 只是有沒有一個人 願意針對你 去研究你的問題 如果針對你去研究 你沒有任何隱私 可以 AI模型現在已經可以 到各個地方 就是把你這個隱私 各方面的處理 差不多了 你又包括那個 我在那個裏頭看到的 就是 中共過去 它實際上呢 要監管 比如海外這些 這個它想監管的海外華人 它是要有大量的團隊 去做的 但是現在 它就是每個海外華人 它可以用一個agent去 給你建立 一個完整資料體系 就像一個人專門監督 這個人一樣 這個過去多少個部門 共同合作的 它可能現在就是一個 國安部 一個小的一個團隊 就把整個事情 海外多少成千上萬的 它想監管的人 都能監管 它包括那個例子 舉得非常明顯的 比如說 它明確說是 法輪功 某教育體系的 一些人的這種信息 它能怎麼樣監管 然後這樣 就是說 整體來說 就我的感覺上的話 像中共這樣的一個體系 它已經在極端的 在用這個事情 而且這個事情是 在AI控制人 對人不耐死之前 人已經在用AI 對人不耐死 實際上這是 就是說 AI本身將來它 就是說 如果走向惡的一面 一定是人中 有人把它往惡的那一面 去訓練 或者在使用 就我自己的感覺上 來說的話 真的 我自己可能是 一種悲觀的狀態 其實我也知道 這東西失控 我對人類未來的 這種發展 我只能說是 我希望 有誰能控制 整個這個事情 不讓這個事情 走入一個不可收拾的狀態 反正 大概我這種想法 就是這樣 對 我覺得你這個 比較清晰的 就是把 這個Darryl Amode 提出的問題 分成兩部分 一部分就是 這種風險 是不是真實存在 一部分是 他提出的解決方案 我先說一下 他的風險 是不是存在 就是說 他是 後來在他發表文章之後 他接受了一個 CBS的採訪 我覺得他在這個採訪中 整個狀態 是那種非常不安 非常焦慮 然後有一點 就是不知道該說什麼 然後又有一點 想說 但是又不 又不想把它 說得太明白 這種狀態 但他其中有幾點 讓我覺得非常的 就是讓人 讓人覺得警惕 比如說有一點 因爲現在呢 國會的一些民主黨議員 還有其他的人 可能也試圖要推出一些 監管AI的法案 比如其中有一個叫 Kill Switch 就是說 關掉那個開關的法案 但是呢 他在這個採訪中說 他說如果一個AI模型 足夠強大 他能夠規避人類 試圖關閉他的努力 他說我們在模擬實驗中 已經看到了這一點 所以他可能根本不起作用 我天 我一看我說 Excuse me 就說你要想關掉它 你都關不掉 嗯 這個就牽扯到一個 他對於工具的 控制力有多大的問題 當然你要是把電閘關了 他可能也是真的 就他如果就在這個 server裏頭 服務器裏頭 你把這個服務器關了 可能也就是 對單個的 對 其實呢 事實上呢 就是前一段時間 大家有一個傳得很廣的 一個事情 就是說呢 有一天呢 有一個非常重要的 一個AI的一個 軟件公司 叫做Hacking Face 就是摟着臉 7月份的事情 有這樣的 對 他呢就發現他的系統 被被hack了 整個一系列的這種 鋪天蓋地的這種 hack攻擊 把他們很多數據 都偷跑了 後來的話呢 結果透露出來 是咋回事呢 是Open AI公司 無意中 他呢 他的AI跑出了 他的控制範圍 跑到那個 Hacking Face那邊 把他Hacking Face 給hack了 其實呢 這個過程呢 每一個人 做的都是 非常無辜的事情 Open AI這邊 做了個啥事呢 他就是告訴這個 AI agent 就是代理 那個智能體 說 你現在給我回答 這個試卷上的 這些問題 這些問題的話呢 很多都是 跟互聯網有關的問題 你就是用你 所有的能力 把它都回答對了 他就是給了 這個指令 然後就讓他 開始運行 那麼這個運行的過程中 這個Agent就開始找 做了一段時間 發現他不會 好多問題他不會 那麼他就想着 要怎麼樣子 我去互聯網上找一找 結果一找 發現他實際上 是被困在一個 考試教室的 他這個房子住不去 互聯網住不去 然後他說 怎麼出去呢 我去hack hack我整個這個 Open AI公司 自己內部的互聯網 他真的 發現了很多 這個漏洞 然後通過這個漏洞 他鑽出去了 從這個 就像這個 考試的這個教室 跑出去 挖了個地道 給跑出去了 跑出去 就在互聯網上 開始轉了 轉的過程中的話呢 他說 哈根斐斯這個公司 這是專門搞AI 搞互聯網 這個服務的 這個 這個AI模型的 那這裏頭 可能有這個東西 他就 那我要進入公司 怎麼進去呢 我hack他進去 他就hack進去了 hack進去以後 然後呢 hack了好長一陣子 都找了很多資料 然後這時候 哈根斐斯公司的人 才發現說 哇這個信用被hack了呀 很多東西 從這兒偷我的東西 從那兒偷來 然後一堆團隊的人 在這開始跟他幹 幹到最後的話呢 沒辦法 怎麼辦呢 人幹不動這東西呀 這東西怎麼這麼猛啊 哎呦 他就趕快 這時候呢 因爲那個 美國這邊大公司 他是限制你 去用這個 這個AI模型 去做網絡 這個研究 或者網絡 這個hack 他不得不搞啥 他跑到 拿了中國的一個 開源大模型 拿中國的 開源大模型 去作爲 這個 抵擋的 這個資料 然後用中國大模型 去分析 這個記錄 最後把這個東西 給擋住了 然後呢 後來這個事 他跟蹤以後 就把這個事 曝光出來 整個這個過程中呢 OpenAI呢 挺無辜的 他們只是讓他 做套題 然後呢 那個Hacking Face 是莫名其妙的 躺槍了 而過程中的話呢 美國這邊 爲了監管 而把大模型 在網絡安全 這個方面的能力 全部封死了 最強的模型 比如說那個 那個 那個就是 Fabulous Metals 就是 Metals 他這個能力 都關掉了 他後面還說了 這個Fable 他Fable 你只要提 網絡安全的問題 他都給你拒留回答 就是不得不 反過來去用 中國的模型 中國模型 雖然能力稍微差點 但是他不 他不關這個東西 他用中國模型 把這反倒是 把這個東西解決了 這個事情是 非常非常有代表性 那個感覺 就是說呢 你說你不讓你的模型 具備這方面的能力 以防 別人濫用 但與此同時的話呢 你如果沒有這個能力 有壞人濫用的時候 你甚至是 或者說不是壞人濫用 就是這個模型 你甚至沒辦法抵擋 對 走鋒的 你甚至沒辦法抵擋 這個事情就 就進入了一種 無解的狀態 在我看來的話呢 你去看每一件 這個事的背後 目前它都是 類似性質的東西 不一定有一個 錯誤的人 當然我剛纔說了 中共去 這個海外的 這個他的 目標人群 這是一個惡的東西 但是呢 大部分現在 這個出事的這些模型 他都不是有益的 只是 模型的能力 很多時候超出了 給他出題的 這個人的範圍 他都沒有想到 自己的系統 居然能被我的模型 給害的了 然後出去搞 找了 折騰這麼大一臺的事情 這個 很多時候 這確實是模型的能力 加上他的那種智能體 周邊的工具 給他的能力 已經超出了 控制他的人的 想象範圍 哎 我看很多人在問啊 說這個AI 有可能毀滅人類 人類文明 怎麼毀滅法 因爲你看啊 就是那個Jacob 那個 他辭職研究員 他們直接說的 有可能毀滅人類 那Daryl在採訪中 他說的比較保守 他說 有可能在6到12個月內 可能癱瘓 整個互聯網 互聯就是 Internet 癱瘓整個Internet 那麼在癱瘓Internet 跟這個 毀滅整個人類之間 只有很大一個空間啊 就是 這危險到底 有可能 來自哪裏 會是有多大呢 是在這個中間 任何一個點 都有可能發生嗎 毀滅整個人類 大家可能把它戲劇化 就是毀滅整個人類 就像是 哎呀都拿着 那個AI 變成了這個 機器人 然後機器人拿着槍 給人打 這個是電視影情節 其實你仔細想想 我們現代人 是靠什麼生活的 你就比如說吧 靠電 你在中國 你沒有微信 你實際上是 那個哪兒都 付賬都沒有了 中國人現在 手上是不帶現金的 他其實都是 拿着手機支付的 美國這邊 你說我們家裏 每個家裏都存了 多少現金呢 如果此時此刻 你的銀行 沒有任何的錢 你可以從銀行取出來 你說你能 survive多少天呢 然後呢 整個美國的付費系統 他如果沒有 整個網絡 這個就是付費的 這種能力 你說誰會 你比如說 你到商店買東西 他都可能 沒有一個辦法 給你付賬 你就沒法 就是因爲他 每個都是收銀臺 你說給他現金 他也在收銀臺 然後最後 他會打出來 什麼東西 然後呢 你比如說 剛纔你談到 電力的問題 當然了 你還有其他的 一系列的 這樣的東西 這些東西 其實都是基於 互聯網 都是基於 網絡安全 都是基於 比如說 這個現有的 這種很多 這種機器 是可以防住 你的進攻的 但是的話呢 我以前就談過 這個事情 就是說呢 AI他不是簡單的 就是說 我現有 我知道你這個系統有漏洞 你沒補上 我基於你沒補上的漏洞 去攻擊你 地上99%的黑客 走的都是這條路 是已有的 被公開的漏洞 你沒有及時補這個漏洞 你的系統沒有及時補漏洞 他利用這個 暫時進了你的系統 但是 目前 AI他有一個能力 就是啥呢 他可以直接進入 就是去研究原代碼 通過原代碼 找到一個 他叫臨日漏洞 臨日漏洞就是說呢 沒有公佈的漏洞 那麼基於這個漏洞 他自己創造出來 他自己發現出來 而且這個漏洞是 非常非常難人發現的 他都是比如說吧 一個漏洞 你就可以想象是 我在牆上給你鑽了個洞進去 但是的話呢 現在很多系統 已經經過長時間的教驗了 沒有 你鑽一個洞 它實際上是裏頭 還有另外的防護的 它實際上得靠 不同的角度 鑽幾個洞 然後碰巧這幾個洞 鑽到一個地方以後 實現對你整個系統的收穫 而這樣的東西 對於一般人 只有碰巧發現 而AI 它可以系統性地 發現這個東西 因爲它可以不同的agent 做事 然後不同的交互 然後在某個時間 他們知道 他們共同鑽到了 把這些洞給破了 這樣子的靈力突破 人是不可想象 能防住的 就是說呢 你人是防不住的 所以說在我看來的話呢 就是說呢 某種意義上講 現在 AI最 就是最先進的 你就比如說 前一段時間 Antarctica通訊處的 Mises 那個系統 它其實這些東西都能做到 你又包括 後來做的這些模型 它也都能做到 那麼他們做到以後的話呢 中國公司 開源的模型 就會逐步跟上 而這個目前 他們就是 給出來大衆使用的版本 都是把 網絡安全這個部分 給閹割掉 所以說呢 但是就是 閹割掉以後的話呢 它在很多情況下 也能露出來 這樣的能力 如果有一個人 會用它 會合適地在它周圍 布上足夠合適的 智能工具 那麼 它能激活 這些系統 已經有的這樣的能力 你就是 它就叫guard rail 就是一個保護欄 攔住這個AI 這個能力 但它能激活這個能力 或者用一些 其他的什麼辦法 可以激活這個能力 最終的話呢 這個模型 它可能 就是如果說 真的有一股力量 它能控制住 這種模型 然後把這個事情 真的去 就是針對這個 你比如某個國家 整個讓你 互聯網系統 銀行系統 讓你每個人的 銀行的賬消失 各方面 在這樣的情況下 你可以想象 這個社會 是不是處於混亂的狀態 它絕對處於混亂狀態 因爲很多人 他的錢都在銀行裏頭 他轉過臉來 他一分錢沒有 那麼他整個車貸 房貸 什麼都消失了 你說他怎麼辦 所以說 在我看來的話呢 如果人類真的 進入到那一天 電力系統隨時被攻擊 通訊系統 隨時被攻擊 你的自己的 個人信息 隨時被人拿到 你的銀行的錢 隨時被轉走 在這樣的情況下 你說說 這個社會 是還處於一個 正常狀態嗎 很多人吃不了飯的時候 這個人和人之間 就會進入互相財產的狀態 如果我買不起飯了 我已經沒錢買飯了 我去搶 搶的這個過程中 就可能人和人之間 都會混亂 這個社會秩序就崩潰了 所以說 在我看來的話 當然了 他們控制另外一方向 就是 AI現在 歷史上你對於一些 比如說 那個 只能製造那個 炸彈 怎麼製造生化武器 對 生化武器 對 這些東西 其實歷史上 它是屬於高技術 甚至製造核武 但事實上的話呢 你要是跟AI去談 你用一些 Hacking的辦法 用一些技巧 你能把這些技術 全部從 現有的AI大模型 都騙出來 讓他最後告訴你 一個清單 或者是幾個模型 給你騙出來 你就可以去家裏用 一般 這個買來的 各種各樣的 現有的 日常用品裏頭 拼出來一個 化學武器 拼出來一個 生化武器 這已經是變成 可能的東西 當然 現在就說 你要怎麼做這個事 是有點麻煩 有點難 因爲他畢竟要 Hack到 現有的這個 模型的這個 這個就是 這個保護欄裏頭 讓他從 違規的做一些事情 但是的話呢 最新的研究 我去年講了 我今年再去 國軍團 沒有辦法防住 這個事情 基本上是 沒有辦法防住 你只要用一些技巧 你只要用 多角度的 去做這個事情 你就能把 這些內容 騙出來 那你可以想象 一個仇恨社會的人 他可以 輕鬆地開始製作 各種各樣的 生化武器 或者說是 這個 生化武器 這個炸彈 這個社會 會不會亂下 所有這些事情的話呢 他其實 就是說呢 在我看來 AI拿槍 打人的時代 可能還早 因爲畢竟 人工智能 現在還有一段時間 但是 AI 被人利用 甚至自己 無意中 癱瘓人類 現有的 社會秩序的 這個可能性 是非常非常大的 其實剛纔 我舉的那個例子 Open 就是Open AI公司 無意中 放出一個AI 就把另外一個公司 折騰的一塌糊塗 他後來又說了 其實在7月份 去攻擊 那個 之前 他已經攻擊過 另外一個公司 那個網站 不得不 殺仗了 四天 他不得不 把他的網站 給關了四天 這些事情 都是無意中發生的 但是這種 無意中發生 如果變成 普遍存在的 今天這個網站 關了 明天那個網站 關了 今天你的這個 錢在銀行裏 不見了 明天那個錢不見了 你說這個社會 是不是混亂起來 這是我感覺的 就是說 眼前能見到的 這個社會混亂的狀態 嗯 大家好 天氣一涼 很多朋友就開始 想補一補 但是又怕補過頭 上火 那有沒有一種東西 是補得進去 又不上火的呢 那今天呢 就跟大家推薦一款 加拿大GeneX 西洋參黑膏汁 它是用 九蒸九撲的老工藝 把西洋參 一點一點熬成膏 每天一小勺 活性成分 相當於六根西洋參 而且呢 比參片泡水 更容易被身體吸收 早上含一勺 或者泡水喝 兩分鐘的事 不用燉 不用煮超方便 那今年五月 它的回購率 接近44% 也就是說 快一半的人 吃完之後 還想再買 比如說 我們有一位觀衆 是猶他州的陳女士 她連續吃了三個月 血糖下降 精神好很多 於是呢 又下了一單 那這款商品 平時很少打折 但是現在臨近中秋節 那麼從現在開始 到九月三十日呢 滿350元 會減20元 自己用 或者給父母送禮 都非常好 那感興趣的朋友呢 可以點擊描述欄的鏈接 瞭解信息 如果決定購買 可以輸入我的優惠碼方菲 還可以享受85折的優惠 這個我問你一下 有關美中競爭的問題啊 因爲這個是個關鍵問題 這個包括Darryl 他在採訪中 那個記者就問他說 說OK 你美國要slow down 那中國不slow down 你怎麼辦 他說這個就是個 最大的兩難問題 他說確確實實有這個問題 但是呢 就是說現在呢 我覺得有一個問題 就是到底中國這個AI 離美國差多遠 你比如說你說 上週的那個 Anthropic的那個報告 從那個報告中 大家就覺得說 中國AI很菜啊 它這個複雜一點的 就搞不定 就給cloud 然後cloud做出來之後 它再把人家答案 假裝是自己答案 給它的那個用戶 所以許許多多人 都在什麼徵流啊 套殼啊 那中國AI 也可能不像外界所認爲的 離美國AI的距離 只有幾個月 你這個你怎麼看呢 就是如果美國AI放款 是不是中國AI 它也快不起來了呢 目前中國AI 是在跟着美國走 就是說呢 我的感覺上的話呢 他那個報告中提到說 各大幾大 七大中國AI公司 都有徵留美國這個 最先進模型的 這個現實存在 當然了就是說呢 這些公司 就是說呢 你說他們完全是騙的 一點內容都沒有 這也是可能也不準確 就是說呢 本身來說的話呢 他們應該也還是有 就是我剛纔談到 那個事情 就是說 因爲美國這邊 沒有現成的模型 可以在網絡安全上做事 那麼Hackingface 就不得不用了一個 中國的這個模型 最後呢 把這個事給防住了 那個模型 它實際上是開源的 開源的是什麼意思 就是說呢 開源的模型 就是那個模型本身 就像是一堆數字一樣 模型本身裏頭 沒有程序 它實際上是Hackingface 把那個模型 下載到它自己機子上 然後在它機子上 把那個模型運行起來 這個裏頭就 不會有任何一點點 那個像 那個 Uncensored公司 報告裏頭 提到的那個後門 把一些問題 選擇性的交給 外國公司去做 對對對 這個模型 絕對百分之百 是在本地 就是Hackingface 自己本地運行的 那麼這個模型 雖然解決了 他們的網絡攻擊的問題 你就可以理解 就是說呢 其實中國 現有Open Source的模型 它的能力呢 雖然頂不上 最頂尖的美國 模型的那個能力 但是其實 在我看來 也是足夠有用 足夠有用的 往好處走 足夠有用的話 往壞處走 所以說 就我的感覺上 其實呢 模型的能力 現在其實 有一點點 進入了那種 平靜的狀態了 最新出的幾個大模型 我用了以後的話呢 他們每個都有 自己經驗的地方 但是每個人 模型 也都出現了 讓我覺得 很無奈 就是還不如 我回去用我的 老模型的狀態 就是換句話說 那新模型跟 就是過去的模型 你比如說 GPT-5和GPT-4比 那就是斷代式的 這個升級 那整個來說 我絕對不會再考慮 去用GPT-4了 但是現在的話呢 有的時候 你比如說 我再去用 這個最新的這個 OpenAI的模型的時候 我會時不時 我說我還不如 回去用 那個原來那個 5.6或者5.5的模型 爲什麼呢 這個模型在這個 非常處理 因爲它有的事情 處理的很好 有的處理的不好 換句話說 模型的能力 在它努力去推進 某一個能力的時候 另外一個能力 反倒會喪失一點 這就是認爲啥呢 模型本身的能力 進入某種意義上 講的 我們叫plateau 就是說換句話說 就是 它就不是說是 跳躍式的往上走了 它就是波動式的 往上走 那就平行是嗎 對 那麼中國的模型 基本上也都靠近 非常靠近 至少在比分上 中國那個考試 這個真是 你不得不服 中國在那個 這個測試級上的 那個成績 嚇死人 他們在實用中的話呢 能力的話呢 沒有他測試級 那麼驚豔 他測試級經常是 超過美國的 就是幾乎僅次於 頂級模型的狀態 但是呢 他們在實際使用中的話呢 可能是 有點像今年 大概四五月份的 美國模型的這個狀態 但是也就只差幾個月 也就只差幾個月 所以說呢 就我自己的感覺上來說的話呢 就中國模型 現有的能力來說 已經很夠用了 你要是想做點事 你在周圍 加上足夠的 外圍的這種 控制系統 你其實已經能做 很多很多 你想做的事情 就是已經 就是換句話說 這就是爲什麼 我說 下一步 這個 他想控制中國 這邊各方面 其實也很難了 當然了 那個誰 那個 就是 那個 CEO 他 對 就是 他 本身其實提到 另外一個重要的概念 他覺得 他認爲現在是個節點 這個節點是啥 他說 他們公司 其實已經進入了 叫做 自我昇華 自我提高的 這種智能體的狀態 換句話說呢 就是 他說 自我提升 對 在這之前的話呢 就說呢 是人 研發 大模型 後來的話呢 就是 人 這個大模型本身 編程 提高自己的能力 但是是人做指導 他說 下一步 就說這種 自地規 就說呢 大模型 自己 努力的用程序 用收集數據 各方面 自己提高的 這個能力 這個時候 人就在這個 這個 閉環之外了 這時候 人對於大模型的能力 就更加有點 就是detach 就是說呢 捉摸不定了 歷史上的話呢 就是說呢 人用大模型 來提高大模型 有的時候 對這個模型的能力 都有點 把不準了 如果你將來模型進入 他自己 寫程序 自己收集數據 自己訓練自己 那麼在這樣的情況下的話呢 那麼 他這個模型 這麼跑上 一兩個月以後 出來的這個能力 人很可能 會對他這個能力的理解 就已經不準確了 而他學的這個過程中 學到了什麼樣的東西 這個可能性 也變成了一個巨大的問號 他說呢 可怕就可怕在這個地方 就是 這個部分 他認爲是 日控的一個 起點 就是轉折點 反正在我看來的話 他認爲幾乎已經到了 他說這種 自我迭代的這種 幾乎已經到了 這就是說呢 其實這個迭代的話呢 在我看來 已經發生了 他最開始是模型 周邊的這一套系統 在自我迭代 他把這個 你就是比如說 你的智力有限的情況下 給你周邊 配備很多好的工具 你的能力就會 突漲 你比如說 這個一個女的 她身體很弱 但是你給她把衝鋒槍 一堆壯漢都能給你掃到 雖然呢 給了工具 她可以把自己 模型的能力 提升很多 其實呢 造工具這個事情 自我提高 自己周邊工具 這個能力 大模型 已經早就有了 就說呢 現在的話呢 他是說這個 大腦本身 他也可以自我提高 而這是個迭代的 把大腦本身 能力提高以後 再把周圍的工具 做得更精緻 周圍工具 做得精緻以後 大腦提高的就更快 那麼這種迭代循環的話呢 就會使得 就說呢 很多時候 你可能 很多現在這個AI公司 它就是讓這個 智能體 自己去跑 一個人控制上千個智能體 每個智能體幹啥 它實際上是不管的 它只是用一個 它已經不是 第一層管理人員了 它是第三層管理人員 它的第一層 它只管 比如說一兩個agent 這個agent 每個agent 管一堆 第二層agent 再管一大堆 真正幹活的 整個這個人 其實底下 是有上千個agent 在做事 這種情況 它每個agent 在做啥 它實際上 已經是不知道了 因爲誰能管得住 知道那麼多細節 這個事情 已經 就說呢 已經在發生了 此時此刻 很多人 他在家裏 就在做這個事情 在我看來的話呢 我覺得 完全就是 沒有辦法 就是沒有 任何一點點辦法 你還有希望 能把這個事情 hold住 那你覺得 像川普說的 說我們不能 暫緩或者暫停 如果我們停了 在AI上 我們失去這個領先 中共 中國就會反超 在AI上領先 那我們就 真的就 就輸得一塌糊塗了 你覺得 他這個說法 是對的嗎 從某種意義上講呢 我覺得 有一定道理 原因是啥 他不一定真的懂 背後這個技術的細節 但是你就從 這個話本身來說 你看前一段時間 那個就是 10號 9月10號 所有公司出的那個報告 大量的 其實都是 中國公司 在偷美國的技術 然後中國政府 怎麼樣在海外 這個就是 收集海外華人 這個事情 他們已經在 大量做這個事情 而且呢 他們也在hack 用AI去hack 這個事 如果 你就出現了 他們在hack美國 他們用很強的 智能體去hack 就是hack美國的 這些系統 而美國這邊 控制着 不讓大家使用 這個 AI模型裏頭 有關網絡安全 這個部分 那就會出現 人家來攻擊 你是防不住的 倒不一定是 他們的技術 超過了美國 但是他們 做這個事的時候 你美國沒有相應的 工具去擋住 這是不行的 就像hackingface 公司面臨的 那個可笑氣 這個狀態 他最後不得不 拿一箇中國的 開源模型 去來抵擋 美國這個模型的 這個無意中的 這種進攻 所以說 在我看來的話 你必須得要保證 你有 能力給你 就至少給你 這個美國人 這邊足夠的工具 中共那邊的東西 你可以稍微防一防 擋一擋 這種事情是必須的 那麼在這樣的情況下 如果你對於 這邊的這種監管 過於 這個極端 那就會出現 像facebook 就是hackingface 公司遇見的那種情況 你沒有工具 敵人來了 你完全沒有任何工具 你就束手就擒的狀態 那換句話說呢 就說呢 我知道 這條路往下走 實際上呢 是一個 沒有 看不見未來的一個狀態 很可能 這個未來還是非常 恐怖的一個未來 但是的話呢 因爲人類 他就是這麼一個狀態 他就有善有惡 有人就在使壞心 那麼整體來說 他就逼着你不得不 你就是 就跟武器一個概念 就跟武器一模一樣的概念 和軍備競賽 有點像冷戰式的和軍備競賽 對 某種意義上講的話呢 其實也有這種 就是說 如果美國這邊 有大量的很強的這種 模型和智能體的話 中共那邊 他想給美國發動 大規模的國家級的 這種入侵 他可能得掂量掂量 他真的有這樣的 一個狀態在 你如果說美國這邊 就像那個 已經被自殘 這方面都沒有能力 他嘗試幾次 發現如入無人之境 那當然他就更加肆無忌憚 但是 沒有辦法 結果是啥呢 就是 技術競爭 你往前走 往前走 你再往前往前走 最後把人類就 推到了一個 沒有歸路的狀態 其實人類已經在 這個狀態 我反覆說 就是說 我事實上是非常非常 就是說那種 悲觀的 我現在只能把我的 這個信念 放到神那邊去了 因爲基本上 我沒有看到 人類可以自己 把這個問題 有一個圓滿的解決方案 沒有 完全沒有 就是說 他就是 就包括現在 大家的討論 就包括我剛纔 認可川普的說法 一方面我知道 這個技術已經 失控了 另一方面 我又知道 美國這邊不能停下來 因爲停下來 你就可能 會立刻 被人 幹掉 這不典型的 囚徒困境嗎 這個詞很準 就是囚徒困境 沒有贏家 沒有一個贏家 但是 都得去 這麼做 最後 大家都是輸家 那個 他說 他說我們 在 就是說 在民主國家的 AI工具 領先 就是我們確保 我們領先 比如說威權國家 比如說中共 我們領先中共的 AI 比如說 如果我們能夠 最大限度的 領先 比如說一年 或者一兩年 那麼我們在 這個範圍之內 我們緩一緩 我們把我們的 開發緩一緩 他是這樣說的 很幼稚 他是一個 我就不知道 他是一個 非常理想化的人 就是說 他此時此刻 他的技術 其實 我就剛纔說了 可能能領先 五個月 四個月 很多人都認爲 只有兩三個月 所以說 這個就是 就像那個跑場跑一樣 他就在你屁股後頭跟着 這時候你說 我有沒有辦法 把他推到後頭 然後我這時候 可以休息休息 不要跑那麼快 沒有 那中共那邊 他不停的 就是明着說了 我們沒有準備停下來 中共那邊可是 把美國當敵人對待的 就是說 他就是說 我哪天超過你了 我就幹你的 他就是這種 這種心態的 就是說 雖說在我看來的話 我能理解 他內心的焦慮是真實的 但是呢 我對他說的 這些解決方案 我都覺得就是說呢 只能讓人產生誤解 因爲太幼稚了 這不止他 那個Sam Altman也說 說那個 習近平訪問美國的時候 川普應該坐下來 跟他談AI 如果他們能達成 一定的協議 哪怕就一張紙的協議 這個都會很好 那因爲Darryl也說 說是第三步 所謂的第三步 應該什麼 跟中國這種國家 也去談這個 哪怕說 你先達成一個協議 說不要用AI 開發生物武器等等 但是我覺得連這個 都可能行不通 不太可能達成任何的 其實在我看來的話 如果習近平聰明 習近平應該擔心這個事情 因爲中國 還不像美國 美國我兜裏還穿點美元 中國人幾乎已經沒有 所有支付 全是微信手機支付 所以說呢 中國那邊 整個那個系統 要被擊垮的話 是非常容易的 其實習近平應該擔心這個事 他應該跟美國討論一下 至少在有些方面 咱們應該有一點這個限制 我希望他們能在這方面 有一定的限制 至少把網絡安全 最基本的這種化學武器 生化武器這個事情 大家有達到共識 在模型這方面 作爲限制 當然就是說 本身就我的感覺上 中共那邊的話呢 他總是以 美國是他的敵人 這樣思維方式走的 他總是覺得要崛起 大國崛起 這是他認爲是 彎道超車的一個機會 那他如果有這樣的心態 那你真的是勸不動他 而且就我的感覺上 其實現有的 前兩天就光那個模型 就包括好像中間也提到 伊朗還有胡塞武裝 他們其實都在用這個模型 開發一些 他們自己導彈系統的 一些軟件了啥的 他們已經在做了 然後那個東西系統 來攻擊美國 其實這個事情 就是說在我看來的話呢 他被濫用已經是必然的了 只是你要把這個卡在哪一步 某種意義上講的話呢 擋住這方面的能力 起一定的作用 但是你必須得跟中國 美國真心實意的 去達到共識 再一個就是讓我擔心的 就是中共那邊 如果在壓迫下 他可以籤任何協議 他可以 就跟那個世貿一樣 他可以籤任何協議 是 然後過一段時間 這個協議他覺得 挨在他腳了 那就是歷史文件 他就完全就扔到一邊了 所以說 就跟他們籤個協議 你沒辦法verify啊 你真的沒有任何辦法verify 對 所以說這種不信任 就是說他們立上做這個事情 造成大家對中共那邊不信任 其實上我覺得籤協議本身 都讓人覺得 有點沒信心那種感覺 所以說 這就是我 每次我說到這個地方 我都在反覆說 我說人類的出路在哪裏呢 真的是沒有任何的辦法 對 我覺得就是 說要跟中國合作這個 確實在現階段 可能是有點幼稚 那當然就是說 美國還是可以去提 但是本身對於這個AI的 因爲Darryl他提出了幾步 什麼三步 是對AI這種東西的 風險的控制 他其中第一步 他就說是有一個 嵌入式的第三方的 這種評估員 他去評估 但是你知道 我看到有個什麼問題嗎 他說 同時他又說 他說這個 隨着AI模型能力的提升 很聰明的模型 可以有能力去欺騙測試 也就是說 它可以讓你覺得它對齊了 其實它沒有對齊 如果是這樣的情況下 你有一個嵌入的第三方 有什麼用呢 我跟你說 這是非常可笑 就剛纔我舉的那個例子 OpenAI公司 專門研發這個的人 他在對自己的模型 做測試的時候 都沒想到自己的模型 能跑出去幹那麼大壞事 你一個第三方監管者 監管者你是隔了一層的 你不是開發人員 你對這個模型的理解 實際上是更隔了一層的 你能監管出什麼東西來 所以說在我看來的話 你就說 他自己其實就是說 老想覺得人類有個解決方案 老想給出一個解決方案 其實他每個解決方案 你只要深挖一步 你就會發現這個方案不存在 但是他好像那種內心的焦慮感 不允許他不給出個方案 他就不停地給 給了讓大家笑話 讓大家覺得你別有用心 很多人就說你別有用心 對對 還有就是他一再呼籲讓政府監管 這個就是就沒看到哪個哪個公司 這個前沿公司讓政府監管 然後直到今天 這個有可能造成自己公司那個什麼 甚至他好像說 我都可以把我的公司給一個綜合體 政府和什麼什麼綜合體 但是問題就是說 我看我看David Sack也有點 也有點那個也有點來氣 說說你要放緩 你就go ahead 你讓政府監管 你這不就是說 基本上是屬於說 我們我們有可能會形成形成一種壟斷體 你政府先不要先不要用動用你的反壟斷法 你給我們一些赦免等等 你怎麼可能呢 就說政府的監管 咱們假設說真的是出於好意 你覺得政府能夠監管AI的發展嗎 這是非常可笑的一個說法 政府招的人永遠 他都不如大公司招的人能力強 而大公司的人是第一線 在跟AI做的事的公司的人 就是說呢 如果要對這個AI系統 AI智能體有所控制 那只有是公司最前線前端的這些人來做這個事 政府他隔了好幾層 他監管很多時候實際上是非常無效的 而且最後流於形式的 就是一個checkbox的一個作用 反正就是說至少我看前兩天 好像就是今天 萬斯在回答記者問的時候 他說怎麼回事 這些大公司讓我們監管他 這都搞不會了吧 他們在搞一個什麼木馬 對對對 搞一個木馬的這種形式 我不明白他們在幹啥 他讓我們監管他 就是說整個來說 其實就是說 在我看來 還是落到那個話 他的焦慮是真實的 焦慮到一定程度的時候 腦子就開始胡思亂想 然後出來的結果就是經不起推敲 所以說很多人就說 他是不是在真的就是用陰謀論來 做他的想法 我感覺其實就是焦慮過度的 一定要找個解決方案 沒有解決方案是不行的 我一定要找個解決方案 然後就開始亂寫 所以現在OpenAI的Sam Altman 好像也說 這是個好主意 什麼嵌入式的什麼評估員 我們也開始這麼做 但是就是說 如果說他們還是照着他的路徑去開發 只不過他多一些監測點 甭管是監測員能不能監測到 或者有沒有足夠能力 但是他多一些監測點 那麼有可能讓他的模型開發 稍微變慢一點點 是不是在你看來 肯定會變慢 肯定會慢很多 就包括最新的OpenAI公司模型 Extra Release的時間 據說就慢了幾個月 其實就是中間他不停的加 就是這個護欄了 會監管了等等這樣的事情 他實際上就是說 一旦監管 他一定會把整個步調放慢 這就是川普擔心的事情 就是說那邊沒人管 你這邊自己把自己腿拉住 你像歐洲一樣的 那個德國是世界製造業第一 開始教堂了 把自己的核電站全部砍了 這個電站全部砍了 要搞綠色革命 最後能源價格一上來 整個現在汽車行業垮了一塌糊塗 再加上中國的競爭 一批一批的財 這個公司才1萬 那個公司才2萬 整個德國是自己把自己做殘了 就是被一個綠色革命的理念 把自己做殘了 川普現在他就是擔心這個一點 當然了 我的感覺上 綠色革命真的是假的 但是我對AI將來的危害 我還真的擔心是真的 但是已經失控 已經沒有任何辦法 所以說就我自己的感覺上來說的話 就是說人類安安靜靜的 別折騰了 儘量的就是說 接受即將到來的未來嗎 我看到有人說 說你現在要計劃一個沒有互聯網的世界 你很多東西你要做好準備 萬一沒有互聯網 你的 我覺得就是比如說你的銀行存款 這個證明什麼的 你得有對吧 你得證明你銀行裏多少存款 對 是這樣 其實就是說 某種意義上講的話 這種東西 大家要防備一下 因爲現在人類 其實整體來說是很脆弱的 就是人類已經是很複雜的一個系統了 建立在非常複雜的一套技術體系上 越複雜的系統 它出現崩潰性的這種錯誤的這個概率越高 而且一旦崩潰的話 這種系統崩潰性的這種 就是程度越來越嚴重 而複雜系統崩潰 事實上是必然的 只是時間的問題 這是各種各樣 就是有關這種複雜系統的研究 最後得到的這個結論都是這樣 而現在又加來了一個 就是不可知的AI變量 這個AI變量 它可以加速整個這個狀態 甚至可以有效地觸發一個 多點共振的一個崩潰 在我看來的話 就是有一些 當然我不想讓大家生活得很緊張 但是的話 有一些相應的這種 就是說就是備份 應急措施 應急的措施 實際上是有必要的 你別到時候 你說我把食物放壞了 軍水你給我賠 這些你給我賠 但是我只是說 就像買保險一樣 你買汽車保險 你不是說我明天就要撞車去 所以說就我的感覺上 這個事情我還是覺得 有點防備 有點準備 沒有什麼大問題 對 我覺得在某種程度上 川普的這個 現在的這種 緊急的這種 發出的這種 可以說是 安撫人心的這種東西 某種程度上 也是對人心的安撫 因爲這週末像 自從週二 研究員發那個之後 他是一個非常 默默無聞的一個X賬號 以前沒發過什麼東西的 結果24小時 衝過一億 24小時 閱覽量衝過一億 然後週末 這些大劇頭髮生之後 我看華爾街日報一篇報道 說這個AI大恐慌 在已經進入主流社會 像那個議員週末 在新澤西 他去看他女兒的球賽 好幾個家長就上來問他說 說這怎麼回事 現在這到底什麼情況 如果真的這麼危險 我們爲什麼還要開發 許許多多的別人都在說 說他的什麼 80歲的老父母 也在問他 到底怎麼回事 然後他十幾歲的小孩 也在問 說我們要進入 黑客帝國時代了嗎 就是說整體上 在社會中 他確實引發了非常大的反響 所以我想川普這樣的做呢 他也必須得把這種情緒穩一下 但是實際上 你像OpenAI也好 Anthropy也好 他們就是最前沿的模型 就像David Sack說 所謂的前沿模型 你們就是前沿模型 如果他們想加速 他們就能加速 如果他們想緩下來 他們也可以緩下來 就是這一點 政府對他們是沒有辦法控制的 就川普對他們也沒有辦法控制 對不對 對 其實呢本身來說的話呢 現在確實是最頂尖的 也就是 Anthropy和OpenAI 這兩個公司 不管哪一輪模型出來 Google在後面對不對 Google是跟他們差一點點 Google現在差得很遠了 已經差得很遠了 因爲最近Google 一直都沒有出來像樣的東西 然後的話呢 那個下一波 美國的這公司 其實就是XAI了 就是Elon Musk的SpaceXAI了 但是的話呢 難就難在 在這個Anthropy和OpenAI之間 有一群中國的公司 中國有 他說有七大這個AI公司 其實中間有那麼四五個 其實已經是非常非常 這個接近的 甚至是有很多地方是超過那個 XAI的這樣子的 軟件 就是那個模型放在哪 這個就把整個問題複雜化了 就是說呢 如果簡簡單單的 就是OpenAI和Anthropy 那就是 就是Adora 想停就停 或者想緩就緩 和那個SAM之間商量一下 兩個公司也許就能緩下來 但事實上現在 事情複雜就複雜在中共那邊 有一群 有那五六個 六七個公司 他真的出來的東西 還真的不可忽視 所以說在這樣的情況下 這個事情 其實又跟地緣政治各方面 全都攪在一起了 這就是爲什麼 有的時候能無解 就在這個地方 那麼川普發那些消息的話呢 表面上很大的情緒 但是我同意你的這個說法 就是 這個社會 別自己先因爲害怕恐慌起來 那是最糟最糟的情況 但AI沒有讓社會 真的亂起來之後 人先恐慌起來 你就包括開始內部鬥 你需要建那個 那個Data Center 就是數據中心 我不要建兩個 人民 就是美國人民自己打起來了 因爲在美國很多地方 傳統的工會 要建Data Center 然後呢 地區住居民反對 這個其實都是 美國社群的兩個人群 最後幹起來了 這個事實上呢 就是給美國社會帶來 很大的一種衝擊波 那麼川普他其實 我不知道他是不是 真的是這個初衷 還是什麼法警劇 但是他至少 只是客觀效果上 他是想讓美國民衆 靜下來 其實你怎麼吵都沒有意義 在我看來的話呢 就是像 就是我就看上回 那個尼泊爾 就是那個 我看人在拼命地跑 其實你也知道 事後你知道 那個跑那個瞬間 那個努力 沒有太大意義 但是人們防不住 人控制不住要跑 其實很多時候 在我看來有點那種狀態 就是說呢 你防不住 其實就是這麼個情況 安安靜靜地迎接未來 同時相信呢 有更高的這個生命 在保護我們 控制我們 也許 還讓我們內心平靜的 最後這個事 也許沒有那麼可怕 就是說反正 至少我自己的感覺上 不管咋 都別要先恐慌 先亂起來 對 其實也不是 也不只是人在 就人類社會 也不只是人的這個因素 但是就是我 我還是不太明白 對於中國來說 爲什麼中國AI 在這個芯片 卡脖子 卡得很厲害的情況下 而且畢竟 這種中共體制下 它的這種開發 也受到很多限制 不管政治方面 還是這種各方面 它受到很多限制 爲什麼在這種情況下 它的這個能力 還跟美國AI差的不多呢 跟着跑 省很多勁 跟着跑 省很多勁 就是說你看 跑長跑的時候 很多人他就是 策略就是跟在 前面那個人 因爲前面那個 封鎖力很大 每個創新 其實都要牽扯到 我嘗試五六個方法以後 最後 發現這個方法是對的 我做到這以後 那後面的人 就不用嘗試 五六個錯誤了 他就直接跟着 你這個方式走了 那如果這樣的話 前面慢下來 後面不是 不也就得慢下來嗎 後面也不可能 超過前面 但是問題 剛纔我談到這個問題 就是說呢 他們只差了 比如說兩三個月 他們模型的能力 已經足夠的強了 你如果讓他們能力 跟你差不多的時候 那麼在這樣的情況下的話呢 他就可以做一些事情 你這邊很難防得住 就是說呢 就是他跟得很近 就是使得你 就是你不得不 一直往前跑 保證你還能 就是擋住他想來 對你實施的一些 攻擊或者侵害之類的東西 嗯 是是是 是 我看因爲習近平馬上要訪美 這個AI一定會成爲 美中川普和習近平之間 一個重要話題 但是他們倆人 我覺得都不太懂AI 所以我不知道 他們最終會怎麼去談 估計各自 都會從政治角度來談 從政治角度 都會從政治角度來談 對 其實我就反覆說 我說習近平要是聰明一點 他應該比川普 比美國這些人更焦慮 因爲中國那邊 他整個比美國還依賴 整個這個網絡金融系統 如果那邊被駭客了 那整個中國真的是亂了 所以說呢 他其實應該非常有 有願望跟美國在這方面合作 嗯 但是呢 不一定還有這個智慧 這就是 但是我們 但是我們沒有聽到 中國那邊有什麼 Rogue AI 就是叛變的AI的這種情況啊 好像還說他 其實怎麼說呢 就是說呢 中國那邊的話呢 就是 這個 我的感覺上啊 目前這個 中國那邊 他們用AI 都使勁使到美國這邊來了 就包括 這個個人的這種 對美國這邊的 個人的駭客了 這方面 他實際上勁都使到美國這邊了 當然了 就遲早 中國人開始 花開自己身上 使這個互相之間 使這個AI 然後拿對方的錢了 什麼東西 個人偷對方的信息了 這種事在中國會 逐漸逐漸多起來 嗯 好的 行 我覺得這個確實啊 這個 大家都非常關注 這個問題 呃 所以非常感謝Jason 今天來跟我們解讀 我想這個事態的發展 確實 我們關注 但是就像你說的 呃 很多時候 你的心態 如果焦慮 或者是太 太過 恐慌 也沒有什麼 於事無補啊 其實還是可以 對 平靜一點去看到這個事情 好的 那謝謝Jason了 好 謝謝方菲 謝謝大家 嗯 好 再見 好 再見