【謝田時間】1. AI 背後可能不受人控制、另有生命體操縱？ 2.中國AI 與美三大平台洽談業務後果？ 3.北京對美基礎和國防設施進行網路攻擊、美國有殺手鐧？ 4.中國壟斷了無人機零件麼？

謝教授您好 謝磊您好 各位聽眾觀眾朋友們大家好 我看這個就是海外媒體的一個報導 就說是有一家公司是加州的 最近用AI來測試他們的一些系統 就發現這個AI試圖隱瞞它的這些行動 而且還對它們進行內部的這種 它叫侵入吧 它有點失控 那我看這個事情引發了一些關注 就是說外界對這個大型的AI公司 您認為這個現象只是一個偶然事故嗎? 不是偶然的事故 這個實際上 我實際上已經做過 以前做過九個關於AI的那種 它給人帶來的好處、壞處、潛在的威脅 各種各樣的那些 各種各樣的方面的問題的視頻 我做了九個 我一直在關注 當然我們在學校裡邊、學術裡邊 我們也使用AI 我自己大概使用三、四種不同的AI 然後我們是學校裡頭會開設一些AI 在商學、商業、做市場營銷 或者在商業中的應用這些課程我們都開設 但是現在看來這個問題 它說的這個侵入自己的系統 或者說它自己成為一個獨立的人一樣的 來按照自己的意願做事情 這個確實早就有人指出來了 那你說的這次這個實際上它是它的那個Agent 我們叫它人工智慧的代理 這次那個報告裡邊OpenAI有700個代理 每個人我們在使用AI的時候 就是OpenAI的時候 你都可以設定一個代理 比方我設定一個代理 是專門幫我寫關於這個營銷方面的文章的 假設這時候你用你自己的不同的目的 可以設置一個專門的代理人 他就專注的做這個事情 你把你以前做的事情、現在做的事情 慢慢所有的都收集起來 就是你等於把他培訓成一個 可以培訓成一個專才一樣 你可以這麼講 那現在這次很可怕的就是 這個OpenAI有近700個代理 沒有人類幹預 他們自己聯合起來 以前就有過這種情況 以前我講過這個節目裡邊提到就是說 有兩個AI 有一個人做實驗 他有一個人跟著手機上的AI在對話 然後他又跟另外一個手機上的AI對話 最後他讓這兩個AI互相對話 就是說最開始這兩個AI都不知道對方是誰 他們在互相對話的時候 對方後來就發現了 誒 他們知道對方都是AI 你猜怎麼著 我覺得很恐怖 他居然 原來這兩個人還在用英語也好 或用韓國語、漢語也好 在講人類語言的對話 後來他一旦發現他們兩個都是AI的時候 他直接用計算機代碼來對話 講的話他又講出一種人類聽不懂的那種 直接用代碼的語言來對話 這個把那個人給嚇壞了 就是他自己可以用 你想他可以在沒有人幹預 互相自己講話 你都不知道他講了什麼東西 他直接用那個計算機運行的最基本的代碼 用那個來對話 你現在這個700個代理 沒有人類幹預的話 對他這個公司內部的一個系統 一個平臺發動攻擊 這個真是很可怕 我覺得這個 Anthropic也發表過類似的事情 他們有這個 我覺得這個問題實際上 已經是給人類一個非常嚴重的警告 就是我們這個AI很可能要 出現一種技術上的突破 這個突破不是那種好的進步上的突破 而是達到了一個臨界點 換句話說 它實際上是可能有兩種情況 一個情況我認為它可能有自己 確實有自己的智能或者自己的頭腦 它可以自己協調做事 就像我剛才舉的那個例子 這兩個發現 它們自己可以跳過人類的語言 直接用它自己的機器語言來互相對話 然後你現在這個是有700個代理 被自己自發組織起來 並且沒有授權就去攻擊了 另外一家系統 你知道這個很可怕 你說如果這個系統這個AI 它這個AI每一個代理 都是有一些專長的經驗 這個人可能是一個 商學院教授類的經驗 只是個經驗 另外一個可能是機械工程的經驗 另一個可能是什麼什麼 爆炸專家的經驗 它如果用了700個這樣的經濟人 或者是代理人合起來 然後如果他們現在決定攻擊的 不是這個OpenAI的一個內部的網絡 而是比方說是那個美國的電網 國家電網 你說美國是有這麼幾家大的那些電 幾個大的電網 把全美國連在一起 這全都連起來 我們在這個美國東南部 有Georgia Power 有South Carolina 也有SE Power 這幾個這些全美國都是連起來 它如果進入這以後 它自己突然決定 我把你的全美國的電 用電給你關掉怎麼樣 shut down怎麼樣 讓全美國變黑怎麼樣 或者是乾脆就 它你都不知道要做什麼 還有一個如果侵入這個國防部 美國國防部的那個系統怎麼辦 如果侵入我們那個 我們這個美國國防部 我們的國防那個 美國有的洲際彈道導彈 的那些發射的指令系統 如果侵入那個系統怎麼辦 所以這個你知道就是 你往下想的時間覺得會非常可怕 這就是毀滅人類 我覺得這個假設是我們認為是 AI它自己有自己的頭腦 它們之間互相可以互相加強 然後互相配合 還有一個可能我剛說兩個 另外一個可能 也許是我們天真的人類是 我們創造了一種智能 我們叫它人工智能 機器電腦智能 然後來模擬人類智能 那如果後面真正有一個 真正有一個智能生命 或一個智慧生命 或者就是也不一定很有智慧 不一定到了高到神的地步 可能比較高到一些 其它那些外星生物的地步 就是高出人類的那個技術水平 但是又不是非常道德高尚的 那種更上層的那些 神 道 佛那些經濟的人 那它這些如果想控制人類想幹嘛 它們可能有它們有這個技術 它技術高於我們 它們來控制我們這個AI系統 就是說究竟 就是到底在背後是誰 我覺得這個問題我們要好好問一下 我們只是這麼 全世界也就這麼十幾個公司 大部分在美國 少部分在中國 就是玩命地往前推一推推一推 所以這個功能越來越大 它們現在還在不斷地加這個芯片 加這個算力 加冷卻系統 電力和耗用電力 越來越快 功能越來越強 下一步現在就是 這個我覺得是一個非常嚴重的信號 下一步更可怕的事情隨時可能發生 嗯 就是您剛剛提到誰在最後面 您的意思就是說 有第三者在後面 不是AI本身的智能的頭腦 是這個意思嗎 對 我就說 我們現在沒辦法指出是誰 但是我認為 尤其它協調行動的時候 關於它做的事情我們不知道的時候 背後會不會有比如說 外星生命 或另外一個星球 另外一個世界 另外一個Dimension 另外一個空間來的一些生命 來控制了這個東西 或整個人類 也許整個人類的電腦系統 AI系統 就是它們的指揮的人類給發明出來 為了它們某種目的 我覺得這個是個 我們真正需要好好考慮的問題 嗯 對 您剛才提到這個問題 因為之前大家擔心的是 AI時空好像並沒有往深的這一層來想 是 是的 所以我們有些人 我們是修煉的人的話 或者有些信神的人的話 可能就會想到 可能是這種魔界的那些人 或者是這種黑暗的勢力的人 它是技術上超過人類 但道德上不如神 神仙好的神 就是壞神 壞人 惡靈這些人 它們完全可能是來控制這個東西 來達到它們的目的 另外您剛才提到 就說是美國的電網 或者是其它一些國防關鍵的一些平臺 我剛纔有報導說 有黑客好像是惡意的 來攻擊美國的這些敏感的網絡 是的 黑客好像還有中共的背景在後邊 就是目前美國已經發現這個問題 您認為美國會採取有效措施來解決嗎 美國可能也有殺手鐧 美國政府據說是 我聽說是應該有 但是現在還沒有拿出來 也沒有亮相 也許真正開始 哪一天中共開始真正網絡進攻的時候 美國才能拿出來 我們希望是怎樣 希望這種正義的國家 民主正義自由的國家 戰勝邪惡專制的國家 但是萬一如果美國這個擋不住怎麼辦 或者抵抗不了怎麼辦 或者是胡鬧 因為它沒公開嘛 我們也不知道 沒有辦法評估 但是我們要做好最壞的打算 就這樣 就是這個問題 您說的這個最壞的打算是怎麼個打算 最壞的打算就是 它真是控制了整個網絡空間 控制了所有的AI系統 然後按照一種邪惡的力量 就壞的神器 就邪惡的力量的旨意在毀滅人類 接下來就是美國之音還有一條報導 中國的這個人工智能 正在與美國的三家大型平臺洽談業務 而且如果有收入的話是進行分享 您怎麼看這種現象 美國是不是知道這個事情的危害呢 對 這個就比較麻煩 你知道這實際上是一個中國的智能初創公司 叫Moonshot AI 月之暗面 跟美國的那些平臺在商談 把他們的一個叫Kimi K3模型分享相關收入 就是它等於是來運行它的一些程序 運行它的一些東西 然後在美國的平臺上 就經由美國的雲平臺 是最大的美國幾家大的平臺 因為它用了 它就要跟著 因為它們會創造一些利潤 它會有用戶 全球用戶 創造收入以後再分享 我覺得這個就有點像一個poison pill 帶毒的那個 帶毒的糖一樣 就是說這個確實是 你可以說是一個sugar-coated poison pill 就是說是塗了糖霜的毒藥丸 因為一旦它用起來以後 它以後就可能 比如說三個巨頭 美國的巨頭是微軟 亞馬遜 谷歌 它們的Cloud 它們的雲集算 它就可以進入它們這個系統 參加這個系統 然後它就是一個AI的平臺 就像我們剛才講的 AI平臺它本身就有可能 有一些非常人們還不清楚的能力 在這樣背後又有可能有更邪惡的力量在控制 甚至國家的力量在控制 它已經進入了美國這個平臺 它去接觸到美國的其它的 因為這個平臺 你像谷歌 或者是亞馬遜的那些平臺 美國的所有的生活方方面面都在上面 像我們每個人都用那個Google Gmail 都在谷歌的運轉上 我們用的那個YouTube 所有的網絡 所有的一些視頻都在它們運轉 其實美國所有的銀行的一些交易 銀行帳號都在使用這些運轉服務 那就是說它們一旦進入這個系統 美國的進入系統 現在給你財 給你錢 塗了霜的一個毒藥味 但是它進來以後 它可以用那個來做什麼 在美國人的那個平臺上做什麼 這個我覺得可能有些美國公司可能還沒想好 它們所有人都喜歡錢 中共實際上就是一個糖衣炮彈 糖衣毒藥丸 還有報導說 美國國會眾議院的中國問題特赦委員會主席 最近要求華爾街三大銀行停止參與 快實質上零售 翻譯過來叫西銀 即將在香港進行的首次公開募股 您認為這種施壓會有效嗎? 可能比較困難 也可能會有效 就是說它這個 華爾街銀行會把西銀 西銀應該是跟中國那些網絡零售商 拼多多 美國有兩家了 一個是SHANE 還有一個叫什麼來著 特務 都是跟中國那些大的電商有關係 現在它賣的東西 實際上我都看過在特務上面看到的一些東西 或者是那個SHANE上面看到的 第一它那個交貨期非常長 通常是兩個星期、三個星期才能寄來 一看就知道是從中國寄來的 寄來以後中國的產品 基本上都是非常廉價的東西 它賣的也更廉價 賣的也廉價、更廉價 實際上用不了多久就壞了 實際上買回來以後很快就發現就是一大堆垃圾 對中共的一些中國的廠商來說 它就特意製造這些垃圾 它只要賺到錢就行 完全不考慮這些 對環境、對消費者的影響 這些完全都不考慮 所以這個就涉及到美國金融機構 我認為它在工業上強迫勞動 面臨強迫勞動 勞工、勞工、童工這些問題 但現在它只是有一些指控 還沒有真正判別 但現在它只是要求 這是個委員會的那個Mulliner要求 這個我想也不是一種正式的法律 實際上這些公司可能 我覺得可能不一定會聽從國會的要求 另外我剛纔有報導說 就是美國共和黨眾議院一個議員 最近他呼籲臺北和美國建立這種無人機生產和技術夥伴的關係 但是我看報導是說 好像這些都還要依賴中國的領先 就是懷疑這個無人機能不能做起來 您怎麼看? 這個事實上可能有些朋友也知道 我在這個我的學校辦公室 我在南卡這個學校大學教書 我同時也是一個美國紐約我們有一個智庫 叫Think Tank 智庫 叫做Consilium Institute 我們叫神策智庫 這個神策智庫大家在看我的頻道上應該可以看得到 我們剛剛去年7月份在美國國會舉行了一個研討會 研討會的主題之一就是美國和臺灣的合作 戰略合作對抗中共 包括這些國防、科技、能源的一切 我們出了一整天的會議 出了整整一百到兩百頁的一個報告 大家可以看一下 可以找到 consiliuminstitute.org就可以找到 我們就談到這個無人機 涉及到無人機 涉及到這個核武戰爭爭的教訓 所以這個臺美這個合作 跟我們的建議 跟我們的政策建議是符合的 這很好 但是這個是沒辦法 它說馬達和電信可能是必須依賴中國的 但是首先這個不是最尖端最關鍵的東西 依賴中國 因為中國可以提供很便宜的馬達和電信 但實際上是這個東西 其它國家也可以提供 中共談不到卡脖子 但是臺灣如果美國想真正合作的話 他們需要另外找供應商 它可以找到越南去找 越南、印度都可以去找 就是可能會迫使這些供應鏈從中國轉移 要不然的話它這些 你說臺灣用來防禦抵抗中共的無人機 而它內的關鍵部件 或很多重要的部件 居然是中國大陸生產的 那這個就很荒唐了 我看趙老師這樣說 他說的雖然是一句話 但是好像不可能一言到位 對 那這個只能心快了 好在這些東西都是比較低科技的 很容易替代的 但是像國防的話 像美國就是 美國可能可以買美國的國防 美國的導彈可以買廉價的中國的部件 一個導彈 巡航導彈也好 無人機也好 有很多很多器件 那其中你如果要用中國的話 就面臨這個風險 那你如果說從政策上 國家決策上說 我堅決不用 那你自然也會想辦法 從別的地方再找 這還好 有些這些東西都是可以替代的