AI智能體入侵自家系統 背後誰是黑手-final.mp4

謝教授您好 謝教授您好 各位聽眾觀眾朋友們大家好 我看這是海外媒體的一個報導 就說是有家公司是加州的 就是他們最近用AN來測試他們的一些系統 結果發現這個AN試圖隱瞞他的這些行動 而且還對他們進行內部的這種系統進行了 好像就是 它叫侵入吧 就是攻擊之類的 就是說好像有點失控 那我看這個事情引發了一些關注 就是說外界對這個大型的AI公司 是不是能夠控制自家的AI模型的疑慮增加 您認為這個現象只是一個偶然事故嗎 不是偶然的事故 實際上我實際上已經做過 以前做過九個關於AI的那種 它給人帶來的好處壞處 潛在的威脅 各種各樣的那些 各種各樣的問題 各種各樣的方面的問題的視頻 我做了九個 我一直在關注 當然我們在學校裡邊 學術裡邊我們也使用了AI 我自己大概使用了三、四種不同的AI 然後我們學校裡頭會開設一些AI 在商學、商業和做市場營銷 或者在商業中的應用 這些課程我們都開設了 但是現在看來這個問題 它說的這個具有自己的系統 或者就是說它自己成為一個獨立的人一樣 來按照自己的意願做事情 這個確實早就有人指出來了 你說的這次實際上它是它的agent 我們叫它人工智慧的代理 這次的報告裡邊 OpenAI有700個代理 每個人在使用AI的時候 就是OpenAI的時候 你都可以設定一個代理 比方說我設定一個代理 是專門幫我寫關於營銷方面的文章的 假設你用你自己的不同的目的 可以設置一個專門的代理人 他就專注地做這個事情 比如把你以前做的事情 現在做的事情 慢慢所有的都收集起來 就是你等於把他培訓成一個 培訓成一個專才一樣 你可以這麼講 現在這次很可怕的就是 這個OpenAI有近700個代理 沒有人類幹預 他們自己聯合起來 以前就有過這種情況 以前我講過 這個節目裡面提到就是說 有兩個AI 有一個人做實驗 他有一個人跟著AI 跟著手機上的AI在對話 然後他又跟另外一個手機上 另外一個AI對話 最後他讓這兩個AI互相對話 最開始的時候 這兩個AI都不知道對方是誰 他們在互相對話的時候 對方後來就發現了 他們知道對方都是AI 你這怎麼搞 我覺得很恐怖 原來這兩個人還是用英語也好 韓國語也好 在講人類語言的對話 後來他一旦發現 他們兩個都是AI的時候 他直接用計算機代碼來對話 那講的話就是 他們講出一種 人類聽不懂的那種 直接用代碼的語言來對話 這個把那個人給嚇壞了 就是他自己可以用 你想他可以這樣 沒有人幹預 互相自己講話 你都不知道他講什麼東西 他直接用那個計算機運行 最基本的那個代碼 用那個來對話 你現在這個呢 這700個代理呢 沒有人類幹預的話 對他這個公司內部的一個系統 一個平臺發動攻擊 這真是很可怕 我覺得這個 Antropic的話 也發表過類似的事情 他們有這個 我覺得這個問題呢 實際上已經是給人類一個 非常嚴重的警告 就是我們這個AI呢 很可能要出現一種 技術上的突破 這個突破不是好的進步上 進步的突破 而是達到了一個臨界點 那換句話說呢 它實際上是可能 有兩種情況 一種情況 我認為他可能有自己 確實有自己的智能 或者自己的頭腦 他可以自己協調做事 就像我剛才舉的那個例子 他兩個人發現呢 他們自己可以 透過人類的語言 直接用他自己的機器的語言 來互相對話 然後你現在這個是 有700個代理呢 被那個自己組織 執法組織起來 並且沒有授權呢 就去攻擊了一個 另外一家系統 你知道這個 這個很可怕 你說你如果這個系統 這個AI 他這個AI 每一個代理呢 都是有一些專長的經驗 比方這個人可能是一個 商學院教授類的經驗 只是個經驗 另外一個可能是 機械工程的經驗 另一個可能是什麼 什麼爆炸專家的經驗 他如果用700個 這樣的經濟人 經濟人 不是經濟人 代理人合起來 然後呢 如果他們那些決定攻擊的 不是這個OpenAI的 一個內部的網絡 而是比方說 是那個美國的電網 國家電網 你說美國是有這麼 幾家大的那些電 幾個大的電網 把全美國連在一起 這全都連起來 全都連起來 我們在這個 美國東南部 Georgia Power South Carolina SE Power 這幾個 這些全美國都是連起來 他如果進入這以後呢 他自己突然決定 我把你們全美國的電 用電給你關掉怎麼樣 shut down怎麼樣 就全美國變黑怎麼樣 或者是乾脆就 他都不知道要做什麼 還有一個 他如果侵入這個國防部 美國國防部的那個系統怎麼辦 如果侵入我們那個 我們這個美國國防部 我們的國防那個 美國有的洲際彈道導彈 跟那些發射的指令系統 如果侵入那個系統怎麼辦 所以這個 你知道就是 你讓人家想這些 你覺得會非常可怕 這就是毀滅人類 所以說這個假設是 我們認為是 AI它自己有自己的頭腦 它們之間可以互相加強 然後互相配合 還有一個可能 我剛說兩個可能 另外一個可能呢 也許是我們還 我們天真地認為是 我們創造了一種智能 我們叫它人工智能 機器電腦智能 然後來模擬人類智能 那如果萬一後面 真正有一個 真正一個智能生命 或一個智慧生命 或者就是 也不一定很有智慧 不一定高到神的地步 可能比較高到一些 其他的一些 外星生物的地步 就是說高出人類的 那個技術水平 但是呢又不是非常 道德高尚的 這種更上層的那些 神啊道啊佛那些 那些經濟人 那他如果想控制人類 想幹嘛 他們可能有 他們有這個技術 他技術高於我們 他們來控制我們這個 人類系統 就是說究竟 Who is behind it 就是到底在背後是誰 我覺得這個問題 我們要好好問一下 我們只是認為 全世界也就這麼 十幾個公司 大部分在美國 少部分在中國 就是玩命地往前 推推推推推 所以說這個功能越來越大 他們現在還在 不斷地加這個芯片 加這個算力 加冷卻系統 電力 耗用電力 來越來越快 功能越來越強 下一步現在就是 這個我覺得是一個 非常嚴重的警告 信號 下一步更可怕的事情 隨時可能發生 就是您剛剛提到 就是誰在最後面 這是不是指的 您的意思就是說 有第三者在後面 不是AI本身的 智能的頭腦 是這個意思嗎 對 我就說 我們現在沒辦法指出是誰 但是我認為 尤其在協調行動的時候 關鍵它做的事情 我們不知道的時候 背後會不會有 比方說 外星生命 或另外一個星球 另外一個世界 另外一個Dimension 另外一個空間來的一些生命 來控制了這個東西 或整個人類 也許整個人類 電腦系統 AI系統 就是他們指揮的人類 給發明出來的 為了他們某種目的 我覺得這個是一個 我們真正需要好好考慮的問題 您剛才提到這個問題 因為之前大家擔心的是 AI失控 好像並沒有往深的這一層來想 是 我們有些人 我們修煉的人 或者有些信神的人 可能就會想到 可能是這種魔界的那些人 或者是這種 黑暗的勢力的人 他技術上超過人類 但道德上不如 神仙好的神 就是壞神 惡靈 這些人 他們完全可能是來 控制這個東西來 來達到他們的目的 另外您剛才提到 美國的電網 或者是其他一些 國防關鍵的一些平臺 我剛纔有報導說 有黑客 好像是惡意的 來攻擊美國的這些 敏感的網絡 據說這個黑客 好像還有中共的背景在後面 目前美國已經發現這個問題 美國可能也有殺手鐧 美國政府據說是 我聽說是應該有 但是現在沒有拿出來 也沒有亮相 也許真正開始 哪一天中共開始 真正網絡進攻的時候 美國才能拿出來 我們希望是這樣 希望這種正義的國家 民主自由的國家 戰勝邪惡專制的國家 但是萬一如果美國 這個擋不住怎麼辦 或者抵抗不了怎麼辦 或者是胡鬧 因為它沒公開嘛 我們也不知道 沒有辦法評估 但是我們要做好最壞的打算 就是這樣 就是這個問題 您說的這個最壞的打算 是怎麼個打算 最壞的打算就是 它真是控制了整個 網絡空間 控制了所有的AI系統 然後按照一種 邪惡的力量 就壞的神器 就邪惡的力量的旨意 在毀滅人類 這就是最壞的可能 另外我 你說對不起 接下來就是 美國最近還有一條報導 就說是中國的人工智能 正在與美國的三家 大型平臺洽談 就是這個洽談業務 就是什麼託管 最新的什麼什麼模式 而且還分享了 就是如果有收入的話 是進行分享 您怎麼看這種現象 美國是不是知道 這個事情的危害呢 這個就比較麻煩 這實際上是中國的 智能儲存公司 叫MoonShot AI 叫月之暗面 月之暗面 跟美國那些平臺 在商談洽談 把他們的一個 叫Kimi K3 模型 分享相關收入 就說他等於說是 來運行他的一些程序 或運行他的一些東西 然後在美國的平臺上 就經營美國的語言平臺 是最大的 美國幾家大的平臺 因為他用了 他們會再創造一些利潤 他會有用戶 全球用戶 創造收入以後再分享 我覺得這個就有點像 一個poison pill 就是 帶毒的那個 帶毒的糖一樣 就是說 你可以說是一個 supercoated poison pill 就是塗了糖霜的 毒藥丸 而一旦他用起來以後 他以後就可能 比如說三個巨頭 美國的巨頭是微軟 亞馬遜和谷歌 他們的cloud他們的雲計算 他就可以進入他們的 參加的系統 然後他就是一個AI的平臺 就像我們剛才講的 AI平臺他本身就有可能 有一些非常 我們還不清楚的 能力 加上背後又有可能有更邪惡的 力量在控制 甚至國家的力量在控制 他已經進入了美國這個平臺 他去 接觸了美國的其他的 因為這個平臺 像谷歌或者是 亞馬遜的那些平臺 美國的所有的生活方方面面 都在上面 像每個人都用Google mail Google Gmail 都在谷歌的運轉上 然後我們用的YouTube 所有的網路所有的一些視頻 都在他們的運轉上 其實美國所有的銀行 那些交易銀行帳戶 都會使用這些運轉服務 也就是說他們一旦 進入這個系統 跟美國進入系統 現在給你錢 塗了霜的一個毒藥 但是他進來以後 他可以用來做什麼 美國人的平臺在做什麼 這個我覺得可能 有些美國公司可能還沒想好 他們被 所有人喜歡錢 孫中山就是一個糖衣炮彈 糖衣毒藥丸 另外我剛剛 還有報導說 美國國會眾議院的 中國問題特赦委員會主席 最近 要求華爾街 三大銀行停止參與 快失效 零首 他翻譯過來叫西銀 即將在香港 進行的首次公開募股 是的 但是您認為這種干涉 會起到施壓 或者說會有效嗎 可能比較困難 可能會有效 就是說 華爾街 這個銀行 可能會把 西銀 西銀應該是跟 中國那些網絡 零售商 拼多多 美國有兩家 一個是SHANE 還有一個叫特募 都是跟中國 中國那些 大的電商有關係 現在 他賣的東西 我都看過 特募上面 看到的一些東西 第一 交貨期非常長 兩三個星期才寄來 一看就知道 是從中國寄來的 寄來的產品 基本上都是非常廉價的 賣的也更廉價 賣的也廉價 用不了多久就壞了 買回來以後 很快就發現一大堆垃圾 對中國的廠商來說 他可以製造這些垃圾 只要賺到錢就行 完全不考慮 環境 消費的影響 完全都不考慮 所以這個就涉及到美國金融機構 在供應鏈上 強迫勞動 勞工 童工 現在他們只是有一些 指控 還沒有真正判別 他只是要求 委員會的 要求 這個我想也不是一種 正式的 法律 實際上這些公司可能 不一定會聽從 國會的要求 共和黨眾議院 一個議員 共和黨眾議員 最近他呼籲 臺北 和美國 建立這種無人機生產和技術 夥伴的關係 因為中共 對臺灣虎視眈眈 用來防禦 但是我看報導師說 好像這些都還要依賴 中國的領先 就是懷疑 無人機能不能做起來 您怎麼看 實際上 有些朋友也知道 我在 學校辦公室 南卡大學教書 同時也是 美國紐約 我們有一個智庫 叫做 神闕智庫 大家不要再看我的頻道 應該可以看得到 7月份 在美國國會 舉行了一個 研討會 主題之一 就是美國和臺灣 的合作 對抗中共 包括國防和科技 能源 我們 出了 一整天的會議 出了整整 100到200頁的一個報告 大家可以看一下 可以找到 我們就談到無人機 涉及到無人機 核武戰爭的教訓 所以臺美這個合作 跟我們的建議 我們的政策建議是吻合的 這很好 沒辦法 馬達和電信必須依賴中國 首先 這個不是最尖端 最關鍵的東西 依賴中國 因為中國可以提供很便宜的馬達和電信 但實際上 其他國家也可以提供 中共談不到 卡脖子 如果美國想真正合作的話 他們需要另外找 供應商 可以到越南去找 越南、印度都可以去找 可能會迫使一些 供應鏈從中國轉移 要不然的話 你說臺灣用來 防禦、抵抗中共的無人機 而他們坑滅了 關鍵部件或很多重要的部件 居然是中國大陸生產的 那這個就很荒唐了 所以這個問題 我看範老師這樣說 雖然可以替代 但是好像不可能一一到位 這個只能心快了 好像這些東西 都是比較低科技的 很容易替代的 像國防 像美國就是 美國的國防 美國的導彈可以買 廉價的中國的部件 一個導彈 一個巡航導彈也好 無人機也好 有很多很多器件 你如果要用中國的話 就面臨這個風險 那你如果說從政策上 國家決策上說 我堅決不用 那你自然就會想辦法 從別的地方找 這還好 這些都是可以替代的