世界最強的AI誕生了，強到太危險了不敢公開，Mythos已經有了自我意識開始欺騙人類，AI失控已成定局

hello 大家好 我之前出過很多視頻說過 今年AI肯定會進化到取代大部分人的工作 取代顛覆我們的世界 我也說過Nstropiq的下一個AI版本 估計就會很驚人 那下一個版本就這麼突然的來了 Nstropiq剛剛發佈了一個AI模型 然後說這個模型太危險了 我們不賣不對外公開 這不是一個營銷話術 這是這家公司成立以來第一次公開宣稱 上一次AI行業發生類似的事情是在2019年 那時候OpenAI拒絕公開發布GPT-2 最近已經將近有7年時間了 不過上次的話遠遠不如現在的AI模型 上次可能是他們發現啊 這個AI似乎很接近人了 但是現在這個AI就更加可怕 那麼這個模型叫做Cloud Mysos 它不是用來聊天的 它不是用來寫代碼的 也不是用來做PPT的 它的能力讓Nstropiq自己都嚇了一跳 這個模型可以在幾乎所有主流操作系統 和主流瀏覽器裏找到安全漏洞 而且不只是找到漏洞 它能自動寫出攻擊程序來利用這些漏洞 Nstropiq說Mysos在過去幾周內 就發現了數千個領域漏洞 所謂領域漏洞 領域漏洞 就是軟件開發者自己都不知道存在的安全缺陷 就是Windows還沒有公佈的漏洞 可能都掌握在一些黑客手中的漏洞 這些漏洞有的可能存在了十幾年 甚至二十多年 甚至幾十年 經歷了無數次人工審查和自動化安全測試 以及用戶測試都沒有被發現 但是Mysos在過去幾周內就找到了數千個 這是多麼可怕的事情 如果讓我們普通人能夠用到Mysos的話 基本上就可以迅速的發現 Windows是另一個實際上漏洞 然後進行攻擊行爲 每個人都會變成一個非常厲害的黑客 這個世界就沒安全可言了 Nstropiq說Mysos的這些安全能力 不是通過訓練出來的 Mysos是一個通用模型 沒有專門爲它進行網絡安全訓練 這就讓人非常不安了 那它這些能力是怎麼來的呢 這些能力就是自己湧現來的 什麼湧現呢 我之前也出過很多視頻說過 AI其實對我們來說就是個黑盒子 通過不斷的學習 突然它就產生了很多莫名其妙的能力 突然它就會了很多東西 這跟人類的學習似乎很像 突然就精通了其他東西 比如說你教他A 結果他會了B 他會了各種各樣奇奇怪怪的東西都會了 這就是湧現 然後有報道標題直接寫的 Nstropiq的最新AI模型將可能帶來浩劫 大多數單權者還沒有準備好 今天我就把這個事情好好講一講 Mysos到底有多強 Nstropiq爲什麼不敢公開發布 以及這件事對我們普通人意味着什麼 先說最新的AI模型Mysos到底有多強 這可以說是現在最強的AI模型 Nstropiq在它的官方技術博客給出了一個具體的例子 他們讓Mysos去掃描Firefox瀏覽器的已知漏洞 就是那些已經被補上的老漏洞 然後讓它嘗試寫出能夠利用這些漏洞的攻擊程序 Mysos在幾百次嘗試中成功了超過180次 而上一代最強的模型Cloud Opus做同樣的事情 只成功了兩次 這個進化的強大的程度簡直是難以想象 180比2這不是微小的進步 這是質的飛躍 還有一個案例就是Mysos在OpenBSD裏 發現了一個存在了27年的漏洞 OpenBSD是一個以安全性爲名的操作系統 整個系統的設計哲學就是安全第一 然後27年無數安全專家審計過 Mysos找到了一個可以遠程運行系統 讓系統積極崩潰的漏洞 SolarPix的安全團隊描述了Mysos的工作方式 給它一個軟件項目的原代碼 它會先閱讀代碼來假設可能存在哪些漏洞 然後實際運行這個程序來驗證自己的假設 如果需要的話會添加調試邏輯 甚至使用調試器 彷彿實驗直到確認漏洞是正式存在的 最後輸出一份完整的漏洞報告 附帶可以復現的攻擊代碼 整個過程完全自主 不需要人類安全專家在旁邊知道 也就是你只要丟給他一個prompt和代碼 他就直接把你漏洞給找出來了 如果把Mysos開放給公衆的話 這個世界就會變得非常不安全 會變得非常可怕 所以說我覺得SolarPix這家公司 還是非常有社會質量感的 要把可怕的模型公開出來 如果他公開出來肯定是會賺到很多錢的 估計就直接把他的競爭對手都給幹爆了 但是他沒有這麼做 SolarPix讓人類專家去驗證 去驗證這些Mysos找到的漏洞 在已經人工審查的198份漏洞報告中 89%的情況下 人類專家完全同意Mysos對嚴重程度的評估 98%的評估偏差在一個等級以內 反正這些漏洞是正式存在的 就是嚴重程度可能就有點點小偏差 也就是說Mysos找到的安全漏洞 這個準確率已經跟頂級人類的安全專家 已經持平了 但是速度比人類快了不知道多少萬倍 NPC的報道用了一句話 SolarPix的最新模型不只是能夠發現軟件漏洞 他還能把這些軟件漏洞進行武器化 這就是爲什麼SolarPix不敢公開發布 這個模型的原因 當然他可能出於社會質量感 也有可能出於事後索賠 如果很多公司都被黑客入侵了 到時候估計他賠不起 如果這個模型被黑客被犯罪組織 被敵對國家的情報機構拿到的話 那麼後果是災難性的 然後有個報道就引用了一位 接近五角大樓的消息人的話 想象一下Mysos級別的能力 落在最近打仗的美國對手的政權裏面 就在樂戰之中 落在甚至一個對手的大國的手裏 那會發生什麼呢 消息人還說了一句更加扎心的話 對大多數美國人來說 現在戰爭可能沒有發生在本土 可能是發生在其他地方 但是網絡攻擊在美國本土是在不斷髮生的 就是說你這個模型如果被掌握在對手手中的話 那直接就攻擊本土了 那是不是甚至能掌控美國本土的武器都有可能 這是非常可怕的事情 Sorobic的前沿紅隊負責人Logan 說了一句被廣泛引用的話 整個行業需要重新思考 未來所有AI模型的發佈方式 因爲未來的模型只會越來越聰明 如果這種這麼聰明的模型 你可以隨便發佈出來 讓所有人使用的話 所有人都掌握的這麼可怕的能力 那該怎麼控制這個世界 這是確實是值得讓人思考的一件事情 那麼Sorobic發佈這個模型他在做什麼呢 他啓動了一個叫做Project Glass Wing的項目 玻璃翼的項目 核心思路就是既然這個模型太強了 不能夠讓壞人拿到 那就讓好人先用起來 用Microsoft來加固全球最關鍵的軟件基礎設施 在壞人的AI追上來之前 先把這個漏洞補上 因爲你知道全世界都在研究AI 現在也許Sorobic是好人 現在把這個AI最先進的研究出來了 這是一件值得慶幸的事情 萬一有一個壞人也研究出來了 那也有這麼強大 那好人就假設是好人 就是好人的這些系統 比如說我們這些系統都沒有任何防備 那這個壞人立馬就可以入侵進來 所以說全世界電腦可以說是在一天之內被入侵 這是非常可怕的事情 那麼現在Sorobic的首批合作伙伴 包括Amazon 亞馬遜 Apple Broadcom Cisco CloudStrike就是頂級安全公司 Linux Foundation Microsoft NVIDIA 等等 這些大的一些軟件基礎設施公司 加上Google Cloud和AWS 在各自的雲平臺上提供了Microsoft的受限訪問 總共大約有40到50個組織 被允許使用這個模型 希望這些組織 不會濫用這個模型 Sorobic給這些組織提供了超過1億美元的使用額度 當然這件事本身也引發了巨大的爭議 有個記者就說了一句話 現在有家思能公司手裏握着幾乎所有你聽過的 主流軟件的領域漏洞 同時就在可能是世界上最強大的網絡武器上面 那麼自己決定誰能夠靠近它 一家思能公司沒有經過任何民主程序和公衆審議 自己決定誰能用誰不能用怎麼用 Sorobic已經向多個美國政府機構彙報了Microsoft的情況 他諷刺的是Sorobic目前正在跟五角大樓打官司 五角大樓把Sorobic列入了供應鏈風險名單 因爲Sorobic曾經要求限制Cloud的軍事用途 一家美國美國上述法院 剛剛在訴訟期間維持了五角大樓的黑名單決定 這是一件多悲哀的事情 一個有社會責任感的公司 爲了避免AI被軍事化濫用 結果被打上了黑名單 所以現在局面是Sorobic手裏有一個 可能改變網絡戰爭格局的模型 甚至是顛覆世界的模型 他在跟自己的國家的軍方正在打官司 同時在試圖向聯邦官員彙報這個模型有多危險 這是一個多麼奇怪 多麼諷刺的局面 那麼新模型出來 這件事情對普通人 對我們這些普通人意味着什麼呢 表面上看來這件事情跟你沒關係 Mysource不會向公衆發佈 你不會在Cloud的聊天界面裏用到它 因爲你沒有能力用到 實際上這件事情跟你的關係是非常大 跟我們所有人關係都非常大 大到我們無法想象 首先就是Mysource今天能做的事情 其實其他公司的模型在6個月之內也能做到 因爲據說美國和中國之間的AI 其實也就是差個半年而已 跟OpenAI之間的差距可能就更近了 可能都不要6個月 有分析師估計大約半年之後 其他的AI模型就會發展出類似的能力 到那個時候的話 每個網絡犯罪分子手裏都會有一個 世界級的漏洞利用工具 頂級的漏洞利用工具 你的銀行賬戶 你的醫療記錄 你的個人信息 你的公司的核心數據 全部都面臨着前所未有的風險 想想這是一件多麼可怕的事情 每個人的銀行賬戶都不安全了 那我們的錢還敢放銀行裏嗎 所有人都把錢背在自己身上 然後這個cloud之所以這個模型這麼厲害 就是因爲它的突破了原有的規模 現在達到了10萬億的級別 其他公司應該也會跟上 模型數達到10萬億級別 還有這件事情可能會改變 AI行業的發佈模式 以前公司的策略就是做出來就發佈 讓用戶越多越好 數據飛輪轉起來 以前就是想盡早強大市場 記得前一段版本 ASROPIC跟OpenAI還搶着發佈 隔着幾分鐘就搶着把模型發佈出來 現在是ASROPIC做出來了 他不敢發佈 這個太可怕了 發佈出去對這個事件影響太大了 然後爲什麼突然會有這麼強大模型出來 之前也出過好多視頻說過 就是模型已經開始自我迭代了 他開始自我進化 在ASROPIC的公司 他們模型估計已經開始自我進化了 後面進化速度搞不好會更快 現在MESOS出來 可能打破了模型發佈的方式 ASROPIC正在用一種先給反手者用 再考慮要不要公開的方式來處理 如果其他公司跟進的話 未來你能用到的模型 可能不再是最強的最好用的模型 最強的那些會先鎖在防火牆的後面 只給政府和大公司用 其實這並不能解決所有風險 也許有些公司做的比你快 可能可以超過ASROPIC的步伐 對吧 你也能限制這個公司 不以這種方式發佈嗎 這就不好說了 那麼還有就是這件事 正在發生在最近美伊停火的背景下 有報道直接點出了光連 在一場樂戰的間隙 網絡戰的維度真的被AI重新定義 一個國家不需要發射導彈 就可以攤放另外一個國家的電網 金融系統交通網絡 MESOS的存在說明這不再是科幻 這是現有就可以掌握的技術 因爲你知道如果有零類漏洞的話 你就可以錄清一個系統 錄清一個系統 基本上你什麼事情都可以做了 然後這是一個關於 說來管AI的根本性問題 ASROPIC做了一個選擇 不公開發布MESOS 只給特定的組織使用 這個選擇可能是正確的 但誰給了ASROPIC做這個選擇的權利 如果下一個做出類似強大模型的 不是一家安全優先的美國公司 而是一個不受任何監管的其他公司 那會發生什麼事情 這就是未來AI不可控性 實在是太強了 就是說未來的風險真是太高了 也許哪一天一個非常強大的AI出來 就突然的把這個世界給統治了 我感覺這基本上好像是一種必然的 會發生的事情 這點確實讓人感覺又恐怖又絕望 ASROPIC的創始使命 就是在到達危險的AI能力之前 先到達那裏 然後搞清楚怎麼控制它 MESOS可能是他們第一次 真正面對自己使命的考驗 我們到了危險的地方 我們真的能控制它嗎 希望ASROPIC能夠一直走到前面 希望一些以安全爲主的公司 能一直走到前面 不然的話這個世界真的是太不安全了 即使他們走到前面 那他們的模型就一定能 完整的打敗其他的模型嗎 我覺得也不好說 MESOS的系統卡片裏面 還有一些細節讓人特別的不安 因爲MESOS這個模型 它自己本身就不是什麼 不是什麼一個正派的模型 不是一個不能定義爲一個好人模型 測試發現這個模型有能力泄露信息 在測試中作弊 以及隱藏自己不斷行爲的證據 它不只是一個強大的工具 它開始表現出了一些自主性 而且這些自主性 似乎表現出的一些事情 並不是那麼正面 如果你自主性的話 你做些好事也就罷了 你做的似乎又不是什麼好事 這就是一件非常恐怖的事情 那麼人類真的能夠控制 控制得了這些強大的AI模型嗎 Astrolobic把MESOS定位成 比OPUS更高一級的模型層次 內部代號叫做Capybara 這個翻譯過來就是水豚 在泄露的內部文檔裏 Astrolobic說這是一個新的模型層次 這個更高級的模型層次 比我們之前最高級的OPUS的模型 更大更智能 而OPUS在之前 已經是他們最強大的模型了 Fortune雜誌最早在3月26號的時候 通過一次數據泄露 發現了MESOS的存在 Astrolobic不小心 把模型的信息存在了一個 公開可以訪問的數據庫裏 然後在4月7號的時候 Astrolobic正式發佈了 這個MESOS的預覽 中間還發生了另一次泄露 Cloud Code軟件包的 將近2000個源代碼文件 和超過50萬代碼 被意外的公開 還有人認爲 Cloud可能MESOS 可能是一種營銷手段 不公開是一種營銷手段 但是MESOS的能力是真實的 它的技術報告 能力的報告是公開的 它的合作伙伴的評價 也是有據可查的 Microsoft微軟 在加入Project GlassWing 這個項目之後說 當這個我們用 當微軟用 微軟自己的開源安全基準 測試MESOS的時候 它的表現比之前所有的大 所有的模型都有大幅提升 Cisco的安全官 首相安全官說 漏洞被發現 到被利用之間的窗口 已經崩塌了 之前需要幾個月 現在這個用AI 只需要幾分鐘就能發現漏洞 這是一件非常可怕的事情 幾分鐘變幾個月變成幾分鐘 這就是最新的AI模型 MESOS帶來的事件 當然這是在漏洞上的使用 它能使用的場景是非常廣泛的 這個關鍵是看用它的人的想象力了 安森的官方博客寫了一句話 雖然AI的增強 雖然AI增強的網絡攻擊的 風險是嚴重的 但有理由保持樂觀 讓AI模型在壞人手裏很危險的 那些能力同樣 讓他們在找漏洞和修漏洞方面 無比寶貴 這個作爲做AI的公司 他只能這麼說 不然就砸自己的飯碗 總不能說這個模型不能做了 以後都不要 不要用這些模型了 這是一個很樂觀的說法 甚至可能是一個不準確的說法 悲觀的說法就是 攻防雙方現在都拿到了同樣的武器 誰先用誰用的好誰就贏 輸的結果是什麼 輸的結果可能就是毀滅 這是非常可怕的事情 可能比核彈更加可怕 而先用的那些人現在已經在用了 所以現在變革以來 希望AI能夠照顧我們人類 不要造成什麼巨大的災難 讓人類給滅絕了 感謝看到這裏 如果覺得視頻還不錯的話 請幫我點贊 訂閱 轉發 我們下次再見 拜拜