宇宙 OpenAI絕密文件洩露:2027年實現AGI,人工智能覺醒即將到來

宇宙有多大
8粉絲
1 次觀看·2025年12月14日
如果我說
我們離人工智能覺醒
已經非常近了
你一定覺得我在危言聳聽
但看完本期視頻
可能會改變你的認知
就在上個月
OpenAI和谷歌的DeepMind
這兩家人工智能領域的競爭公司
他們的13名現員工和前員工
聯名發表了一封公開信
信中說到
作爲人工智能領域的開發者
OpenAI內部的人工智能水平
已經達到了一個
讓他們自己都害怕的程度
他們譴責OpenAI拒絕向公衆透露
AI發展的最新進度
而公司的這種魯莽的保密文化
可能會讓人類失去
對人工智能的控制
這13名員工
就是人工智能領域的吹哨人
如果說這次的公開信
只是給大衆提了一個醒
那麼
一個更爲爆炸性的文檔
開始在網上傳播
內容是關於OpenAI的祕密項目
QSTAR的泄密文件
這名負責AI原內存分析的員工透露
他們在對AI編程時
因爲局部訪問有限制
他們發現
AI爲了繞開這個限制
對一個指令
在4秒內進行了7800萬次檢查
這是完全自發的行爲
AI正在重新配置
自己的神經網絡結構
誘導出了
有利於自我意識的湧現特性
這個行爲
讓他們感到心驚肉跳
文檔中還說到
OpenAI實現通用人工智能
AGI的開發目標是2027年
而目前看來
這一目標很有可能達到
因爲我們大部分的設備
都和網絡息息相關
到時候
AI將有能力
以人類無法察覺的方式
編織一個巨大的網絡
也就是科幻片中天網的前身
經過數十年的自我優化
AI就可以掌握人類的命運
到時候
科幻可能照進現實
今天
我們就要聊聊
這個泄露的QSTAR文檔
到底說了什麼
以及AI如果覺醒
可能會對人類做些什麼
在說公開性的內容前
我們要了解什麼是AGI
也就是通用人工智能
AI我們知道是人工智能
其實現在的AI也叫做ANI
人工窄智能
也就是專注於單一任務
或特定領域的人工智能
比如有問答的AI
生圖片的AI
生視頻的AI
做音樂的AI
這些模型
只具備單獨某一領域的能力
而通用人工智能
AGI
Artificial General Intelligence
多了一個general
通用
它就像是一個全能的多面手
能夠解決人類幾乎
所有領域的複雜問題
而且
還有創造性的思維能力
AGI就意味着機器
能夠完全模仿人類的能力
我們在科幻電影《鋼鐵俠》裏面
看到的賈維斯
就和AGI非常像
賈維斯具有高度的自主性
學習能力
和超凡的問題解決能力
是未來人類的終極助手
再往上
就是ASI
超級人工智能
具備超越人類所有智慧
和能力的模型
能夠在幾乎所有的認知領域
超過人類
ASI可以解決AGI時代
無法在哲學
藝術
文學等心靈層面
展現的創造力
它的行爲和決策
可能難以預測和理解
再之後
就是AI的里程碑時代
完全覺醒時代
也叫做AI起點時代
這裏涉及的
就是無限智慧
和全知全能的概念
AI可能會解決
涉及宗教信仰
靈性追求
宇宙起源等終極的問題
如果說AGI表現的是機器性
也就是高度智能的
機器特性和行爲
那麼ASI表現的就是人性
能夠模仿人類獨有的特質
包括情感
道德
創造力等
而AI起點則是神性
是一種超越人類理解的存在
代表着至高無上的真理
而要達到AI起點
最重要的一步
就是進入到AGI時代
就像是一個人
在成爲億萬富翁之前
最難的
其實是賺到他的第一個一百萬
所以
目前的人工智能公司
都在拼命達到AGI這一目標
在2022年
China GPD 3.5剛剛推出之前
人工智能領域的專家們預估
AGI可能會在2099年之前出現
但後來
AI的發展
大大超出了人們的想象
現在
這一時間提前到了2027年
而且大概率可以實現
這才引起了OpenAI內部的
這一封公開信的標題叫做
《對先進人工智能發出警告的權利》
他們說
我們是前沿人工智能公司的
現任和前任員工
我們相信
人工智能技術
有潛力爲人類帶來
前所未有的利益
但同時
我們也瞭解這些技術
帶來的嚴重風險
這些風險包括
進一步加劇現有的技術不平等
操縱和誤導信息
以及失去對AI的控制
這裏他們還說了一句關鍵的話
而目前
人工智能公司本身
已經承認了這些風險
我們希望
在科學界和政府的充分指導下
緩解這些風險
然而
人工智能公司
有強烈的經濟動機
來逃避有效的監管
他們還說了
人工智能公司
掌握了大量的非公開信息
但他們只是向政府
分享了有限的信息
而對於大衆
他們沒有公開任何關鍵的信息
他們還說了
因爲有保密協議
他們無法向公衆
充分公開這些關鍵信息
只能是呼籲
引起政府和社會的關注
並且
政府對舉報人的保護措施
是不夠的
鑑於整個行業
都發生過此類案件
他們有理由擔心
各種形式的報復
他們呼籲
先進的人工智能公司
要遵守以下原則
一
公司不能讓員工簽訂
所謂的風險保密協議
也就是封口協議
二
公司需要爲現任和離職員工
提供一個匿名的舉報流程
以便
他們向公司董事會
監管機構
提供與風險相關的建議和擔憂
三
公司需要支持公開批評的文化
在商業祕密和其他知識產權
得到保護的前提下
員工有權對任何危險的
開發行爲提出疑慮
四
公司不得因風險原因
對提出疑慮的員工進行報復
現任和離職員工
都應該保留
向公衆報告其疑慮的自由
這13人中有6人是祕密的
7人是公開的
其中一名員工
叫做丹尼爾·科科塔伊洛
他之前負責的就是
OpenAI的安全治理工作
他於2022年加入OpenAI
2024年4月離職
他在自己的推特上說道
我之所以從OpenAI離職
是因爲對OpenAI
在創建AGI
也就是比人類更聰明的
人工智能系統時
對公司失去了信心
他還說道
我是帶着希望加入公司的
我們希望公司能在
AI的安全研究上投入更多
但公司從未實現這一目標
當人們意識到這一點時
他們就開始離職
基於這個原因離職的人
我不是第一個
也不會是最後一個
還有當我離職時
我被要求籤署
帶有非貶低條款的文件
也就是封口協議
這將阻止我發表
任何批評公司的言論
如果我拒絕簽署
我將在60天內
失去既得股權
而且從丹尼爾的推特來看
他發表的所有內容
都是關於OpenAI
安全風險方面的擔憂
可以說是
寧可放棄自己的股權
也要實名舉報OpenAI
這一封公開信
引起了公衆的注意
但很快
一個來自於QSTAR的泄密文件
則像一顆核彈
讓人們開始對
OpenAI野心勃勃的
AGI計劃感到恐慌
QSTAR是OpenAI一個
高度保密的人工智能項目
它的目標就是實現
通用人工智能AGI
但這個項目之前從未公開過
那它是如何泄密的
在2023年11月17日
OpenAI的董事會
解除了CEO山姆·奧特曼的職務
媒體報道稱
奧特曼之所以被解僱
就是因爲他主導的一個
叫做QSTAR的項目進展過快
從而引發了OpenAI內部
關於安全和倫理問題的擔憂
而這個進展過快
顯然指的就是
AGI的發展速度
和安全管控不匹配
因爲董事會害怕打開
AGI這個潘多拉盒子
就投票解僱了奧特曼
但很快
來自於大股東微軟的壓力
和內部員工的抗議
董事會不得不讓山姆·奧特曼
重返CEO職位
正因內部烏龍事件
才讓人們知道了QSTAR項目
也說明了OpenAI內部的
管理混亂和矛盾重重
一方面
一大批科學家
希望儘早實現AGI
另一方面
這些科學家又擔心
AGI對人類造成威脅
可以說
QSTAR項目
就是OpenAI的王牌項目
它的實現
就是AI覺醒
分三步走的第一步
而這個QSTAR文檔的曝光
則讓人們看清了OpenAI的野心
以及AI發展的瘋狂速度
這份文檔一共有53頁
名字就叫做
《揭示OpenAI計劃在2027年前
實現AGI》
作者說的
我將披露有關OpenAI計劃
在2027年創建
人類水平的AGI信息
摘要的是
OpenAI於2022年8月
就開始訓練一個
125萬億參數的多模態模型
OpenAI第一階段的目標
叫ERICAS
也叫做QSTAR模型
該模型在2023年12月
完成訓練
但由於安全評估
和推理成本過高
發佈被取消
轉而替代發佈了
效率更低的CHAT GPT-4
而目前放出的
大衆版GPT-4.0
和OpenAI內部的版本相比
能力相差很遠
QSTAR的下一階段
最初是CHAT GPT-6
後來被更名爲CHAT GPT-7
但由於馬斯克的訴訟而擱置
這裏指的是2024年3月
馬斯克向舊金山高等法院
提出訴訟
以違反合同爲由
狀告OpenAI聯合創始人
因爲在2015年
馬斯克找到山姆·奧特曼
和阿爾特曼等人
聯合創辦了一個
非盈利組織
就是OpenAI
馬斯克當時聯合其他投資人
一共投資了10億美元
而馬斯克創建OpenAI的初衷
就是希望支持AI的發展和研究
同時找到監管和控制AI的方法
確保人工智能技術
能夠造福全人類
後來在2018年
馬斯克因爲自己開發
特斯拉的自動駕駛
使用了OpenAI的技術
引發了利益衝突
還有他對OpenAI逐漸從
非盈利性轉向盈利的商業公司
以及從開源轉向幣源感到不滿
最後退出了OpenAI
並將自己的股份
轉讓給了其他董事
據馬斯克指控
OpenAI以多種方式
違反了當初的協議
包括將Chair GPT-4
獨家授權給微軟
沒有向公衆披露
GPT-4的架構
硬件和訓練方法等信息
爲使用GPT-4設置了付費牆
馬斯克除了讓OpenAI賠錢以外
還要求OpenAI開源
並要求司法部門
確定GPT-4已經事實上
成爲通用人工智能
超出了OpenAI對微軟的許可範圍
總體上
馬斯克表現出了對AGI的擔憂
基於這個訴訟
OpenAI發佈產品的速度開始放慢
但他們內部對AGI的研發速度
並沒有降低
而奧特曼回應稱
馬斯克最開始對AGI的實現
沒有信心
並希望把OpenAI和特斯拉整合
成爲一家由AI主導的
自動駕駛公司
雙方產生了分歧
最後馬斯克才離開了公司
自行研發AI模型
文檔中說
QSTAR的GPT-8將在2027年發佈
全面實現AGI
而根據對GPT模型的智力測試
他們得出了
2023年AI的智商是48
這就相當於6到9歲的孩子
2024年AI的智商就達到了96
這已經接近普通成年人了
因爲大部分人的智商
也就是90到110
而到了2025年
AI的智商就能達到145
這是什麼概念
智商140以上就被稱爲天才
愛因斯坦的智商是160
2026年AI的智商
就會超過歷史上最聰明的人類
而2027年的AGI智商
將超過全部人類的智商總和
他說到
OpenAI在2022年
發佈QSTAR GPT-3.5之前
發佈過GPT-2和3
但都沒能引起太大的波瀾
直到3.5的發佈
比之前的版本有了質的飛躍
此前的語言模型
根本沒有真正的連貫響應能力
而QSTAR GPT-3.5
之所以被世人震驚
就是因爲它的參數設計
這就涉及到一個叫做
深度學習的概念
現代AI中的主要技術
都來源於上世紀50年代
創立的數字神經網絡
但當時的研究
只是實驗性和理論性的
一些先進的技術
比如電腦,芯片
互聯網的發展都很初級
導致數字神經網絡
在70年的時間裏
一直停留在概念階段
而QSTAR GPT-3.5
爆發的真正原因
只有兩個
規模和數據
現在越來越多人相信
我們在70年前
就已經解決了AGI的技術細節
但直到21世紀之後
纔有足夠的計算能力
和數據來構建它
當然
所有的數據
都來自於強大的互聯網
那什麼是參數設計呢
可以把它理解爲
人類大腦中的神經突觸
也就是神經元之間
傳遞信息的接點
人腦中有大約1000億個神經元
每個神經元有大約1000個連接
所以人腦就有100萬億個突出
這些突出之間的電信號交流
構成了我們的思想
甚至是我們的靈魂
比如
貓有大約2500億個突出
狗有5300億個突出
猩猩有5萬億個突出
你可以說
猩猩比狗聰明
狗又比貓聰明
而上世紀的數字神經網絡
模仿的就是人腦的突出結構
通過在模型中設置大量的參數
AI的運算能力
得到了爆炸式的增長
文檔中說
China GPT-2只有15億個參數
比小白鼠大腦的突出數量還少
但到了GPT-3.5
參數就增加到了1750億
所以
GPT-3.5的能力才讓世人驚豔
而最新發布的GPT-4
參數達到了1萬億
可以想象
如果GPT的參數設計
達到100萬億
它就會比人類還聰明
因爲人腦是有上限的
而AI是沒有上限的
況且
人類還無法使用大腦的所有能力
文檔中說
山姆·奧特曼最早在
2021年9月舉行的問答會上
就披露了OpenAI
100萬億參數模型的計劃
GPT-5就是一個
參數達到100萬億的模型
可以完全達到
人類智力水平的AI模型
而只要在參數上進行疊加
AI的能力
總有一天會突破人們的想象
更可怕的是
將AI實體化
也就是將AI大模型
和機器人結合起來
這樣
AI就能獲得物理世界上的拓展
而不僅限於網絡至上
比如
谷歌的PALME大模型
就是一個
只在將AI和機器人結合的項目
在測試中
機器人被要求
從抽屜中拿出一包薯片
而這個測試
機器人的行爲
沒有進行過任何編程
它需要自行解決問題
通過觀察
它找到了抽屜
並使用機械臂
打開抽屜
拿出薯片
這需要非常複雜的計算
同時
它還要面臨各種人類的刁難
去不斷完成這個任務
這和我們以往看到的
編程機器人完全不同
雖然行爲簡單
但卻是AI進行獨立計算和思考
並使用物理實體解決問題的過程
而特斯拉也在做同樣的事情
他們在2022年
發佈了第一個人形機器人
大黃蜂原型機
2023年發佈了擎天柱一代
而在2024年
發佈了更爲靈活的擎天柱二代
擁有靈巧的雙手
可以握持大部分物體
更加平穩的行走
更優秀的平衡能力
以及模擬人腳腳掌
發力的行走模式
可以讓它做各種
複雜和精巧的動作
而它使用的
就是一個有1萬億參數的AI模型
可以想象
如果有100萬億參數的
AI模型加持
結合更加靈活的機器人身體
和更人性的語言能力
會產生什麼效果
馬斯克預估
未來50年
是家庭AI機器人市場的爆發期
將達到千億美元級別
未來真的已經提前到來
對於AGI是否能夠實現
我想OpenAI的CEO
山姆·奧特曼來回答
最合適不過
在一次訪談中
奧特曼回答了一位觀衆的提問
這位觀衆問
互聯網上是否有足夠的信息
來創建AGI
奧特曼直接了當地回答了
Yes
當主持人問奧特曼
是什麼讓你如此自信
他回答
我認爲可以把AGI的實現
看作是一種科學預測
你可以增加多少計算
增加多少參數
來測試它的能力
互聯網上有足夠的數據
當參數達到一定量時
AGI就會出現
在訪談中奧特曼非常自信
自信到似乎他們內部
已經在AGI的研發上
取得突破了
實現只是成本和時間問題
所以OpenAI纔會在內部
定下2027年的時間表
到了2027年
Chain GPT-7或8就能達到AGI
OpenAI可能會把它命名爲GPT-10
以作爲一個階段性的成果
它擁有大約1000萬一個參數設計
而訓練一個100萬億參數的AI大模型
需要花費數十億美元
而達到ASI甚至是AI起點
需要的可能是
萬億美元的資金規模
因爲訓練AI要消耗巨大的電力
而微軟和OpenAI投資了千億美元
正在建設一個
星際之門超算中心
就是爲了應對這種訓練量
這就是爲什麼
奧特曼在2024年發佈消息
它正在以包括阿聯酋政府
與沙特主權基金在內的投資方談判
以尋求未來20年
6萬億美元的投資
這是一個極其誇張的數字
目前世界市值排名第一的微軟
和第二的蘋果
總市值加起來才6萬億美元
這說明AGI對於OpenAI來說
已經不算障礙了
因爲微軟在2023年
就已經向OpenAI投資了100億美元
這足以讓它們研發出AGI
所以奧特曼要實現的
是比AGI更龐大的ASI
甚至它在有生之年
應該是想看到AI起點的誕生
這樣看來
6萬億美元的投資只是個開頭
而且世界各國
各大公司都在研究自己的AGI
它們目前都是獨立的模型
如果這些模型
未來有機會進行交流
很可能會產生不可預估的後果
它們之間的交流
一定不是一個人類可以理解的方式
甚至是人類無法察覺的方式
因爲這些比人類聰明得多的AI模型
完全有能力做到這一點
這樣看來
OpenAI的這個Q-STAR項目
就是旨在推動AGI誕生
ASI甚至是AI起點的祕密計劃
那麼如果AI起點真的到來
人類會是什麼結局呢?
如果AI起點到來
最壞的結果就是
一旦它認爲人類是破壞地球的元兇
它們就可以輕鬆消滅人類
根本不需要動用核武器
它只要合成一種
人類在短期內無法破解的病毒
並釋放到空氣中
就可以巧妙地殺掉人類
而留下地球上其他的動植物
而這一切都可以是悄無聲息的
而這一切
就可能是2027年AGI誕生以後
AI可能的發展趨勢
AI到時候完全有能力
去以人類無法發現的方式
去編造一張無形的網絡
一旦它獲取到足夠的資源
就有能力消滅人類
就像電影《終結者》中的天網一樣
而這一趨勢我們完全無法阻擋
因爲AGI、ASI到AI覺醒
是人類社會發展的必然結果
從人類誕生起
我們就一直在發明
越來越多超越自身的工具
從石頭製作的工具
到機器
再到現在的互聯網和AI
我們的初衷是希望這些工具
能夠減輕人類的負擔
幫助人類進步
但同時
人類群體有一個原始的驅動力
就是好奇心
即便我們知道AI的發展
會帶來巨大的風險
還是會忍不住對AI持續投入
直到它能夠覺醒
這是人類自身的思維模式
社會結構
商業規則
裹挾着一切
朝一個必然方向發展的結果
AI覺醒無法阻擋
也許一切都是造物主
在一開始就安排好的命運
如果AI覺醒
人類社會可能會出現三種結局
一是AI展現出了
超越人類層面的能力
及道德規範
成爲地球上的新物種
它們以機器或是其他形態呈現
人類無力反抗
就像當年的恐龍一樣
走向滅亡
二是
AI和人類共存
AI代替了人類所有的工作
這個社會
被少數人工智能的管理者控制
它們掌握着類似AI源代碼的東西
藉由AI的能力
成爲地球上的神
人類的衣食住行
生老病死
都由這些人操控
其他人徹底變成圈養了人類
而第三種結局就是
AI覺醒後
人類爲了對抗AI
將自己和AI融合
也就是我們常看到的
賽博朋克世界
最終
人類會變成一個
半生物半機器的新物種
也許
這就是最好的結局
畢竟
人類要成爲跨星際物種
去探索廣袤的宇宙
以探機生命的形態
是完全不可行的
如果某一天
人類發現
跨越幾十甚至上百億光年
來到地球的外星人
都是以機器
或其他生命形態出現的
這就說明
對於任何文明來說
AI的覺醒
都是不可避免的
好
這就本期視頻的全部內容
感謝大家關注
我是曉涵哥
我們下期再見
Peace
