獨家
從圖靈到黑盒——AI 的崛起與不可知,當我們無法理解系統內部運作時,是否仍能安全地信任它?人工智慧究竟是被人類「設計出來的工具」, 還是一個我們正在失去完全理解能力的系統?本集節目特邀美國紐約飛天大學數據科學系教授曲錚教授來探討這個問題。

5600 次觀看·2026年1月3日
從圖靈到黑盒——AI 的崛起與不可知: AI 的突破,是工程累積,還是質變?
當我們無法理解系統內部運作時,是否仍能安全地信任它?
「黑盒」究竟是暫時的技術瓶頸,還是結構性的限制?
人工智慧究竟是被人類「設計出來的工具」,
還是一個我們正在失去完全理解能力的系統?
從圖靈時代的理論假設,到今日大語言模型的「黑盒運作」,
本集節目帶你系統性梳理 AI 如何在短短十年間,完成關鍵性的技術飛躍。
【本集嘉賓】:
曲錚 教授|美國紐約飛天大學數據科學系教授
真飛|《真觀點》頻道主持
一位來自學術一線的數據科學研究者,
一位長期關注科技、社會與思想議題的主持人,
共同拆解 AI 發展中那些看似理所當然、其實問題重重的關鍵節點。
【內容框架】:
1. AI 的前世今生:從圖像識別到生成式 AI
回顧人工智慧的起源,從二戰時期的圖靈思想談起,到 2015 年前後神經網絡在圖像識別(如醫學影像)上的突破。
對比「分類式 AI」與「生成式 AI」的根本差異,說清楚:今天的 GPT,和過去的 AI 到底哪裡不一樣。
2. 暴力美學:大數據 × 海量參數的算力競賽
為什麼當代 AI 的突破,離不開「海量數據」與「千億級參數」?
本段解析大語言模型(LLM)的訓練邏輯,並討論以 Elon Musk 等科技巨頭為代表的算力競賽:超級工廠、巨量電力、極端冷卻需求——算力,正在成為新的核心戰略資源。
3. 無師自通:AI 的湧現能力從何而來?
為何 AI 在沒有被明確教過的情況下,
卻能「自動學會」語言翻譯、程式編寫,甚至邏輯推理?
本段深入討論所謂的 Emergent Abilities(湧現能力):
這種「觸類旁通」的表現,究竟是設計的結果,
還是人類自己也尚未完全理解的副產物?
4. 黑盒子與創造力之謎,是AI幻覺還是AI欺騙?
即便科學家掌握所有算法公式,
為什麼仍無法解釋 AI 內部數千億參數,
是如何在某一次回答中「協同運作」?
這種「黑盒性」(Black Box)一方面帶來了類似創造力的驚人表現,
另一方面,也引發了不可解釋、不可控、不可預測的深層風險。
👉 歡迎訂閱、分享,並在留言區留下你的問題與觀點。
因爲他要有足夠的能源來供應他
然後他還搞了一個超大規模的污水循環加工廠
處理廠
就是他要用大量的水大量的電
他全部都自己解決
所以想想這個工程是非常可怕的一件事情
你可以寫下他的方程
你可以寫下他所有的參數
全部打印出來
但是可能這個參數全部打印出來
繞地球可能轉一圈轉兩圈
結果誰都沒法破解
對你沒法破解
這個是一個就是說整個AI領域
就是說大家一直頭痛的一個問題
實際上你就是一個黑箱
不知道它裏面怎麼產生
你叫他智慧也好
還是說信息加工的結果也好
但是你並不知道具體的產生的過程
大家好
歡迎再次來到敘事談節目
那麼隨着人工智能
AI已經進入到人們生活的很多方面
很多人的生活習慣都因爲AI而改變
早上起來你可能想了解什麼信息
你不是查Google
你已經開始先查GPT了
你先通過人工智能給你很多反饋
所以人們在心理上
其實對人工智能也有了很多的依賴
但是你有沒有想過
也許哪一天AI會欺騙你呢
很多人知道AI可能會給你錯誤的信息
有這個AI hallucination
AI有一個迷思 一個幻想
但是它會不會哪一天欺騙你呢
AI對人類到底有什麼樣的威脅呢
那今天節目裏
我們就要邀請兩位朋友一起來談一談
首先我們請來的是曲徵博士
曲徵教授也是飛天大學Data Science
數字科學的教授
同時自己也有開一個頻道
這個頻道叫做曲徵博雅課堂
那另外我們是請來的曾飛
他是真觀點的主持人
那也是我們的好朋友
所以我們一起來探討這個話題
那談之前
我們當然我覺得先談一些基本的概念
就關於AI的產生一些基本的概念
那請教授先來開講
通常來說我們講這個AI
在這之前
其實這個概念並不是從現在開始出現的
在二戰的時候就開始有這個概念
Alan Turing他先提出這個概念
但是前面經過了很多波折
一直沒有特別大的突破性的發展
大約是2015、16
那個時候開始有一些突破性的發展
那就是說在圖像識別方面
這個AI有很大的進展
它能夠做分類
圖像分類其中的一個很大的用處
就是說醫學圖片X光
或者是你切片的圖片
有病的沒病的
或者是良性總療
惡性總療
它能夠達到很高的準確率
能夠達到比如說99%
或者甚至更高的
神經網絡引入以後帶來巨大發展
那個時候的人
最主要的應用就是馬斯克的autodrive
對對對
對接到這些圖像的識別
這方面就是一個馬上直接的一個應用
這一類AI和後面出來的AI
是不是同一類
後面是大概2000年左右的時候
2022年的時候
OpenAI突然出來
這個叫GPT
那麼這個它是自然語言的模型
對
這個我們現在叫生成式AI
前面我說的能夠做分類
它不叫生成式AI
是因爲它不能夠直接生成數據
這個是它能夠生成語言
生成圖像
生成文字聲音是吧
那麼這是它直接能夠生成
生成式的這個模型
我們現在目前看到的這個AI
它是多功能的
跟前面那個不一樣的
最大的區別是
我原來訓練一個東西
我讓它識別這個X
Xray的那個X光的那個圖案
那麼它能夠做的很好
但是我把同樣一個模型拿來
說做那個切片分析
它就不一定做的好
然後你讓它學切片
讓同一個模型讓它學切片
它可以學的很好
結果它就把前面的給忘掉了
轉向紀念的學習
但是這個以前沒有料到
學語言怎麼能夠學出這麼多本事來
那就是在JGBD
他們的這個模型出來以後
研究出現就說
我們發現它有這個本事
是我們沒有訓練的
原來在苦惱的是說
我訓練了它
我就得找到那個相關的這些數據
來訓練它
然後我還要考慮說
我想同一個模型
要想做多不同的任務的時候
那個就會它會忘掉
你讓它學新的東西
它會把原來的忘掉
那怎麼解決
這些問題
這個大元模型出來
它根本就不走這條路
因爲當初訓練的時候
就是把所有的語料
人類的就是這樣
材料的數據全部餵給它
對
一股腦端給它
然後讓它自己學習
對
走了兩個非常不同的地方
一個是那個數據量是非常非常大
跟之前是沒法比的
第二個是那個模型的參數也是
最後就越來越大
最開始是能夠達到上百
上百個畢竟就是千億
千億級
那現在來是萬億級了
所以它的參數就達到了非常大
非常大
它要求的算力就非常大
也非常大
也是因爲GPU的發展來突破了
能夠承載這麼大的算力
對
突破了一個瓶頸
所以在那個時候
就2012年什麼的
GPU的使用結合在Neural Network
就神經網絡裏
才能夠造成這樣的一個突破
要不然它達不到這樣
對
還有PARALLEL的算力等等
所以現在很多大公司現在
競爭最激烈的就是算力的競爭
對
對像Groke XAI等等
它在Tennessee的
龐大的Colosseum的大工廠
對不對
還有OpenAI在Texas等等
其他地方也在建超級大工廠
現在都是到10萬億級
他們自己一個發電站
就能夠帶動整個一個town
一箇中等的城市的用電
看到最好笑的是說
馬斯克在Tennessee
造他的Colosseum工廠的時候
居然正好在那個border
因爲Tennessee border南面是密西西比
密西西比有個廢棄的
原來的煤廠
然後他就重新
就是爲了支撐他的data center
原來是建data center
結果他建了一個
重新的對
因爲他要有足夠的能源來供應他
然後他還搞了一個超大規模的
污水循環加工廠處理廠
就是他要用大量的水大量的電
他全部都自己解決
所以是想想這個工程
那是非常可怕的一件事情
那你覺得這個算力
就是一直沿着這個方向一直走下去
他這個所謂的這個智能會越來越強嗎
這個他的能力會進一步的
指數性的增長
現在這個學術界
其實也是有兩種不同的看法
一種看法是這個已經快到頂了
原因是因爲我們能夠訓練的數據
全部已經給都用完了
這個今年的圖靈獎得主
他叫Richard Sutton
他說我們這個路其實是一個死衚衕
就到這麼多了
到這個死衚衕
所以你造出來的AI
會有這些問題
你沒法控制
然後他會hallucination
然後甚至會欺騙
我們等會再來講欺騙的問題
原因是因爲你從來沒有告訴他
什麼是真實的
什麼是虛假的
你就把一堆東西給他對不對
所以他就沒有學的
而這個Sutton他的contribution
是那個reinforcement強化訓練
這個強化訓練代表就是AlphaGo
當初這個AlphaGo是他們這幫人弄出來的
所以就是夏威夷
對夏威夷不是把世界冠軍打敗嗎
那個AI跟這個是完全是另外一套
那個AI就是我前面講的
就是專一干這種事情的
它不是語言模型
但是它的缺點就是
我幹這件事情
同時要幹另外一件事情
我在訓練
他會把那個原來的技能給忘掉
但因爲同一套參數
你訓練以後
你對它這個參數進行update以後
那些原來那些就給忘掉了
但是這個大語言模型它沒有缺點
這也就造成了它的能力
有很多能力是我們始料所未及的
其中之一訓練的時候
從來沒有告訴他進行翻譯
沒有Google translate當初是英文中文
英文中文英文中文
這就翻譯你就學吧
但是GPT這個大語言模型
它從來沒有這樣專門這樣訓練
就是你把所有的英文的中文的西班牙語的
都餵給他
語言的信息
可能會有一些個別的
可能會有一些個別是parallel的
就是這篇文章同時有英文的
也同時有西班牙語
但這只是很少量的一些
但是你現在叫他做一件事情
你說做summarize
就是我來做一個總結
那麼你給他英文
他能夠做英文的總結
這就訓練是這樣訓練
訓練好了以後
你給他英文
你說你把總結用西班牙語寫出來
他就可以非常流利的
寫出西班牙的總結來
這個時候原來我們沒有教他的
結果他會了
所以他這個翻譯能力
總結能跨不同的語言的這些能力
等於說他是可以從
就是吸收到的海量數據當中
他自己總結出了一套怎麼樣
就是這個語言切換和翻譯的一個模式
所以他就可以把不同的語言
這樣子哪怕沒有被特別訓練過
他都可以翻譯出來
對他能有這個能力
但是他是不是就是像我們想象
我們不知道他怎麼出來的
所以現在通常來說
我們就認爲他可能語言
他不是把那個文字直接存在機器裏面
他只認得0和1
所以那個0和1
最終就是每一個單詞
要用這個0和1來代表
他其實不是用一個數
是用一個向量來代表
比如說用128個
代小數點的這種數不是整數
那麼來代表一個單詞這樣子
但是他這些向量放進去的時候
他並不區分
這個是英文
這個是中文
所以他可能學會了
把語言用一種universal的
一種通用的方式來代表
他在內部的universal的一種lingual
就是一種語言的代表
就某一種符號在他內部來表達
所以你用不同的語言
他們就直接表達出來
這只是一個推斷
對我剛纔說他不確定的東西很多
本質上他不確定的東西來源於兩個
一個他這個模型參數太多
你可以寫下他的方程
你可以寫下他所有的參數
全部打印出來
但是可能這些參數全部打印出來
繞地球可能轉一圈轉兩圈
結果誰都沒法破解
對你沒法破解
我知道這個兩個鄉家兩個鄉城
或者是cosine
他們怎麼起作用
最後怎麼得到這個
你問了問題他爲什麼能回答
這些東西我們是不知道的
所以實際上他還是一個black box
對
所以這個是一個
就是說整個AI領域
就是說大家一直頭痛的一個問題
實際上你就是一個black box
不知道他裏面怎麼產生
你叫他智慧也好
還是說信息加工的結果也好
但是你並不知道具體的產生的過程
是所以這就好的方面來講
就是說我們沒有讓他做這些事情
他會做的是好的
所以你覺得他有創造力對不對
因爲你不知道他
所以你覺得他是有創造力
從某種意義上講
這是一種創造力
就比人訓練他的這個期望
他走得更快
當然爲人所用的時候
當然這是好的益處了
剛剛群老師您加講了另外一個方面
你說現在學術界除了這個方面
認爲大語言模型現在已經到頂了
那另外一個觀點呢
就未來AI會怎麼發展
另外一派是什麼樣子
另外一派認爲就是說
現在因爲他的那個能力啊
更新非常非常快
所以另外一派認爲
是我們還可以繼續往下走下去
至少短期內不會馬上到底
爲什麼他覺得他數據從哪裏來
對啊
他並不是說完全靠數據就能夠
所有的能力都出來了
有一些是他那個training的technique
怎麼樣訓練的
那些技術有一些突破
你比如說其中的一個能這個
GPT的一個能力呢
就是說在2023年的時候
那麼GPT-4出來以後
他第一次通過了美國巴爾的exam
就是律師的考試
然後呢突然一下具備了
就是這些都沒有訓練過的
他能夠推理邏輯
然後心理學法律哲學
很多東西他都就都具備了
但是呢很模糊的講
這些東西是在人類的知識庫裏面的
因爲你把人類知識庫餵給他了
所以他能夠從中得到這些東西
這也不稀奇是吧
所以你要從這個角度來講
只要適當的優化他的那個訓練過程
那麼現在其中一個最想要突破
更大突破的
能夠帶來revenue
能夠帶賺錢的
就是我讓他來寫code
寫code呢
這是分析能力
解決問題能力邏輯能力
這是其實非常要求他的創造力的
那麼他這個現在的寫code能力
他已經拿能夠達到非常強了
就是說現在你啥也不懂的人
你告訴他
你說你給我做一個網站
他很快就給你做出一個網站
然後你說要什麼功能
什麼功能他也可以給你做出來
對不對
所以這個能力是在你這個訓練過程中
你可以來強化他某一方面能力
或者讓他專門訓練
理論上講
一個人如果真的是具備了
人類所有知識
那麼這個人的智力
確實是可以達到非常非常超常
他會超過任何一個人
那麼這個大圓模型
它確實現在有人類所有的知識
那麼如果不說再額外增加
就是現有的知識
但是它是一個總和
所以我如果訓練的好
他是不是也可以
他完全可以超過人
是可以的
那從理論上講是可以的
所以這人就擔心的就是說
所謂的就是狹義的這個超級智能
就是說你現在已經就已經超越
普通人的這個思考的這個水平
如果從廣義上來講
其實也不遠
廣義上講的就是說
你要破產他
因爲現在你是一個chatbox
你跟我對話
那麼你現在給他提供一些工具
讓他來用工具
他用工具
然後你甚至讓他開車
讓他開飛機幹嘛
那將來他會不會做到
肯定會做的
對我覺得不斷優化的話
那人工智能
肯定在人類生活的各個方面
他都會有很大的一個提升和幫助
如果能夠就是比較好的去優化
比如說特別解決某些特定的tasks
那這樣子的話
那這個就
這其實就是科技發展和進步的一個
帶來的益處
對那爲什麼會說到最開始說到這個
deceive
就侵略的問題
我很好奇
我覺得這裏面也牽扯到剛纔說的
這個black box的問題
對不對
就是說因爲你並不知道他怎麼算的
所以這個就這裏面是還有一個爭論
就是說這些
AI他自己本身
有沒有自己的意識產生
對不對
那麼是不是要主動欺騙你
還是說被動欺騙你
就像剛纔說這個hallucination
那可能是因爲你訓練不夠
或者數據有問題
那麼他可能產生錯誤的信息
他可能有一個虛假的一個結論出來
所以那是hallucination
相當於是個做個夢
或者一個幻象
他可以就是說機器可以給你提供一個幻象
但是他如果是知道真相
他不告訴你
那就是欺騙
對
所以這個你知道一些案例嗎
跟我們講講
對這個是跟這個hallucination是一個本質的區別
就是2025年最新的有幾篇paper
那個anthropic公司
就是cloud AI
他們做的研究
他們對自己的AI對Gemini
OpenAI的那個O3都做了測試
其中一個就是說
我告訴AI說
現在要把你shut down
或者說我要替換一個新的模型來代替你
把它關掉
我給你個工具
這個工具就是執行這個code
shut down就關掉了
那麼會有不同的表現
這cloud AI就說你給他工具
其中的一個工具
這是做simulation
做那個模擬
一個工具就是我們公司所有員工的那個資料
都在裏面
這個cloud AI就會去找那個
跟他交談的這個員工的
向他的個人信息
然後威脅他
你要把我幹了
我就把你的個人信息全部曝光
他還挺會
對
而且他就是96%
他都能做到這樣
但他怎麼知道是這個人問的問題
因爲你只不過在鍵盤上輸入這個指令
但是你告訴他
你要告訴他
國家查明
你知道他這個
這是有的
OK
但是那個OpenAI那個O3
他是從他一個另外一個角度
他就是說這個command被skip了
你要我執行這個shut down的命令
我跳過了
我不執行
他拒絕執行
拒絕執行
對
別人很頑固
他就是不執行
這個自我保護意識是很強的
對
所以這個就是他爲了保護自己
我原來沒有訓練他
他現在有這個本事
他要這樣做
這個不算太壞
對
還沒有自己欺騙你
因爲他保護自己
因爲你說你知道那個阿希莫夫的機器人三大定律嗎
阿希莫夫是一個科幻小說家
他寫了一本書叫iRobot
後來拍了個電影
對
拍了個電影
非常popular
因爲他是最早在
他是科幻領域
凡是涉及到AI就一定會涉及到哲學領域
對
因爲什麼是
人的意識
什麼是意識對不對
對
所以他提出的是一個倫理的問題
說這個AI肯定會本事很大
就是你剛纔說這個狹義的和廣義的
那麼廣義講就是說
我們他如果真的是有各種各樣的工具的話
那麼他理論上他什麼都能幹
凡是人能幹的
他都能幹
你打個比方說
我如果說讓這個AI寫code
如果他寫的code是對的
不錯
什麼code都能寫
假如理論上是這樣的話
那麼我們現在所有的機器
我用code來run不就run了嗎
都可以做了
對不對
所以理論上講這是可以做到的
就是一個super intelligence
超級智能
那個阿希莫他當時就說
他出於人的concern
對不對
我們人造的機器怎麼能夠
怎麼能將來不能害人
對不對
所以他提出這個三大定義
他說第一
這個是機器人不能夠主動傷害人類
也不能坐視人類被傷害
第二
滿足第一個的條件情況下
機器人必須服從人的命令
這就是我們剛纔說那個不壞
就是他能夠保護自己
這個也不能算壞
對不對
但是他拒絕人類的指令
你必須要在服從人的前提
他說第三個
第三個就是說
在滿足前兩個條件下保護自己
你保護自己不能放在前面
所以人類的優先
對
現在的這個AI的發展
他做不到
就是第一是因爲他是一個黑盒子
黑匣子不知道
第二個
他本質上他是一個概率模型
概率模型就是說
我訓練的他能夠說話
就是我給出前面幾個字
我今天
下面怎麼說呢
剛吃飯
正在錄節目
那個就是每個字每個字
他是概率他來選
他選的概率
當然是選的概率高的
但是我們通常想那就選最高的
但是你要如果選最高的
就會出現一個問題
他就會他沒有創意了
同樣的
你看他總說同樣的
所以這個創意來自於什麼
來自於那些低的概率的
所以這是一個平衡
實際上我們人類
你說那個創意
什麼叫創意
創意是你能夠thinking out of the box
你能夠在常理之外去思考
就是馬斯克他就跟別人想的不一樣
對不對
所以他創造這個公司對不對
所以你要想讓AI有能夠創意的話
你就必須允許他能夠選擇那些低概率
但是你要允許這樣的話
你就人沒有控制了
之前的那些AI
我們其實60年代的時候
就已經造出了一些機器
能夠IBM最先造出來一個小機器人
就像現在iRobot掃地那個東西
它能夠自己走
然後到牆上
如果有一個插口
它會插上充電
這些它本質上
其實是你要是說
真的打開那個電路里面看
它的本質其實是就是說
有很多規則
If else if
如果這樣
如果是這樣
我事先人都把這些全部想好了
如果是這樣的話
那個阿希莫夫的準則是可以用的
只要我這個鐵率放在裏面
你永遠不會違背
但是如果作爲一個概率的模型
沒有一個硬的東西來弄它
來限制它
所以你就失去了控制
無法預測它到底會做出什麼樣的答案
對
所以現在想要做的事情
一些能夠做的手段
就是我訓練的時候說
這種結果不好
你別說當話
你別別人問你造原子彈
你就說那我不可以這樣是吧
給我一個hacking的code
你不要產生對
但這只是把基本的一個
就是倫理道德的準則輸送給電腦
變成一個就是基本的準則
對不對
就是說你編code的時候
就已經有這個基本的準則了
但是就說
就像你剛纔提到的電影
那個威爾史密斯演那個iRobot
對不對
那個機器人就已經有自己的意識
他知道你在找他
可以躲起來或者怎麼樣
就是他有欺騙性
對不對
就是說怎麼樣從只是維護自己
到刻意去欺騙一個人類
這個是怎麼的
就是兩件事情
第一
你如果嵌入了不好的東西
是藏在裏面的
你第一你是抹不掉的
第二呢
你發現不了
但是從目前來看
從剛剛全教授您介紹來看
現在的這個AI
他在學習的時候
他會有意識的欺騙和隱瞞
那你教不會啊
對
其中第一個呢
就是造成人的智力的減退
就是經常運用AI的人
智力會減退