科技原理 電腦顯卡GPU的工作原理,它是如何工作的?和CPU有什麼區別?

工业为什么
3粉絲
5 次觀看·2026年5月19日
AI 生成·可能包含錯誤
你認爲你的顯卡在運行畫面極其逼真的電子遊戲時,每秒能進行多少次計算?
也許是一億次,每秒一億次計算足以運行1996年的馬力歐64。
我們需要更高的性能,也許每秒一千億次計算,那麼你的電腦就能在2011年運行我的世界。
爲了運行最逼真的電子遊戲,例如賽博朋克2077,
你需要一塊每秒能執行約36萬一次計算的顯卡。
這是一個難以想象的大數字,讓我們花點時間嘗試將其概念化。
想象一下每秒做一次長城法題。
現在假設地球上的每個人都在進行類似的計算,但計算量不同。
爲了達到這張顯卡的同等計算能力,每秒36萬一次計算,
我們需要大約4400個地球上的所有人共同努力,每人每秒完成一次計算。
想想一臺設備竟然能夠管理所有這些計算,真是令人難以置信。
因此,在本視頻中,我們將分兩部分介紹顯卡的工作原理。
首先,我們將拆開這張顯卡,探索其內部的不同組件,以及GPU圖形處理單元的物理設計和架構。
其次,我們將探索其計算架構,瞭解GPU如何處理海量數據,
以及爲什麼它們是運行視頻遊戲圖形的理想選擇。
比特幣挖礦,神經網絡和人工智能。
所以,請繼續往下看,讓我們開始吧。
在我們深入瞭解GPU的各個部件之前,GPU和CPU有什麼區別?
我們先來了解一下GPU和CPU的區別。
在這款顯卡內部,圖形處理單元GPU擁有超過1萬個核心。
然而,當我們觀察安裝在主板上的CPU,中央處理器時,
我們會發現一個集成電路或芯片只有24個核心。
那麼,哪個更強大呢?
1萬個核心比24個核心要大得多,所以你可能會認爲GPU更強大。
然而,它比這要複雜得多。
一個有用的比喻是將GPU想象成一艘巨大的貨船,
將CPU想象成一架巨型噴氣式飛機。
貨艙容量指的是能夠處理的計算量和數據量,
而船或飛機的速度指的是處理這些計算和數據的速度。
本質上,這是在大量計算執行速度較慢和少量計算執行速度更快之間的權衡。
另一個關鍵區別是,飛機更加靈活,
因爲它們可以運載乘客、包裹或集裝箱,
並且可以在成千上萬個機場起飛和降落。
同樣,CPU也更加靈活,
因爲它們可以運行各種程序和指令。
然而,巨型貨船隻能裝在大容量的集裝箱,
並且只能在港口之間航行。
同樣,GPU的靈活性遠不及CPU,
並且只能運行簡單的指令,
例如基本算術運算。
此外,GPU無法運行操作系統,
也無法與輸入設備或網絡連接。
這個比喻並不完美,
但它有助於回答CPU和GPU哪個更快這個問題。
本質上,如果你想對海量數據執行一組計算,
那麼GPU完成任務的速度會更快。
但是,如果你需要評估的數據量少得多,
GPU的速度會比CPU更快。
此外,如果你需要運行操作系統或支持網絡連接
以及各種不同的應用程序和硬件,
那麼CPU就更合適了。
我們計劃製作一個關於CPU架構的獨立視頻,
請務必訂閱。
這樣您就不會錯過。
現在,讓我們深入研究一下這款顯卡,
看看它是如何工作的。
顯卡的中心是一塊印刷電路板,
或者說PCB,上面安裝着各種組件。
我們將從探索大腦開始,
也就是圖形處理單元GPU。
打開它,我們會發現一個巨大的芯片,
名爲GA102,
由283億個晶體管構成。
芯片的大部分面積
被層級結構的處理核心佔據。
具體來說,
該芯片分爲7個圖形處理集群GPC,
每個處理集群內有12個流多處理器或SM。
接下來,每個流逝多處理器內部
包含4個WARP和一個光線追蹤核心。
每個WARP內部包含32個
CUDA或着色核心和一個張亮核心。
整個GPU包含10752個CUDA,
核心336個張亮核心和84個光線追蹤核心。
這三種核心執行GPU的所有計算,
並且各自具有不同的功能。
CUDA核心可以被認爲是簡單的二進制計算器,
帶有加法按鈕、乘法按鈕和其他一些功能,
在運行視頻遊戲時使用最爲頻繁。
張亮核心是矩陣乘法和加法計算器,
用於幾何變換以及與神經網絡和人工智能協同工作。
而光線追蹤核心數量最多,
但數量也最少,用於執行光線追蹤算法。
現在我們瞭解了這款芯片內部的計算資源。
一個相當有趣的事實是
3080Ti和3090Ti顯卡都使用相同的GA102芯片設計作爲其GPU。
這可能違反直覺,
因爲它們的價格不同而且發佈年份也不同,
但這是事實。
那麼爲什麼會這樣呢?
在製造過程中,
有時圖案錯誤、灰塵顆粒或其他製造問題會造成損壞,
並導致電路出現缺陷區域。
工程師不會因爲一個小缺陷就丟棄整個芯片,
而是找到缺陷區域,
並永久隔離並停用附近的電路。
由於GPU具有高度重複的設計,
一個核心中的小缺陷只會損壞特定的流多處理器電路,
而不會影響芯片的其他區域。
因此,這些芯片會根據缺陷數量進行測試和分類或裝箱。
3090 Ti顯卡擁有完美無瑕的GA102芯片,
所有10752個CUDA核心均正常工作,
3090有10496個核心在運行,
3080 Ti有10240個,
而3080則有8704個CUDA核心在運行,
這相當於有16個損壞且停用的流逝多處理器。
此外,不同顯卡的最大時鐘頻率
以及支持GPU的顯存數量和代數也有所不同,
我們將在稍後探討。
由於我們一直在關注這款GA102 GPU芯片的物理架構,
讓我們放大其中一個CUDA核心看看它是什麼樣子。
這個簡單的計算器內部佈局了大約41萬個晶體管,
其中5萬個晶體管負責執行A乘以B加C的運算,
該運算被稱爲融合乘加FMA,
也是顯卡最常用的運算。
一半的CUDA核心使用32位浮點數,
本質上是科學技術法執行FMA,
而另一半核心則使用32位整數或浮點數。
該核心的其他部分可以處理負數,
並執行其他簡單功能,
例如位移位和位研碼,
以及收集和排隊傳入的指令和操作數,
然後累加並輸出結果。
因此,這個單核只是一個簡單的計算器,功能有限。
該計算器每個時鐘週期完成一次乘法和一次加法運算,
因此,憑藉這款擁有10496個核心和1.7GHz主頻的3090顯卡,
我們每秒可以進行35.6萬一次計算。
然而,如果你想知道GPU是如何處理除法,
平方根和三角函數等更復雜的運算的,
這些計算器運算是由特殊功能單元執行的,
而這些單元的數量要少得多,
因爲每個流多處理器中只有4個。
現在我們已經瞭解了單核內部的結構,
讓我們放大來看GA102芯片的其他部分。
在邊緣處,我們發現了12個顯存控制器、
NVLink控制器和PCIe接口。
底部是6兆的二級3M內存緩存,
這裏是JaggerThread引擎,
它管理着內部所有的圖形處理集群和流逝多處理器。
現在我們已經瞭解了GA102 GPU的物理架構,
讓我們放大來看一看顯卡組件顯卡內部的其他部分。
這邊是用於連接顯示器的各種端口,
另一邊是12V電源接口,
然後是連接到主板的PCIe針腳。
在PCB上,大多數較小的組件構成了電壓調節器,
一個轉換器模塊,
它將輸入的12伏電壓轉換爲1.1伏電壓,
並向GPU提供數百瓦的功率。
由於所有這些功率都會使GPU發熱,
因此顯卡的大部分重量都集中在一個散熱器上。
散熱器上有四根熱管,
將GPU和顯存芯片產生的熱量傳導到散熱片,
然後風扇幫助散熱。
除了GPU之外,最重要的組件
或許是顯存GDDR6X GDDR724GB的顯存芯片,
技術上稱爲GDDR6X SD RAM。
無論何時啓動視頻遊戲或等待加載屏幕,
加載所需的時間主要都花在
將特定場景或環境的所有3D模型
從固態硬盤移動到顯存芯片上。
如前所述,GPU在其6兆的共享二級緩存中
存儲了少量數據,
而這相當於視頻遊戲環境的這麼多內容。
因此,爲了渲染視頻遊戲,
不同的場景數據塊會在顯存和GPU之間不斷傳輸。
由於核心每秒要持續執行數十萬一次計算,
GPU是數據飢渴的機器,
需要持續不斷地輸入TB級的數據,
因此這些顯存芯片的設計
有點像多臺起重機同時裝載貨船。
具體來說,這24塊芯片每次總共傳輸384位數據,
這被稱爲總線寬度,
而可以傳輸的總數據量,
或者說帶寬約爲每秒1.15TB。
相比之下,支持CPU的DRAM條只有64位總線寬度,
最大帶寬接近每秒64GB。
一個相當有趣的事實是,
你可能會認爲計算機只使用二進制E和0來工作。
然而,爲了提高數據傳輸速率,
GDDR6X和最新的圖形內存GDDR7
使用多種電壓電瓶,
而不僅僅是0和1通過總線發送和接收數據。
例如,GDDR7使用三種不同的編碼方案,
將二進制位組合成三進制數字或PM3符號,
電壓分別爲0,E和-1。
以下是編碼方案說明如何將三個二進制位編碼成兩個三進制數字。
該方案與11位到7個三進制數字的編碼方案相結合。
最終僅使用176個三進制數字發送276個二進制位。
上一代GDDR6X及這款3090顯卡所採用的內存
採用了一種不同的編碼方案,
稱爲PM4,
即使用四種不同的電壓電瓶發送兩位數據。
然而,工程師和顯卡內存行業一致同意在未來的顯卡芯片中改用PM3,
以降低編碼器的複雜性,提高性造比並提高能效。
現在我們已經探索了這款顯卡和GPU內部的許多物理組件,
接下來讓我們探索計算架構,
看看像視頻遊戲圖形和比特幣挖礦這樣的應用程序
是如何運行所謂的令人尷尬的並行計算的。
操作
雖然聽起來可能有點傻,
但令人尷尬的是,
並行實際上是計算機問題的一種技術分類,
幾乎不需要任何努力就能將問題分解成並行任務。
而視頻遊戲渲染和比特幣挖礦很容易就屬於這一類。
本質上,GPU使用一種名爲SIMD的原理來解決令人尷尬的並行問題。
SIMD代表單指令多數據,
其中相同的指令或步驟會在數千到數百萬個不同的數字上重複執行。
讓我們看一個例子,
看看如何使用SIMD或單指令多數據來創建這個3D視頻遊戲環境。
正如你爲什麼GPU運行視頻遊戲圖形,
對象變換可能已經知道,
桌子上的這頂牛仔帽由大約28000個三角形組成,
這些三角形通過連接大約14000個頂點構成,
每個頂點都有X,Y和Z座標。
這些頂點座標是使用稱爲模型空間的座標系構建的,
其原點爲0,0,0,位於帽子的中心。
爲了構建一個3D世界,
我們將數百個對象,
每個對象都有自己的模型空間放置在世界環境中。
爲了讓相機能夠分辨每個對象相對於其他對象的位置,
我們必須將每個獨立模型空間中的所有頂點
轉換或變換到共享的世界座標系或世界空間。
那麼舉個例子,
我們如何將牛仔帽的14000個頂點
從模型空間轉換到世界空間呢?
我們使用一條指令,
將世界空間中牛仔帽的原點位置
添加到模型空間中單個頂點對應的X,Y和Z座標。
接下來,我們將這條指令複製到多個數據中。
這些數據是用於構建牛仔帽的其他數千個頂點的剩餘X,Y和Z座標。
接下來,我們對桌子和場景中其他數百個對象執行相同的操作,
每次都使用相同的指令,
但使用不同的對象在世界空間中的座標,
以及每個對象在模型空間中的數千個頂點。
結果,所有物體的所有頂點和三角形都被轉換到共同的世界空間座標系。
而相機現在可以確定哪些物體在前,哪些在後。
此示例展示了SIMD單指令多數據的強大功能,
以及如何將單條指令應用於場景中5629個不同物體,
總共830萬個頂點,
從而進行2500萬次加法計算。
SIMD和高度並行程序的關鍵在於數百萬次計算中的每一次都不依賴於任何其他計算。
因此,所有這些計算都可以分佈到GPU的數千個核心上並並行完成。
值得注意的是,
從模型空間到世界空間的頂點變換隻是相當複雜的視頻遊戲圖形渲染流水線的第一步。
我們有一個單獨的視頻深入探討了其他每個步驟。
此外,我們跳過了每個對象的旋轉和縮放變換,
但考慮到這些值是一個類似的過程,
需要額外的SIMD計算。
現在我們對線程架構有了簡單的瞭解,
讓我們討論一下這種計算架構如何與物理架構相匹配。
本質上,每條指令由一個線程完成,
而這個線程與單個——CUDA——核心匹配。
線程被捆綁成32個線程組,
稱爲WARP,
並且向WARP中的所有線程發出相同的指令序列。
接下來,WARP被分組成線程塊,
由流逝多處理器處理。
最後,線程塊被分組到網格中,
這些網格在整個GPU上進行計算。
所有這些計算都由JaggerThread引擎管理或調度,
該引擎高效地將線程塊映射到可用的流逝多處理器。
一個重要的區別是,在SIMD架構中,
一個WARP中的所有32個線程都遵循相同的指令,
並且彼此保持步調一致,
就像一個士兵方陣一起移動一樣。
這種步調一致的執行方式一直應用於GPU,
直到2016年左右。
然而,較新的GPU遵循SIMT架構,
集單指令多線程。
線程,SIMD和SIMT的區別在於,
雖然兩者都向每個線程發送相同的指令集,
但使用SIMT,各個線程無需彼此同步,
並且可以以不同的速率進行。
從技術角度來看,用行話來說,
每個線程都有自己的程序技術器。
此外,在SIMT模式下,
流逝多處理器中的所有線程都使用共享的128KB L1緩存,
因此一個線程輸出的數據隨後可以被另一個單獨的線程使用。
從SIMD到SIMT的這種改進,
使得在遇到WARP發散時,
通過數據相關的條件分支更加靈活,
並且線程更容易重新收斂以達到屏障同步。
本質上,較新的GPU架構更加靈活和高效,
尤其是在遇到代碼分支時。
另外需要注意的是,
雖然您可能認爲WARP一詞源自WARP Drive,
但它實際上來自編織,特別是提花之機。
這臺1804年的織布機使用可編程穿孔卡,
從一組紗線中選擇特定的紗線,
編織出複雜的圖案。
織布機雖然令人着迷,我們繼續吧。
我們最後要探討的主題是
比特幣挖礦、張亮核和神經網絡。
既然我們已經探討了比特幣挖礦
如何在電子遊戲中使用單指令多線程,
那麼讓我們簡單討論一下
爲什麼GPU最初用於比特幣挖礦。
我們不會深入探討區塊鏈背後的算法,
我們會留到另一期節目再講。
但本質上,要在區塊鏈上創建一個區塊,
需要對一組數據運行線256哈希算法。
這些數據包括交易、時間戳、附加數據
以及一個稱爲NANCE的隨機數。
將這些值輸入線256哈希算法後,
會輸出一個256位的隨機值。
你可以把這個算法想象成一個彩票生成器。
雖然你無法選擇彩票號碼,
但線256算法會根據輸入數據
生成一個隨機彩票號碼。
因此,如果你更改NANCE值
而其他交易數據保持不變,
你就能生成一個新的隨機彩票號碼。
此次比特幣挖礦彩票的獲勝者
是第一個隨機生成的彩票號碼。
其前80位全爲0,
而其餘176個值則無關緊要。
一旦找到中獎的比特幣彩票
獎勵爲3比特幣,
彩票將使用一組新的交易和輸入值重置。
那麼,爲什麼要使用顯卡呢?
GPU使用相同的交易、時間戳和其他數據,
但使用了不同的隨機數NANCE
對線256算法進行了數千次迭代。
因此,像這樣的顯卡
每秒可以生成大約9500萬個線256哈希值,
或者9500萬張隨機編號的彩票,
並且希望其中一個彩票號碼的前80位全爲0。
然而,如今裝滿ASIC或專用集成電路的計算機
每秒可以執行250萬一次哈希運算,
相當於2600張顯卡的運算能力。
因此,在挖比特幣時,
顯卡在一臺ASIC挖礦機旁邊
看起來就像一把勺子。
Tensor核心,
接下來我們來討論一下Tensor核心的設計。
涵蓋生成式人工智能和神經網絡
需要多個完整的視頻。
因此,我們將重點介紹張亮核所求解的精確矩陣數學。
本質上,張亮核採用三個矩陣,
將前兩個矩陣相乘,
將第三個矩陣相加,
然後輸出結果。
我們來看一下輸出的一個值。
該值等於第一個矩陣第一行的值乘
然後將第三個矩陣的相應值添加到輸出中。
由於三個輸入矩陣的所有值都同時準備好,
因此張亮核可以同時完成所有矩陣乘法和加法計算。
神經網絡和生成式人工智能
需要數萬億到數千萬億個矩陣乘法和加法運算,
通常使用更大的矩陣。
最後,節語顯卡方面的內容就到這裏。
三連關注,點贊也行。
