科技界的泰勒斯威夫特:黃仁勳

公园4004
2粉絲
11 次觀看·2024年4月10日
作為當今AI芯片市場的絕對霸主,英偉達為這個時代提供了最重要的"武器"——芯片。而它的創始人兼CEO 也成為了 AI 時代最具有代表性的人物。
黃仁勳的成長經歷充滿了坎坷和挑戰。從台灣移民到美國,在宗教改造學校面對欺凌和歧視,到憑藉堅韌和努力跳級兩次,16歲高中畢業。30歲那年,他與兩位好友創立了英偉達。
從最初為遊戲行業提供圖形處理器,到推出劃時代的CUDA編程框架,再到如今在AI芯片市場佔據70%以上的份額,英偉達的發展史見證了一家公司的不懈努力和戰略遠見。
時間線:
00:00 新一代科技偶像
01:36 黃仁勳的成長經歷
03:20 Nvidia 發展過程中的關鍵節點
05:40 從遊戲到 AI
10:00 眾多競爭對手
如果一個人 20 年前上綜藝的視頻
都被挖掘出來了
供網友細細品味
那麼這個人肯定是火透了
我還記得 半年前
我在各個平臺都能刷到 Musk 的語錄
Musk 在一段採訪中的片段
Musk 在參加某個科技論壇
Musk 在參加某個播客
甚至 Musk社交媒體上發個表情評論都有人分析
現在 取代 Musk 的是黃仁勳
他是科技界的新偶像
每個時代都有引領潮流
代表這個時代精神的科技偶像
他們往往與當時最前沿 最具顛覆性的技術緊密相連
喬布斯的 iPhone代表着
消費級別的科技產品
在美學和工程的的卓越追求
緊接着
社交娛樂軟件變成了手機上最重要的應用
這標誌着社交媒體時代的到來
之後 Musk橫空出世
電動汽車和火箭象徵了人類的星辰大海
第一性原理彷彿成了萬事萬物的解藥
如今 這個AI 時代
充滿了炒作和信息的混亂
風口浪尖的人曾經是Sam Altman
但在經過宮鬥鬧劇後
他在很多人眼裏被視作是權謀之人
隨着大家冷靜下來
不難發現大語言模型的熱度和它真正的能力其實並不相互匹配
而當大家再往底層深挖的時候
發現這個世界已經被顯卡所吞噬
世界上絕大多數的算力
來自英偉達公司
這個公司的創始人和 CEO便是黃仁勳
誰能在媒體面前代表這個 AI 時代
這個穿着皮夾克男人
目前是媒體的共同選擇
有人說黃仁勳幽默風趣充滿能量
也有人評價他自大自負
有個例子是
在建造 NVIDIA新總部大樓時
對建築專業知之甚少的老黃
頻頻質疑他的建築師
堅稱這個建築師學到的知識都是錯誤的
要了解黃仁勳的個性
不妨追溯他的成長經歷
黃仁勳出生在臺灣
父母在他9歲時將他和兄弟送往美國
投奔在那裏的叔叔
由於叔叔對美國教育系統不熟悉
錯把他們送進了一宗教改造學校
我覺得可以理解爲類似於管教所性質的學校
可以想象
老黃在那度過了艱難的時光
他在回憶這段經歷時
也說這段經歷磨練了他的意志
在那個年代 學校沒有心理輔導
唯有讓自己強大起來這一條路
在這所改造學校裏
幾乎所有學生都抽菸
隨身帶刀也是家常便飯
黃仁勳後來自嘲道
自己可能是學校裏唯一一個不帶刀的男孩
由於年齡小 加上亞裔的身份
欺凌和種族歧視幾乎成了家常便飯
但是 憑藉着堅韌和努力
黃仁勳在學校跳級兩次 16歲高中畢業
大學時代 他專攻電子工程
在一個全是男生的理科班級
追求到了他未來的妻子
大學畢業後
兩人在硅谷的芯片設計公司任職
並攜手步入了婚姻的殿堂
有趣的是
黃仁勳在 AMD 擔任過芯片設計師
而如今 AMD的 CEO
恰巧是黃仁勳的遠房表親
不過他倆一直不熟悉
在業界工作幾年後
黃仁勳於1993年重返斯坦福大學攻讀電氣工程碩士學位
在30歲生日那天
他與兩位工程師好友創立了 Nvidia
在數字時代的戰場上
芯片就是最重要的武器
而Nvidia是這場戰鬥中最大的軍火商
英偉達佔據AI芯片市場超過70%的份額
也有人估計是90%
股價在過去一年飆升了230%
市值超過2萬億美元
進入全球第三 僅僅排在蘋果後面
它的發展勢頭讓任何競爭對手感到嫉妒
有意思的是
Nvidia的名字靈感來源於拉丁語中的嫉妒
也算是名副其實了
英偉達設備毛利率高達 70%
競爭對手Cerebras的高管諷刺到
Nvidia所做的
不過是對客戶進行敲詐
這種尖銳地批評 暗合這樣一個意思
英偉達你只不過趕上了好時候
你的產品現在奇貨可居
可以隨意定價
但競爭對手馬上就能趕上來
但回顧一下英偉達這家公司
他可不是一帆風順的趕上了風口這麼簡單
梳理 Nvidia 的發展歷程
會發現他們也曾面臨破產危機和股價暴跌
在最艱難的日子裏
由於使用 CUDA 進行深度學習的客戶太少
Nvidia不得不與大型食品公司簽訂合同
深入研究冷凍披薩的熱物理學過程以求生存
這段歷史雖然跌宕起伏
但也見證了 Nvidia 是如何爲如今的 AI 時代打下了基礎
而 我們離破產只有 30 天 這句話
就是在Nvidia 第一次面臨破產時提出的
那時候公司成立僅有四年
正面臨着一個關鍵的轉折點
創始人黃仁勳不得不做出艱難的決策
裁員一半
將公司的資源集中在
開發能夠處理三角形圖元的圖形加速器產品上
這一決策是對微軟的DirectX平臺
及其三角形圖元支持的直接應對
從 100 人裁員到 40 人
公司賬戶的資金僅夠支撐一個月的工資
在這種情況下
黃仁勳和他的團隊推出了 RIVA 128
這款產品在四個月內熱銷一百萬臺
打響了公司的聲譽
也讓公司獲得了研發下一代產品的收入
併爲 1999 年的上市奠定了基礎
這次經歷後
我們離破產只有 30 天
在很長一段時間
變成了公司的座右銘
如今的 Nvidia 已今非昔比
當 H100 芯片成爲最炙手可熱的鏟子時
我們更應認識到
Nvidia 的成功源於多年的佈局和在關鍵時刻做出的轉型
打遊戲的用戶對 NVIDIA 不會陌生
NVIDIA 最初主要銷售圖形處理器給遊戲行業
1999 年公司上市的那一年
NVIDIA 發佈了 GeForce 256
這款產品將板載變換和照明引入了消費級硬件
是一次突破性的創新
也是市場上第一款 GPU
憑藉這些產品的成功
NVIDIA贏得了爲微軟的Xbox 開發硬件的合同
並獲得了 2 億美元的預付款
自此
NVIDIA 開始穩步邁向遊戲行業霸主的寶座
遊戲業務也逐漸成爲其最重要的收入來源
然而 NVIDIA 的故事遠不止於遊戲
2000 年 一位名叫 ian Buck 的
斯坦福大學計算機圖形學研究生
開始嘗試用這些 GPU 來完成遊戲之外的任務
他先是將 32 塊顯卡串聯
以 8K 的分辨率玩遊戲
在受到資助後
開始利用 GPU 的並行運算能力
將其改造爲低成本的超級計算機
2003 年
Buck 領導的研究團隊公佈了 Brook
這是第一個被廣泛採用的編程模型
用於將數據並行結構擴展到 C 語言中
後來 Ian Buck 加入了 NVIDIA
並在 2006 年領導推出了 CUDA
根據 NVIDIA 的說法
這是世界上第一個在 GPU 上進行通用計算的解決方案
標誌着單純的顯卡正式進化爲 GPGPU
這一戰略 深深影響了如今的 NVIDIA
成爲它最爲關鍵的護城河
GPU 的架構雖然天然適合進行大規模的並行計算
這也很早就引起了科學家們的注意
但是 在NVIDIA推出CUDA編程框架之前
想要使用GPU進行計算是非常困難的
程序員必須編寫大量底層的代碼
直接與GPU硬件進行交互
這對於只會使用高級編程語言的程序員來說是一場噩夢
CUDA 的出現 改變了這一切
它提供了一種簡單的方式
讓程序員可以使用類似C語言的高級語法來編寫GPU程序
而無需關心底層硬件的細節
黃仁勳希望每一塊 NVIDIA 的 GPU 都能運行 CUDA
他十分重視這一技術
在 2006 年 CUDA 推出前期
就投入了 5 億美元的研發費
而當時 NVIDIA 的營收僅爲 30 億美元
然而 市場對 CUDA 的反響並不熱烈
因爲它當時主要針對的是規模很小的學術研究和科學計算市場
到 2008 年
NVIDIA 的股價已經下跌了 70%
NVIDIA 嘗試開拓的市場還很有限
他們爲來自金融 能源 生物等領域的客戶提供服務
但沒有考慮人工智能
因爲當時人工智能還是一個冷門領域
轉機出現在多倫多大學教授 Geoffrey Hinton 和他的學生們
開始用 CUDA 平臺訓練神經網絡
這個已經被許多科學家認爲
過時的技術
2009 年
Hinton 的團隊用它在語音識別領域取得了很好的效果
儘管 NVIDIA 拒絕了他索要免費 GPU 的請求
但Hinton還是鼓勵學生使用 CUDA
2010 年
Google 負責人工智能的吳恩達爲了訓練神經網絡識別貓
最初使用了 16000 臺計算機的 CPU
但搭建如此龐大的 CPU 集羣耗資巨大
隨後他與 NVIDIA 探討了這件事
NVIDIA 僅用 12 個 GPU 就完成了訓練
2012 年
Hinton 的學生 Alex Krizhevsky只用了兩塊 GPU
就訓練出了當時最領先的圖像識別模型 AlexNet
它在 ImageNet
這個衡量計算機識別和標記圖片能力的比賽中
遠超同期的其他模型
更重要的是
AlexNet 證明了 GPU 可以讓神經網絡的訓練速度
比CPU提升 100 倍
2012 年的 ImageNet 比賽可以說是人工智能範式轉折的標誌性事件
Hinton 和他的學生 Alex Krizhevsky Ilya Sutskever
通過 GPU 訓練的卷積神經網絡
將圖片識別的準確率提升到了 85%
隨後幾年內
幾乎所有 ImageNet 的參賽隊伍
都轉向使用神經網絡和 GPU 進行訓練
整個行業開始關注這一領域及其背後的硬件發展
隨着對 AI 和數據科學需求的不斷增長
NVIDIA 在 2016 年打造了第一臺深度學習超級計算機 DGX-1
並將其中一臺捐贈給了 Elon Musk 的 OpenAI
如今
NVIDIA 的消費級顯卡正變得越來越強大
也越來越昂貴
而隨着 AI 和雲計算的興起
數據中心業務在 NVIDIA 的營收中所佔比重越來越大
甚至超過了遊戲業務
雖然NVIDIA已經建立了龐大的護城河
但面對高速增長的AI 芯片市場
衆多競爭對手都虎視眈眈
英偉達的客戶首先會變成競爭對手
英偉達的主要客戶是雲計算科技巨頭
谷歌亞馬遜微軟Meta
以及通用大模型的開發公司open AI
anthropic
這些巨頭無一不在設計自己的芯片
根據路透社的報道
高通 谷歌 英特爾
已經組成了一個叫 UXL 的基金會
要打造軟件工具套件
方便驅動多種 AI 芯片
目的就是爲了方便開發者從 CUDA 生態出來
反過來
英偉達也在搶奪雲計算巨頭的客戶
英偉達認爲
來自各行各業的企業需求存在巨大機會
醫療保健 零售 製造業 不一而足
它相信
許多企業將很快從嘗試ChatGPT轉向部署自己的生成式AI
爲此 英偉達將提供獨立的軟件包
可以現成獲取或根據用戶需求定製
它稱之爲NIM 即英偉達推理微服務
與此同時
AMD 和 Intel這樣的老牌巨頭對 AI芯片這塊大蛋糕也虎視眈眈
AMD在去年12月推出了與Nvidia旗艦產品正面對決的MI300加速器
而 Intel也在加緊研發Gaudi3
當然 想搶蛋糕不是那麼容易的
NVIDIA 在硬件的性能上依舊保持領先
而其軟件生態 CUDA
也建立了龐大的生態系統
經過多年的發展
CUDA 的開發者數量已達到約 400 萬
形成了一個龐大而穩固的生態系統
有人說Nvidia 每寫一行代碼
整個生態系統就會寫 100 行
除了傳統巨頭
英偉達還面臨着新興芯片製造公司的直面競爭
這些公司大多在 2018 年之前建立
18 年左右也是 NVIDIA 市值的一波頂峯
包括Groq在內的一些公司都在試圖製造比NVIDIA的GPU更適合AI的芯片
因爲儘管NVIDIA的GPU有諸多優點
但它們會消耗大量電力 而且編程複雜
Groq這個公司
前段時間
展示了在 Llama2 上優異的推理性能
而在醫療垂直領域
Cerebras 研發集成大量內存的芯片
可以支持龐大的語言模型
而且無需額外擴展硬件規模
獲得了梅奧診所
和一些製藥公司的訂單
所有這些對手
都在從不同方面追趕英偉達
包括軟件生態系統
芯片硬件網絡集羣技術
以及專注於特定垂直領域的解決方案
但對英偉達而言
激烈的競爭從來就不是新鮮事
早在公司創立之初
就有20家圖形芯片企業與之競爭
到1996年 這個數字增加到了70家
競爭異常激烈
如今這場關於AI芯片的暗戰
在更多大衆眼裏拉開了帷幕
