黃仁勳台大演講3:真是難以置信的發明,我的最愛!

精品薈萃
19粉絲
32 次觀看·2024年6月11日
黃仁勳台大演講3
大讚現代AI技術:真是難以置信的發明,我的最愛!
未來我們將會有不斷的天氣預測
在整個地球每公里
你永遠都會知道
氣候會變成什麼樣子
你永遠都會知道
這將會不斷地發生
因為我們訓練了人工智能
人工智能需要極少的能量
這是一個不可思議的成就
我希望你會享受
我的國語講的標準嗎
我的國語不夠好
在這個世界上
再度的發展
我們將會有不斷地發生
地球上全球最大的發生
我們將會有不斷地發生
很榮幸的天氣
我們將會有不斷地發生
冰雹
人類的工程能力是無法達到的
試想想
如果我們能把建設理念再高一點
更大的網絡
更多的數據
更多的算法
可能能做到什麼
所以我們為自己
重新創造一切
2012年之後
我們改變我們的GPU建設
來加添加雙核心
我們創造了NV-Link
那是10年前的事
QDNN
TensorRT
Nikol
我們買了Mellanox
TensorRT LLM
Triton Inference Server
所有的東西都合在一起
在一個全新的電腦上
沒有人理解
沒有人要買
沒有人理解
事實上,我確定
沒有人想買
所以我們在GTC宣佈
OpenAI
一家在新加坡的小公司看到了
他們要求我
向他們提供一臺
我提供了第一臺DGX
世界上第一臺AI超級電腦
給OpenAI
在2016年
後來
我們繼續
從一臺AI超級電腦
一臺AI應用程式
升級到
更大的超級電腦
2017年
世界發現了轉換器
讓我們可以訓練
巨大的數量的數據
認識和學習
大範圍的
現在
我們可以訓練
這些大語言模式
去理解和達成
自然語言理解的突破
我們繼續
我們建造了更大的
然後在2020年11月
我們訓練了
數千萬
數千萬的
NVIDIA GPU
和一個巨大的AI超級電腦
OpenAI宣佈了Chad GPT
5天後
有1萬萬的用戶
5天後有1萬萬
2個月後有100萬
這是歷史上最快的
成長應用程式
原因非常簡單
它非常容易使用
它非常奇妙
能夠像人類一樣
與電腦互動
而不是
你想要什麼
就像電腦
能夠理解你的意義
能夠理解你的意圖
我想這裡
是最接近的夜市
你也知道
夜市對我來說非常重要
我年輕的時候
大概四年半
我以前很喜歡去夜市
因為我喜歡看人們
所以
我父母
會帶我們去夜市
圓環
講對嗎?
圓環
去喫蚵仔煎
我喜歡
我喜歡去
有一天
我的臉
你們可能看到
我臉上有一個很大的疤痕
我的臉被剪掉了
因為有人在洗刀
我小時候
但我對夜市的回憶
非常深奧
我以前很喜歡
我依然喜歡去夜市
我必須告訴你們
通化夜市
非常好
因為有位女士
她在那裡工作了43年
她是果園女士
在兩個人之間的中間
去找她吧
她
就在那裡
在蚵架
她真的很棒
我覺得你們去見她
她每年都做得越來越好
她的考試進步了
我真的很喜歡看她成功
無論如何
Chad GPT也來了
有件事
有件事非常重要
在這張圖上
讓我給你們看看
這張圖
和這張圖
基礎差別在這裡
直到Chad GPT
向世界公開了
人工智能
是關於觀察
自然語言的
理解
電腦的視覺
語言的認知
是關於觀察
和辨識
這是世界第一次
看到人工智能
它產生了代幣
一枚一枚的代幣
那些代幣是文字
有些代幣
可以變成圖像
或圖表
或桌子
歌曲
詞語
影片
那些代幣可以變成任何東西
任何東西
你們可以學到它的意義
它可以變成化學代幣
蛋白質代幣
基因
你們之前看到的
在地球
我們在生產天氣代幣
我們可以
學習物理
如果你們可以學習物理
你們可以教人工智能模式物理
人工智能模式
可以學習物理的意義
它可以生產物理
我們在測量
一公里
不是用濾鏡
而是生產物理
我們可以用
這個方法
生產代幣
幾乎任何東西
幾乎任何價值
我們可以生產
車輪控制
我們可以生產
手臂的彈性
我們可以學到的一切
我們現在可以生產
我們現在到了
不僅是AI時代
而是生產AI時代
但是這件事
是非常重要的
這臺電腦
一開始是超級電腦
現在已經變成了
數據中心
它產生了
一件事
它產生了代幣
它是一家AI工廠
這家AI工廠
在生產
生產
價值高的東西
新的貨幣
在1890年代
尼克拉特斯拉
創造了一臺AC電腦
我們創造了一臺AI電腦
AC電腦
生產了電子
NVIDIA的AI生產器
生產了代幣
這兩件事
擁有巨大的市場機會
它在幾乎每個行業
這就是
新的工業革命
我們現在有
新的工廠
生產新的貨幣
對每個行業來說
價值極高
做這件事的方式
是蠻有規模的
做這件事的方式
是蠻有規模的
注意一下
這麼多的AI模型
生產的AI模型
每天都在創造
每個行業都在生產
第一次
IT行業
價值3億美元
3億美元的IT行業
正在創造
可以直接
提供100億美元的行業
可以直接提供100億美元的行業
不再只是
資訊儲存
或數據處理
而是工廠
為每個行業生產智慧
這將成為
製造業
不是電腦製造業
而是製造業使用電腦
從來沒有發生過
非常奇妙的事
由於
加速電腦
導致AI
導致製造AI
現在是工業大革命
這對我們行業的影響
也很大
當然我們可以
創造新的貨幣
新的產品
我們稱之為貨幣
這對我們行業的影響
也很大
我剛才說過
60年來
每一層的電腦
從CPU
到加速電腦
從CPU
到加速電腦
非常有趣
在未來
電腦將會產生
只需要
按照需求的
電腦將會產生
只需要
按照需要的
所以
這樣才會有
Generated data requires less energy to go fetch information
Generated data also is more contextually relevant
It will encode knowledge
It will encode your understanding of you
And instead of get that information for me
Or get that file for me
You just say ask me for an answer
And instead of a tool
Instead of your computer being a tool that we use
The computer will now generate skills
It performs tasks
And instead of an industry that is producing software
Which was a revolutionary idea in the early 90s
Remember the idea that Microsoft created for packaging software
Revolutionized the PC industry
Without packaged software
What would we use the PC to do
It drove this industry
And now we have a new factory
A new computer
And what we will run on top of this
Is a new type of software
And we call it NIMS
NVIDIA Inference Microservices
Now what happens is the NIMS runs inside this factory
And this NIMS is a pre-trained model
It's an AI
Well this AI is of course quite complex in itself
But the computing stack that runs AI are insanely complex
When you go and use chat GPT
Underneath their stack is a whole bunch of software
Underneath that prompt is a ton of software
And it's incredibly complex because the models are large
Billions to trillions of parameters
It doesn't run on just one computer
It runs on multiple computers
It has to distribute the workload across multiple GPUs
Tensor parallelism, pipeline parallelism
Data parallelism, all kinds of parallelism
Expert parallelism, all kinds of parallelism
Distributing the workload across multiple GPUs
Processing it as fast as possible
Because if you are in a factory
If you run a factory
Your throughput directly correlates to your revenues
Your throughput directly correlates to quality of service
And your throughput directly correlates to
The number of people who can use your service
We are now in a world where data center throughput
Utilization is vitally important
It was important in the past but not vitally important
It was important in the past but people don't measure it
Today every parameter is measured
Start time, up time, utilization, throughput, idle time
You name it
Because it's a factory
When something is a factory
Its operations directly correlate
To the financial performance of the company
And so we realize that this is incredibly complex
For most companies to do
So what we did
Was we created this AI in a box
And the containers
An incredible amount of software
Inside this container
Is CUDA, CUDNN, TensorRT
Triton for inference services
It is cloud native
So that you can auto scale in a Kubernetes environment
It has management services and hooks
So that you can monitor your AIs
It has common APIs
Standard APIs
So that you can literally chat with this box
You download this NIM
And you can talk to it
So long as you have CUDA on your computer
Which is now of course everywhere
It's in every cloud
Available from every computer maker
It is available in hundreds of millions of PCs
When you download this
You have an AI
And you can chat with it like chat GPT
All of the software is now integrated
400 dependencies all integrated into one
We tested this NIM
Each one of these pre-trained models
Against all kinds
Our entire installed base
That's in the cloud
All the different versions of Pascal and Amperes
Hoppers
All kinds of different versions
I even forget some
NIMs
Incredible invention
This is one of my favorites
