線性代數又名人工智慧數學基礎,你還覺得他沒用?

The Only Bamboo
245粉絲
51 次觀看·2026年5月21日
認為線性代數沒用,通常是因為只學了抽象的計算步驟。當我們進入數據科學與 AI 領域時,會發現「萬丈高樓平地起」,線性代數就是那最堅實的地基。
AI 生成·可能包含錯誤
視頻概述
AI 生成這段影片深入探討了線性代數的本質,指出其並非枯燥的矩陣算術,而是處理高維空間併發問題的數學語言。作者批評傳統教材過於強調手算而忽略幾何直覺,強調線性代數是現代科技(如3D遊戲、AI、通信網絡)的底座,旨在幫助學習者從單變量思維跨越到多變量系統思維。
線性代數究竟是爲解決什麼問題而生的
如果你只看統計教材
你當然會覺得線性代數
就是一堆毫無意義的數字表格
每天的任務就是算逆序數
求逆矩陣
把矩陣畫成行接梯形
這些其實根本不是線性代數真正的面貌
充其量叫矩陣算術
而且是上個世紀50年代
爲了培養人工手算能力
而設計的矩陣算術
線性代數是現代科技文明的絕對底座
沒有線性代數
就沒有你今天玩的所有的3D大作
沒有現在的智能手機
沒有現代通信網絡
更沒有目前大火的深度學習和人工智能
現代社會只要涉及到海量數據處理
底層全部都是線性代數
回到你的問題
線性代數到底是爲了解決什麼問題被髮明的
人類的大腦結構其實非常單線程
我們只擅長處理單變量問題
你在中學階段學的數學
大部分都是單變量
一個未知數X
列一個方程
解出一個答案
一輛車以某個速度行駛
求多少小時後到達
一段繩子剪成兩段
比例是多少
這些都是標量數學
但是真實的物理世界和工程世界
是相當複雜的
現實世界裏的系統
從來不是隻有一個變量
比如氣象局做天氣預報
要考慮溫度
溼度
氣壓
風向
地形
等成千上萬個互相影響的變量
比如建造一座跨海大橋
要計算幾萬個鋼樑交接點
在不同風速和車輛載重情況下的形變
再比如你刷短視頻
後臺算法
要綜合考慮你的觀看歷史
停留時間
點贊傾向
視頻標籤等幾百個特徵
來決定下一個給你推什麼
當變量成百上千
甚至達到幾千萬個的時候
你再用中學那種孤立的代數方程組去解
紙不僅寫不下
人類的思維也會徹底崩潰
我們需要一種全新的語言
來描述和處理這種高維度
多變量的併發關係
線性代數
就是爲了解決高維空間併發問題
而誕生的數學語言
它提供了一種絕佳的打包方式
無論你的系統裏有三個變量
還是三百萬個變量
在這個方程式裏
X不再是一個單一的數字
而是一個包含了
所有未知數的狀態向量
A是一個包含了
所有相互作用關係的規則矩陣
這就是線性代數降生的
第一個核心使命
它讓我們人類能夠
用高度簡潔的符號體系
去操作和求解
超越三維直覺的複雜系統
認清了這個使命
我們再來看看你現在學的東西
爲什麼讓你痛苦
同濟教材最大的罪狀
就是它把整體和局部的關係搞反了
並且完全剝奪了
這門課的幾何直覺
它一上來就教你算行列式
算一堆毫無幾何意義的逆序數
然後教你矩陣乘法
規定一堆死板的同行
乘同列的運算規律
這就像教人學開車
一上來不讓你摸方向盤
不讓你看路
而是把你關在黑屋子裏
讓你去背誦
發動機的氣缸是怎麼運動的
要想真正學懂線性代數
你必須建立幾何直覺
這是我在踩了無數坑
寫了無數行抱錯代碼之後
從今天起
你在看課本的時候
不要把矩陣看成數字表格
不要把向量看成一列數字
向量就是空間中的一個固定座標
或者一條有向線段
它代表了事物
在當前空間下的一個狀態
矩陣就是對這個空間
進行操作的動作
它代表了一種變換規則
當一個矩陣乘以一個向量
比如ax
在幾何上的實際意義就是
矩陣a對向量x施加了一種變換
這種變換可能是拉伸
可能是旋轉
可能是剪切
線性代數里的線性
這兩個字就意味着
這種空間變換必須滿足兩個死要求
第一是原點保持固定
不能亂跑
第二是所有的直線
在變換後依然是直線
且平行線依然平行
空間不能被扭曲成馬花
你明白了這個幾何意義
矩陣的很多死機硬背的規則
就豁然開朗了
比如矩陣乘法
兩個矩陣相乘ab
到底是什麼意思
根本不是什麼複雜的數字遊戲
它就是先對空間施加b變換
然後再施加a變換
矩陣乘法不滿足交換率
也就是ab不等於ba
這是理所當然的
你先向左轉再向前走
和先向前走再向左轉
最後到達的位置當然不一樣
物理空間裏的動作順序
是不能隨便換的
矩陣乘法當然不能交換
爲了讓你立刻建立這種幾何直覺
去B站搜索三不錄一不讓線性代數的本質
這是一個系列視頻
up主是斯坦福的數學天才
你千萬不要覺得看視頻浪費時間
這個系列你花一個週末連軸看完
它能把你腦子裏被傳統教材
搞成一團亂麻的公式
全部具象化成精美的動畫
你看完就會恍然大悟
原來行列式的本質
就是空間變換後體積的縮放比例
如果一個矩陣的行列式等於0
意思就是這個變換
把一個三維的立體空間
壓扁成了一個二維的平面
甚至一條線
體積變成了0
既然空間被壓扁了
信息就丟失了
所以這個變換過程不可逆
這就解釋了
爲什麼行列式爲0的矩陣
沒有逆矩陣
你也會立刻明白
矩陣的質到底是什麼
質就是變換後
空間保留下來的真實維度
只要你看了這個視頻
你這學期的現代考試
不僅能提分
而且是真正打通
任督二脈的那種理解
建立了幾何直覺
只是第一步
接下來我要用
我工作中的具體場景
給你深度拆解
線性代數在現實中
到底是怎麼用的
只有知道了應用場景
你學起來纔有底氣
才知道哪些部分是圖龍記
哪些部分是真飯碗
第一個非常硬核的
真實場景
計算機圖形學
我剛入行的時候
做過一段時間的
底層圖形渲染
你平時玩的三維大作
比如賽博朋克
黑神話 悟空 或者原神
裏面的角色 建築 風景
在計算機底層
根本不是畫面
而是一大堆三維座標點
一個高精度的
遊戲人物模型
可能有上百萬個頂點
計算機怎麼知道
這個人物在跑動
轉身 跳躍的時候
這上百萬個頂點
應該出現在屏幕的
什麼位置
光照應該怎麼反射
這就完全是
線性代數的人物
遊戲引擎會把
人物的這上百萬個頂點
打包成一個巨大的矩陣
當玩家推下搖桿
讓人物手裏的金箍棒
揮舞起來的時候
遊戲底層的代碼
實際上就是生成了
一系列旋轉和平移矩陣
然後讓這些矩陣
去乘以金箍棒模型上的
頂點矩陣
在一瞬間
幾千萬次的乘法運算
併發執行
金箍棒的所有頂點
就在三維空間中
完成了旋轉
緊接着
還需要把這個三維的世界
投影到你二維的
玩家視角的轉動
本質上是乘上了
一個視圖矩陣
把三維物體
拍扁到屏幕上
本質上是乘上了
一個透視投影矩陣
這裏我要補充一個
很多教材都不講
但工程中
極其關鍵的操作
那就是其次座標
在線性代數的嚴格定義裏
線性變換
必須保證原點不動
這就導致單純的3X3矩陣
只能做旋轉和縮放
無法實現平移
因爲平移會把原點挪走
但是遊戲裏
大牛們想出了
一個極其優美的方法
那就是把三維空間的點
硬生生拉高一個維度
變成四維空間裏的點
給座標加上一個
虛假的W分量
在四維空間裏
我們用4X4的矩陣
去做一種特殊的錯切變換
神奇的事情發生了
四維空間的錯切
投影回三維空間
就完美地變成了平移操作
這就解釋了
爲什麼你在計算機
圖形學教材裏
看到的永遠是
4X4的矩陣
在處理三維座標
這是數學和工程學
結合的最高級藝術
你機箱裏那張
昂貴的獨立顯卡
裏面成千上萬個
流處理器設計的初衷
和最大的本事
就是飛速地做這種
4X4矩陣的併發乘法
英偉達今天之所以
能成爲全球市值
登頂的萬億美元巨頭
就是因爲圖形渲染
和後來的AI
本質上都是
海量的矩陣運算
如果沒有現行代數
提供這套用矩陣
描述空間變換的理論
我們永遠不可能
在屏幕上看到
逼真的三維世界
每天都在跟這些東西
打交道
現在外面都在吹
各種生成式AI
動不動就幾百億
上千億的參數
很多外行人和媒體
覺得很神奇
覺得AI湧現出靈魂了
但我坐在電腦前
寫代碼調試模型的時候
看到的根本不是什麼靈魂
只有漫山遍野的
矩陣和張量
深度學習的本質
就是通過
多層人工神經網絡
去擬合極其複雜的
數據分佈
一幅貓的圖像
輸入進神經網絡
在計算機看來
不是毛茸茸的動物
而是一個包含了
幾萬個像素值的
三維張量
也就是高維矩陣
神經網絡的
每一層到底在幹什麼
最核心的基礎操作
就是Y等於WX加B
這裏的X
是上一層傳過來的
數據向量
W是這一層
網絡學習到的
權重矩陣
B是偏置向量
你可以把
神經網絡提取
特徵的過程
理解爲在線性空間裏
不斷地對數據
進行投影和變換
我們通過
一層層的矩陣乘法
加上非線性的激活函數
把一開始雜亂無章
高度糾纏的
像素數據
映射到一個
幾千維的
極高維抽象空間裏
在這個高維空間裏
貓和狗的數據點
被清晰地
劃分到了不同的區域
那些所謂的千億參數
就是成千上萬個
巨大的權重矩陣
W裏面的數字
我們訓練AI
其實就是用
微積分離的
梯度下降法
去不斷微調
這些矩形矩陣裏的
具體數值
直到這些矩陣
能夠完美地
把輸入數據
變換成我們想要的
正確輸出
在算法工程師的日常裏
我們最怕的
不是業務邏輯寫錯
而是矩陣的維度
對不上
你辛辛苦苦
打好一個
Transformer模型
滿懷期待地點擊運行
跑起來
直接爆出
形狀不匹配的
致命錯誤
然後你就得拿着筆
在糙糕紙上算
這個張亮經過
自助異力機制的
QKV矩陣相乘後
形狀變成了多少
爲了讓你以後
在代碼世界裏
順利應用線性代數
我非常推薦你去看
Fast.ai團隊出的
Computational Linear Algebra課程
這門課相當接地氣
它不是教你用筆去解方程
而是教你怎麼用
Python語言裏面的
Numpy和PyTorch庫
去實際操作巨大的矩陣
怎麼去解決
現實中的圖像處理
背景消除
和文本分類問題
學了這門課
你會發現
真正的線性代數
是活在服務器
內存和代碼裏的
而不是活在
接下來
我要深入剖析一下
線性代數里
最讓學生痛苦
也是大部分老師
照本宣科
根本講不透的一個概念
特徵值與特徵向量
你回憶一下
同級教材裏
是怎麼教特徵值的
冷冰冰地給你一個方陣A
讓你列一個
叫特徵方程的東西
解方程
求出一個
或者幾個根
叫做特徵值
然後再帶回去
解其次線性方程組
求出一組非0向量
叫做特徵向量
全篇都在算算算
但是根本不告訴你
這到底是在幹嘛
學完之後
腦子裏只有一堆
解方程的步驟
這簡直是買毒還豬
特徵值和特徵向量
是線性代數里
最深刻
最直指事物本質的思想
前面我反覆強調了
矩陣是對空間的
一種變換動作
當一個矩陣
對空間進行拉伸
旋轉
扭曲的時候
大部分向量
在經過變換後
都會改變自己原來的方向
被拉扯到亂七八糟的地方去
但是
在每一個方陣
所代表的特定變換中
總是存在一些
非常剛毅
非常特殊的向量
它們在經歷了
這個矩陣的摧殘後
方向竟然完全保持不變
它們僅僅是
長度被拉伸或者壓縮了
這些在變換中
保持方向絕對不變的
特殊向量
就是特徵向量
而它們長度
被拉伸或壓縮的倍數
就是對應的特徵值
這在現實中有什麼用
用處大得超乎你的想象
特徵向量揭示了
一個複雜動態系統的
內在不變特質
和最終演化趨勢
Google搜索引擎
當年是怎麼打敗
Yahoo等所有競爭對手
成爲互聯網霸主的
靠的就是兩位創始人
發明的PageRank
網頁排名算法
當年互聯網上
有幾十億個網頁
互相之間通過超鏈接
跳來跳去
當用戶搜索一個詞的時候
Google怎麼知道
哪個網頁最權威
應該排在第一位
難道靠人工去審覈嗎
顯然不可能
Google的創始人
把全互聯網
所有的網頁抽象成節點
網頁之間的跳轉鏈接
抽象成有象鞭
然後他們把
這幾十億個網頁的
跳轉關係
壓縮成了一個
無比巨大的狀態轉移矩陣
這個矩陣裏的數字
代表了用戶
從網頁A點擊鏈接
跳轉到網頁B的概率
這個時候
驚爲天人的操作來了
他們不去統計
具體的點擊量
而是直接去求
這個包含了
全網轉移概率的
超級大矩陣的特徵向量
對應着最大特徵值
就是每個網頁
在系統達到
動態平衡後的
最終權威得分
也就是說
全網網頁的排名計算
本質上
就是在求一個
幾十億維度的
巨型矩陣的
主特徵向量
就這一個
線性代數的應用
造就了今天
幾萬億美元級別的
偉大公司
再給你舉一個
結構工程裏的例子
當一陣複雜的風
吹過一座懸索橋
風的受力
可以分解成
無數個頻率和方向的向量
橋樑本身
如果你去求這個
剛度矩陣的特徵向量
和特徵值
你求出來的
就是這座橋的
固有振動模式
和共振頻率
歷史上那座
著名的塔克馬海峽大橋
就是因爲設計師
沒有充分計算
這些特徵值
導致風的頻率
恰好撞上了
橋樑主特徵向量
對應的特徵值
引發了災難性的共振
最後整座大橋
在風中扭曲的
像麪條一樣
直接崩塌
在工程師眼裏
特徵值算錯
是會死人的
在這個基礎上
我們再往前退一步
聊聊線性代數
這頂皇冠上的
明珠
奇異值分解
也就是大名鼎鼎的
SVD
如果你期末考試
不考這個
大部分老師
可能提都不會提
但在數據科學
和推薦系統領域
SVD是真正的
鎮山之寶
現實中很多矩陣
不是方陣
比如淘寶的
用戶商品矩陣
有幾億個用戶
幾千萬件商品
這個矩陣不僅巨大
而且極其稀疏
因爲大部分人
一輩子也買不了幾件東西
你想分析
用戶的購買偏好
直接分析這個
巨大的矩陣
是不可能的
服務器會當場當機
SVD的偉大之處在於
它證明了
任何一個複雜的矩陣
不管長得
多麼奇形怪狀
都可以被完美地
拆解成三個
簡單矩陣的成績
一個代表原來空間的
正交變換
一個代表拉伸的
對角矩陣
一個代表目標空間的
正交變換
放到淘寶的例子裏
SVD操作
就是把那個巨大的
用戶商品矩陣
拆解成了一個
用戶特徵矩陣
和一個商品特徵矩陣
原來的幾千萬個商品
被壓縮成了
幾十個隱含特徵
比如便宜
電子產品
女性向
二次元
算法通過對比
你在這些核心特徵上的得分
就能精準地猜出
你下一步想買什麼
你現在天天刷的
抖音
小紅書
背後的推薦流
和協同過濾算法
老祖宗全是SVD
和矩陣分解技術
既然線性代數這麼有用
而且處處都是
工程智慧的結晶
爲什麼在國內的高校裏
大部分學生
都會覺得學不懂
學得很痛苦
這確實不能全怪你
這反映了我們基礎課
教學模式的結構性問題
這套以統計爲代表的
教材體系
脫胎於早年蘇聯的
教育模式
它是爲了培養
特定年代下
缺乏計算設備的人才
而設計的
在那個連大型計算器
都沒有的年代
手算能力是第一位的
國家需要大量的技術員
能在草稿紙上
把方程組解出來
所以教材花了
極其巨大的篇幅
教你怎麼用
克萊姆法則解方程
怎麼用高斯消源法
做矩陣初等變換
怎麼去配方法
化簡二次形
所有的例題
矩陣的數字
永遠是1 2 3
或者負1
這樣的小整數
剛好能被整出
但是大人
時代變了
今天沒有任何一個
工程師會在草稿紙上
手算哪怕是一個
4X4的逆矩陣
我們在電腦上
機器在零點幾毫秒內
就能給出結果
而且絕對不會出錯
現實世界的
數據採集出來的矩陣
裏面全是帶着
十幾位小數的浮點數
你拿克萊姆法則
算到下輩子也算不完
現代人學習線性代數
最不應該浪費精力的
就是繁瑣的算術操作
你需要掌握的
是計算思維和系統思維
你需要知道
什麼是矩陣的列空間
它代表了系統中
有效數據的生成範圍
你需要知道
什麼是零空間
它代表了系統裏
被隱藏和抵消掉的
內部矛盾
你需要知道
如何把一個高維的
噪聲數據
投影到低維的子空間裏
去尋找規律
爲了補齊這種
現代工程急需的
思維體系
我強烈建議
你在應付完期末考試後
去閱讀麻省理工學院
Gilbert Strang教授
編寫的《每個人的線性代數》
這本書是目前
世界上公認最好的
線性代數啓蒙教材
沒有之一
如果你看全英文有困難
它從不幹巴巴地
推導證明過程
它是把你當成一個
有獨立思考能力的成年人
用非常平實的語言
給你解釋
四個基本子空間的
深層邏輯
而且它會緊密結合
數據分析和
現代計算的實際需求
告訴你馬爾可夫鏈
是怎麼運轉的
傅里葉變換的
矩陣形式長什麼樣
強烈建議你
配上它在網上的
MIT18.06公開課視頻
一起看
老爺子在黑板前
畫圖推導的沉穩氣質
我當年就是在
入職後碰壁無數
回頭補看了他的公開課
才徹底把大學裏
沒學明白的一筆爛賬算清
打通了讀
頂級計算機論文的障礙
結合我作爲過來人的經驗
對於正在讀大一
被教材折磨的你
我給出以下非常直接
具有實操性的三步走建議
這也是我希望
當年有人能早點告訴我的
第一階段
認清現實
先保生存
你身在現有的
教育和考覈體系裏
期末考試
月卷老師依然要看
你的算術推導能力
你這段時間依然要刷題
要把矩陣相乘的
橫豎規則算熟
把初等行變換
校園的步驟走穩
把求特徵值的
行列式方程解對
但是
在做這些枯燥計算的同時
你腦子裏必須要聯想到
我前面提到的
空間變換畫面
算對數字
是你目前不掛科的護身符
而腦子裏的幾何畫面
是你未來發展的種子
第二階段
重建體系
升級認知
考完試後的那個寒假
千萬不要把書扔了
去找斯撰克教授的書
和公開課視頻
重新把線性代數梳理一遍
這一次你不要關注
具體的加減乘除過程
你要關注概念之間的
邏輯脈絡
重點搞清楚
列空間和行空間的關係
搞清楚正交投影
在最小二乘法中的意義
搞明白特徵值分解的
幾何內涵
這一步決定了你以後
能不能看懂
高端的專業論文
能不能在一衆
只會調包的菜鳥中
脫穎而出
大二大三的時候
不管你本專業是學
計算機 機械 金融
還是生物醫學
去學一點python語言
嘗試用代碼
把各種矩陣操作跑一遍
自己去寫一個小腳本
用矩陣乘法
把一張你喜歡的圖片
進行旋轉和扭曲
調用奇異值分解的庫
嘗試去壓縮一張
高分辨率的照片
看看丟棄掉小的奇異值後
圖片變得有多模糊
當你親手用幾十行代碼
實現矩陣變換
並且在屏幕上
看到實際效果的時候
線性代數就會
真正長進你的骨子裏
成爲你以後解決
複雜工程問題的
肌肉記憶
最後我想說
不要覺得數學
只是冷冰冰的工具
說數學是工具
這種話的人
往往自己並沒有
真正掌握高級工具的精髓
線性代數不僅僅是
一把扳手或者一把錘子
它更像是一種
看待世界的高維世界觀
掌握了線性代數
你就從初等數學的
單變量線性思維
跨越到了多變量
併發的系統思維
當你以後面對
複雜的業務邏輯
海量的數據報表
甚至是錯綜複雜的人際利益網絡時
你在大腦裏都可以
潛意識地把它們
抽象成矩陣
和向量的相互作用關係
你會自然而然地去尋找
這個複雜系統的特徵向量
去敏銳地抓住
最核心的矛盾和趨勢
這是一種降維打擊
般的思考能力
大學最可惜的事情
就是很多物性極好的苗子
被枯燥脫節的硬實教材
磨滅了對硬核技術的興趣
早早地放棄了
對底層邏輯的探索
你現在能在大一
提出這個本質的疑問
說明你沒有被填鴨式教育洗腦
你有着探究事物
根本規律的好奇心
保持住這種直指核心的求知慾
跨過算術計算的泥潭
去領略高維空間的
幾何之美
和代碼裏的工程之力
等你大四畢業
做硬核畢業設計
或者參加工作
手撕核心算法的時候
你會無比感謝
現在此刻現行代數
看透事物本質的自己
