史丹福 2 小時精華:普通人做 AI,別瞎卷模型!看懂這 5 層技術,你才算真正入門 AI,90% 的人學 AI 都踩坑,史丹福這堂課直接講透。掌握這套工作流,你也能做出媲美大廠的 AI 系統。為什麼

The Only Bamboo
244粉絲
122 次觀看·2026年5月15日
AI 生成·可能包含錯誤
大家好,我是AI啓示錄。
如果你有在關注AI這一兩年最炙手可熱的工作,一定是AI工程師。
大型語言模型越強,這群人越吃香。
他們有能力幫公司打造內部工具,優化運營流程。
也有一堆人自己動手,把想法做成產品,成立了自己的公司。
而這種人,現在每間公司都在搶。
但想學AI的人很多,大多數人都不知道從哪裏下手。
市面上的資源不是太破碎,就是太過艱澀。
看完還是不知道自己學到了什麼,或者下一步該往哪走。
斯坦福大學有一堂課叫做Beyond LLM,
我認爲這是目前最接近正確答案的東西。
從大型語言模型的本質講起,一路帶到Prompt Engineering,
REC,Fine Tuning,Agent Workflow,還有Multi-Agent的框架。
這堂課時長兩小時,今天我就用本期視頻把核心整理給你。
你看完之後,會對AI在商業領域上的應用,
有一套完整的認知框架。
知道這些技術怎麼組合在一起,
也能規劃自己接下來的學習路線。
那我們廢話不多說,直接開始。
首先我們要先知道,大型語言模型的限制是什麼。
LLM要變強,有兩條路。
第一條是橫軸,就是換更強的Base Model。
比方說從GPT-4升級到GPT-5,
但橫軸是OpenAI跟Anthropic在做的。
一般人沒有那個能力,也沒有那個金錢,
去訓練自己的大型語言模型。
你能施力的地方是縱軸,
也就是在現有的LLM上面疊各種工程技術,
又叫做Augmenting LLM,
也就是想辦法提升這些Base Model的能力。
而這整堂課,包括這支影片,
講的都是縱軸的事情。
如果你只會使用Base Model,
在商業場景上一定會裝強。
舉個例子,Chat GPT剛出來的時候,
沒有聯網功能,沒辦法調用工具,
充其量就是一個很聰明的問答機器人,
沒辦法實際幫你做完一件事。
Stanford教授整理了Base Model幾個常見的限制。
第一是缺乏Domain Knowledge,
比方說有一組學生在做自動化農業設備,
要用相機判斷作物有沒有生病,
這種農業病害的數據集市面上根本找不到。
換句話說,你的公司資料,
內部文件,產品規格,Base Model都不知道,
他也沒辦法根據這些資料幫你解決問題。
第二是資訊落後,
模型不可能每幾個月重選一次,
新詞、新事件、新公司他通通不認識,
年輕人在用的網絡流行用語,
模型大多也聽不懂。
第三,控制很難,
LLM是概率性輸出,
同樣的Prompt,兩次跑可能結果不一樣。
在ChatGPT上聊天當然OK,
但你想想Production環境,
使用者問退費,
AI一下說可以,一下說不行,
公司就麻煩了。
教授說,
就連OpenAI跟XAI這種資金最多人才最齊的團隊
都還沒辦法把LLM完全控制好,
更何況一般公司。
第四,
當Context太長,
模型的表現會顯著頹布。
現在主流模型的Context Window
已經拉到100萬Token,
差不多十幾本書的長度,
但在這麼大的Context裏,
還是會出現Lost in the Middle的現象。
簡單講,
你把一個Gary午餐吃了一顆蘋果這樣的小細節
藏進公司過去一年的會議記錄裏,
再問模型Gary午餐吃了什麼。
雖然這個狀況現在已經顯著改善,
但LLM有時候還是回答不出來。
想做AI產品,光環更強的Base Model不夠,
你需要再縱重上市力。
接下來這支影片的前半段,
會告訴你強化單一LLM的三個工具和觀念,
也就是Prompt Engineering,
Fine Tuning,
還有RAG。
影片後半段會進到系統設計,
介紹Agent Workflow跟Evaluation評估方法,
然後用一個克服Agent的Case Study
把這些東西串起來,
最後也會帶到很多人感興趣的Multi-Agent。
那我們直接從Prompt Engineering開始講。
Stanford教授說,
他不認爲Prompt Engineer會是一個職業,
因爲提示詞工程應該是每個工程師都該會的基本技能。
你不會靠Prompt Engineering當飯吃,
但這個技能會讓你在職業裏用一輩子。
就像九九乘法表一樣,
是基本功。
我之前有做過一部影片,
專門在講Prompt Engineering。
有興趣的朋友可以去看看。
關於Prompt Engineering,
有一個很有意思的研究我想分享給你。
頂級管理顧問公司BCG做過一個實驗,
他們把一群顧問分成三組,
第一組沒有AI,
第二組可以使用Chat GPT,
第三組則是可以使用Chat GPT以外,
還有接受撰寫提示詞的訓練。
最後研究的結果發現三件事,
第一個叫The Jagged Frontier,
鋸齒邊界,
意思是,
AI不是在所有任務上都表現得好。
有些任務搭配AI顯出加分,
但有些任務AI反而扯後腿。
第二個發現叫Falling Asleep at the Wheel,
翻成中文就是在方向盤前打瞌睡。
當你不知道任務剛好是AI不擅長的,
卻太信任它,
把剷除直接送出,
結果比沒用AI還慘。
也就是說,
你要知道AI的邊界在哪,
纔不會在它弱的地方踩雷。
第三個現象最有趣,
他們發現使用AI的方式分成兩種,
分別是Centaur跟Cyborg。
Centaur是半人馬,
也就是分工委派型。
丟一個場prompt給AI,
叫它做整份簡報,
自己去做別的事。
Cyborg是生化人,
是高頻來回行,
跟模型一句一句對話協作。
Stanford教授說,
學生的使用習慣會比較像Cyborg,
而企業在自動化workflow時比較像Centaur。
那你應該用哪一種?
關鍵是看任務性質,
重複性高,
流程清楚的任務,
用Centaur模式委派出去就好。
需要判斷,
需要創意,
需要來回校正的任務,
Cyborg模式才能逼出AI的最佳輸出。
兩者沒有好壞之分,
實務上兩種都會有。
重點是要有意識的切換,
接着進到實作。
通常一個好prompt要有三個東西,
角色是誰,
產出格式是什麼,
重點是什麼。
請幫我總結這篇文章,
這是一個很爛的提示詞,
因爲什麼資訊都沒給。
但如果你寫的是
請將這份再生能源論文
整理成五個重點摘要,
並且聚焦在其背後的政策意涵上,
模型立刻指到對象是政策制定者,
長度是五個點,
重點放在政策意涵上,
你的產出品質會立刻提升。
但教授說,
prompt engineering裏最常用,
最重要的一個技巧不是這些,
是prompt training。
注意,
training跟chain of thought不一樣。
chain of thought是叫模型,
step by step思考。
training則是把一個複雜的prompt
拆成多個獨立的prompt,
前一個的output未給下一個。
有用過N8N的朋友,
應該知道我在說什麼。
舉個例,
你要做客戶投訴回信,
單一prompt寫法是
讀這封投訴信,
寫一封專業的回應,
這就是一個黑盒子。
最後的產出如果有問題,
你也不會知道該調整哪裏。
但如果使用prompt training
拆成三個prompt,
第一個,
抽出客戶在抱怨什麼。
第二個,
用抽出來的問題起草大綱。
第三個,
用大綱寫完整回信。
每一步都可以獨立測試,
獨立debug。
training不止讓模型表現更好,
也讓你得到observability,
能觀察LLM在做什麼,
哪個流程出了問題。
講完prompt engineering,
下一個是fine tuning。
Stanford教授對fine tuning的立場很簡單,
能不做就不做。
原因有四個,
第一,
要大量的優質數據。
如果你想要自己fine tune模型,
就要有大量高品質的標註好的資料,
要做到這件事情的成本
對一般人來說太高了。
第二,
容易overfit。
模型容易在你那個特定任務上變很強,
但通用問題反而答不出來,
就會失去basemodel原本的廣度。
第三,
時效性差。
這應該是最傷的點,
你花兩個月fine tune完一個模型上線,
下個月新一代basemodel就出來,
直接打爛你fine tune的版本。
第四,
通常用prompt engineering,
也可以達到一樣的效果,
而且成本低很多。
你想換新basemodel,
原本的prompt大多都是portable的,
但fine tuning的模型不行。
當然針對少數情境,
fine tune還是值得做的。
比方說法律,
科學,
那種需要重複高精度輸出的領域,
或者basemodel在某個domain上表現吃力。
這些情況下,
fine tune都會有幫助,
但對大多數的人來說
其實不會有太大的效益。
所以,
如果你想要把特定的domain knowledge塞進模型,
單純的提示詞工程可能塞不下,
fine tuning的成本效益又對不起來。
那時候應該怎麼辦?
Stanford教授給出的答案是RAG。
RAG是AI工程師面試最常考的題目之一。
面試官常常會請你
用5歲小孩聽得懂的方式解釋
什麼是RAG。
你做AI builder也好,
做AI工程師也好,
這個是你一定要知道的事情。
RAG的痛點有幾個。
Context window太小。
常context抓不準資訊,
有時效性,
或者模型會產生幻覺。
RAG的做法很單純。
我用藥物副作用
這個需要高度準確的醫療場景來說明。
通常RAG的做法是這樣的。
先把所有的資料文件
用embedding模型
把這些資訊轉成向量,
存進向量資料庫。
英文叫做vector database。
所謂向量
就是把一段文字的語義
轉換成一串數字。
語義相近的文字
轉出來的數字陣列
在數學空間裏
距離也會比較近。
所以當使用者問藥物A的副作用,
我們不是在做關鍵字比對,
而是在找
語義最接近的文件片段。
就算文件裏寫的是不良反應
而不是副作用,
一樣能找到使用者的問題。
使用者的問題
也用同個embedding模型
轉成向量,
再用距離metric
從vector database裏
找出最相近的documents。
最後把這些documents
加上system prompt
加上user query
組合成
爲給LLM的最終prompt。
Prompt template
大概長這樣。
根據以下documents
回答使用者的問題。
如果documents裏沒有答案,
就說我不知道。
這樣設計是爲了
把模型鎖在
你提供的資料範圍內,
避免它自由發揮
憑空捏造。
當然,
你還可以要求
模型回答時
附上這個答案
來自第幾頁、
第幾章、
第幾行,
加上來源鏈接。
這樣使用者
可以自行回溯資料源
進行驗證。
單純這樣做
有時候不夠,
比方說一種藥的相關文件
可能足足有50頁,
整份直接轉成相量,
那很多細節
會遺失其中。
所以通常會搭配chunking。
最基本的chunking
是把文件切成
固定大小的片段,
每段各自轉成相量。
更進階的做法是
多層次存儲,
同時保留整篇
每章每段的相量。
Retrieval時
可以先找到相關的章節,
再往下鑽到
精確的段落。
這樣在大文件裏的
命中率會更高。
還有個最近
比較多人在討論的話題。
有人說
像現在已經有
模型支援超長的
Context Window
等這個技術成熟
算力夠便宜,
Base Model
直接讀完整個資料庫,
RAG就沒用了。
但Stanford教授認爲
這樣的說法理論上對,
實務上錯。
因爲實際上
你還是會遇到很多問題,
比方說Latency,
你想想看,
每次問問題
模型都要把
整個Google Drive
重讀一次,
沒人等得了。
就像搜尋引擎,
也是靠預先建好的索引
來快速定位資料,
不可能每次query
都把整個網絡
重新盤過一遍。
所以RAG除了準確度以外,
還有檢索效率,
可及時更新這裏的優勢。
而這些優勢
在可預見的未來
都還是有其存在的價值。
好,
到這邊我們講完了
影片的第一部分。
從Base LLM的限制出發,
我們看了Prompt Engineering,
Fine Tuning,
還有RAG,
這三個工具本質上
都是在強化
單一個LLM的能力。
但單一個LLM再強,
還是有它做不到的事。
所以接下來進入第二部分,
AI系統設計。
我們會講
Agent Workflow,
Evaluation,
還有Multi-Agent。
這些東西
讓你能把AI
從一個會回答問題的模型
變成一套
真正可以運作
實際產出價值的系統。
那我們直接進Part 2。
先講一下
Agent Workflow這個命名。
這個詞來自吳恩達。
如果你不認識他,
吳恩達是
Coursera的共同創辦人,
Google Brand的創始負責人,
前百度首席科學家,
是在AI領域講話
有一定分量的男人。
吳恩達用
Agent Workflow這個詞,
是因爲AI Agent
已經被用到爛掉了。
有人寫了一個
很長的Prompt,
叫Agent。
有人做了複雜的
Multi-Agent系統,
也叫Agent。
這個詞什麼都能討,
反而什麼都說不清楚。
所以,
他用Agent Workflow
來精確描述一件事。
把一堆提示詞,
外部工具,
還有各種元件,
組合進一個
有結構的工作流程裏,
成爲一套系統。
這就叫做Agent Workflow。
還記得我們前面
講的RAG嗎?
RAG主要做一件事,
給LLM外部資料當參考。
但Agent把RAG當作工具之一,
外加Tool Core,
Memory,
多步驟決策,
所以能做到
RAG單獨做不到的事。
舉個例子,
使用者說
我想退這筆訂單,
RAG只能丟政策文件給你。
Agent則是用
RAG Retrieve政策,
主動問訂單編號,
用Tool查訂單,
確認退費,
告訴你三到五個
工作天會處理。
RAG是工具,
Agent是使用
RAG這個工具的系統。
要打造Agent Workflow,
你的工程心態
要先翻轉過來,
因爲傳統software
跟Agentic AI software
在四個面向都很不一樣。
首先是資料,
傳統軟體吃結構化資料,
JSON,
資料庫,
表單,
格式固定,
編解清楚。
Agentic系統吃的是
自由文本,
圖片,
音訊,
沒有固定格式。
第二個是邏輯,
傳統軟體是Deterministic,
同樣的input,
永遠給你同樣的output,
可預測,
可重現。
Agentic系統是Phased,
意思是同樣的input,
不同時間跑
可能給你不同的output,
因爲LLM本身有隨機性,
加上它會根據context
做判斷,
沒有一個固定答案。
第三個是架構心態,
這個最重要。
傳統工程師的思維
是寫Micro Services,
寫Monolith,
你精確控制
每一步執行路徑。
Agentic系統的思維是
Think like a manager,
你給AI一個目標和限制,
讓它自己決定怎麼完成。
你管的是方向和邊界,
不是每一型程序碼。
第四個是測試,
傳統測試是確定性的,
跑100次結果一樣。
Agentic測試是迭代探索式的,
因爲系統本身
是非確定性的,
加上它對context非常敏感,
你沒辦法窮取所有情況。
知道這四件事之後,
第一個落地原則
就跟着來了,
能Deterministic解的問題
就Deterministic解,
剩下Fuzzy的部分加上護欄。
教授舉自己的例子,
他們做Skills Assessment,
選擇題、配對題、托拉題
用Deterministic算分,
因爲這些有標準答案,
對就是對,錯就是錯。
但語音題,
語音加Coding的混合題型
沒有標準答案,
沒辦法Deterministic評分,
只能讓LLM去判斷。
這就是Fuzzy Scoring,
也就是沒有標準答案的評分。
你請LLM聽一段語音回答,
他要判斷這個人
有沒有真的理解這個概念,
表達是否清晰,
邏輯有沒有跑掉。
這些不是對或錯,
是一個程度的判斷。
LLM會給你一個分數,
但這個分數
是他覺得合理的答案,
不是算出來的。
Fuzzy的問題是
他一定會犯錯。
LLM可能誤判一個正確答案,
或是對模棱兩可的回答
給出偏低的分數。
在考試評分這種高風險的場景,
這不可接受。
所以,他們設計了一個
Appeal Feature,
受測者可以對Agent的判分
提出申訴,
由真人介入審查並糾正。
這就是湖南的具體形式。
不是試圖讓AI領錯誤,
而是在它出錯的時候,
有人接得住。
好,原則講完了。
要實際打造一個Agent,
你需要哪些東西?
教授用訂機票去巴黎當範例。
整理出三個核心要素。
第一個是Prompt,
前面講的提示詞工程,
在Agent裏就是這一塊。
你怎麼告訴AI
它的角色是什麼,
它能做什麼,
不能做什麼。
第二個是Context Management,
也就是怎麼管理Agent
在每一個當下
看得到的資訊。
這包含幾件事,
Memory,對話歷史,
也可能有RAG撈回來的資料,
統統都要塞進
有限的Context Window裏。
你要決定什麼重要,
什麼可以丟,
什麼要壓縮。
Context Management
本質上只做一件事,
那就是把對的資訊
在對的時間
提供給你的Agent。
Memory本身又分兩層,
Working Memory
是高頻要快的,
比方說,
使用者的名字。
這次的目的地是巴黎。
Archival Memory
是低頻,
可以慢一點的。
比方說,
使用者過去五年的
訂房記錄,
需要的時候再去撈。
第三個是Tools,
也就是Agent
能呼叫的外部能力。
通常分成兩種,
一種是做事的,
比方說Fly Search,
Hotel Booking,
Payment。
另一種是查資料的,
比方說去CRM
撈客戶資料,
去資料庫查訂單記錄。
另外課堂上,
教授把Agent的自主性
分爲三層。
最低是Hard Coded Steps,
步驟全寫死,
先識別用戶的意圖,
再Look Up History,
最後呼叫API,
照順序走。
安全可預測,
但很僵硬,
遇到預期外的情況就卡住。
第二層是Hard Coded Tools,
但讓Agent自己決定
執行步驟。
你給他一組工具,
告訴他你是Travel Agent,
這些是你能用的工具,
怎麼用你決定,
掌控工具範圍。
但給Agent空間判斷
怎麼組合,
這是目前最常見的
Production Setup,
也是教授推薦的起點。
第三層是Fully Autonomous,
Agent,
自己決定步驟,
甚至自己創工具。
給他Code Editor,
給他Web Search,
叫他自己寫Code。
解決問題能力最強,
但風險也最高,
你沒辦法完全預測
他會做什麼。
如果Agent判斷錯誤,
自己訂了100張機票,
你就完蛋了。
還有一個關鍵概念是
MCP,
Model Context Protocol,
傳統做法是
你要替每一個API
單獨寫串接邏輯,
教LLM這個API怎麼用,
那個API要傳什麼參數。
MCP的做法是
在中間放一個協議層,
Agent不需要認識
每一個API,
他只需要跟
MCP Server溝通,
MCP負責幫他
跟後面的服務打交道。
你可以把MCP
想成一個通用插頭,
以前每個國家的插頭
規格不一樣,
你要帶一堆轉接頭,
有了MCP,
插一個就全通了。
Stanford教授還有提到,
對MCP一個更大的想象,
那就是
Agent-to-Agent Communication,
你可以把
別人做好的Agent
當做一種工具,
讓你自己的Agent
去呼叫它,
就像現在
Agent呼叫API一樣,
這是Multi-Agent
系統的基礎,
我們等一下會講到。
不管是單一Agent
還是Multi-Agent,
上線之前
都要先回答同一個問題,
怎麼知道它真的有用?
答案是
Evil,
也是Production
Agentic系統的命脈。
教授在課堂上
給了一個完整的Evil框架,
是三個維度交叉,
第一個維度是
End-to-End
還有Component-based。
End-to-End
是看整體,
使用者用完給幾分,
滿不滿意。
Component-based
是拆開每一步看。
比方說這個Tool
老是忘記更新Email,
送Email那一步格式不對,
光看整體
你知道哪裏壞,
但不知道爲什麼壞。
光看Component
你可能修了細節,
但整體體驗還是差。
實務上
兩個都要做。
第二個維度是
Objective
還有Subjective
也就是客觀和主觀的評價方式。
Objective
是可以自動驗證的。
使用者說
Order ID是X,
LLM寫進DB變成Y。
這種東西
你可以寫個Python Script
自動對齊,
因爲對就是對,
錯就是錯。
Subjective
是沒有標準答案的。
語氣好不好,
回答夠不夠有同理心,
這種要靠人工評分,
或是用另一個額外的LLM
當作評審,
這個等等我會細講。
第三個維度是
Quantitative
還有Qualitative
Quantitative
是數字看成像,
成功率幾趴,
每個環節的延遲多久。
Qualitative
是感覺在哪裏,
幻覺語氣哪裏不對,
使用者哪一不卡住,
這個要人工一筆一筆看,
沒有捷徑。
剛剛提到的
用LLM當作評審,
又稱
LLMS Judge。
這是做Subjective Evil
常用的做法。
設計上有四種主流玩法。
第一種是
Pairwise Comparison
給Judge兩個答案,
問他哪個比較好。
第二種是
Single Answer Grading
直接打1到5分。
第三種是
Reference Guided Pairwise
多給一個標準答案做對比,
讓評分更有依據。
第四種是
Rubric Based
你自己定義評分標準。
比方說
5分等於100字以內
含三個重點。
第一句是
Overview
0分等於答非所問,
冗長失焦。
這四種可以混用。
比方說
Rubric Based
加上Few Short Examples
讓評審更知道你要什麼。
怎麼實際跑一個
Subjective Review?
課堂上教授
用Travel Agent的禮貌度評估當例子
共拆成四個步驟。
第一步是
Error Analysis
從1000個使用者裏
抽20個對話人攻讀
你可能就會發現
LLM講話超短
有點機車
沒同理心。
這步不能審
你要先知道問題長什麼樣
才能設計出對的Evil。
第二步是設計Evil
用LLM as Judge
加上自己寫的禮貌度Rubric
把你在第一步發現的問題
翻譯成評分標準。
第三步是
AB Test模型
固定Prompt
把底層模型從GPT換成Cloud
或者其他模型
然後跑同一批對話
讓Judge評分
看哪個模型禮貌度最高。
第四步是
AB Test Prompt
固定模型
把Act Like a Travel Agent
改成
Act Like a Helpful Travel Agent
看一個詞的差距影響有多大。
核心原則只有一個
先人工掃除問題
再設計自動化Evil
而且模型跟Prompt
這兩個變音
一次只動一個
不然不知道是哪個改動
造成了差異。
講完Evil
教授給了一個完整的Case Study
把前面所有東西串起來。
題目很簡單
我們要做一個客服AI Agent
使用者可能會說
我要改A127訂單的地址
因爲我搬家到建國南路了
這樣的AI客服Agent
你會怎麼做?
這題目有兩層
表面看是怎麼改地址
本質是怎麼做一個
會自己處理客服請求的Agent
課堂上一個學生回答說
我會先去客服旁邊
坐一到兩天
看他們實際怎麼處理這種請求
他們日常的工作流是什麼
教授很喜歡這個答案
因爲你要先理解
人怎麼做這件事
才知道怎麼讓AI做
而這就是做
Agent Workflow的第一步
叫做Task Decomposition
也就是把大任務
拆解成小任務
讓LLM可以逐個擊破
觀察之後你會發現
客服處理一個改地址請求
其實走了五步
第一步抽出關鍵資訊
包含客戶的Intent是什麼
Old ID是哪個
新地址是什麼
第二步
取資料庫查客戶記錄
第三步查公司政策
像是這筆訂單能不能改地址
是不是已經出貨了
第四步
根據前面收集到的資訊
起草回信
第五步送出Email
每一步都明確
這就是Task Decomposition
有了拆解
下一步是決定
每一步用什麼工具
第一步抽資訊
單純用LLM的一次API呼叫
通常就能解決
第二步查資料庫改Database
要Custom Tool或MCP Server
第三步政策檢查
用RAG
因爲政策文件會更新
也需要有效率的檢索
不能讓客戶等太久
第四步
是根據前幾步收集到的資訊
開始撰寫Email
第五步送Email
用Agent能夠使用的Email寄送工具
做這些判斷的方式很簡單
先問自己
哪些步驟是Fuzzy
哪些是Deterministic
再決定每一步是用LLM
OneShot
RAG
Tool
還是其他工具
這就是AI Builder
真實在做的工作
知道每個工具
每種技術的能力和限制
然後炒出一盤你需要的菜
最後是Build Eval
把前面講的三個維度
全部用上
End to End
看最終回覆正確型
語氣
使用者滿意度
Component Based
拆開看
每一步抽資訊的準度
API錯誤率
政策遵守率
Objective的部分
可以自動驗證
抽出來的Order ID是否正確
有沒有違反退費政策
Subjective的部分
要靠人工加LLMS Judge
比方說
回信是否有禮貌
有沒有同理心
Quantitative
看改地址成功率
Latency
退費正確率
Qualitative
看哪裏有幻覺
哪裏語氣不一致
使用者在哪一步感到困惑
到這邊
一個完整的AI客服Agent
從零到上限的工程流程就出來了
其實總共就是三個步驟
先把大任務拆解成小任務
再設計工作流程
最後建立評估系統
確保產出穩定
這堂課最後一個主題
是Multi-Agent
前面一個Agent
已經能拆步驟
Call Tour
做Rec
寫信
看起來夠用了
但Multi-Agent
還是有它存在的理由
主要原因是平行處理
有些事沒理由排隊跑
訂機票的時候
找航班
找飯店
查天氣
這三件事
完全可以同時進行
如果只有一個Agent
就只能一件一件做
Multi-Agent
就是把這幾件
可以平行的事
拆給三個Specialized Agent
同時跑
速度直接拉起來
最要原因是Reusability
也就是可附用性
公司裏的Design Agent
可以給行銷團隊用
也可以給產品團隊用
不過Multi-Agent
聽起來很厲害
但做產品的時候
要先問自己
真的有需要嗎
如果一個Agent
就能解決的任務
硬上Multi-Agent
反而增加複雜度
所以還是老話一句
工程設計能簡單就簡單
不要OverDesign
教授用智慧家庭
當Brainstorm範例
一個完整的智慧家庭
Multi-Agent系統
可能有溫度控制
燈光
保全
娛樂
通知
還有能源管理
這些Agent
加上一個Orchestrator統籌
互動模式有兩種
第一種是Hierarchical
使用者只跟Orchestrator講話
由他派工給下面的Agent
指揮鏈清除
第二種是Flat
Agent之間直接互通
沒有中間人
教授建議
智慧家庭以Hierarchical爲主
因爲從使用者的角度
你不想同時跟五個Agent講話
你只想跟一個Assistant說
我要出門了
他就會自己去協調燈光
保全
溫控
但在後臺
某些Agent之間
可以有彼此之間水平溝通的連線方式
比方說
溫度控制的Agent
跟能源管理的Agent直接互通
省掉每次
都要過Orchestrator的溝通成本
當你讓Agent之間互相溝通
本質上就是MCP Protocol
你把Agent當做Tool
就跟把API當做Tool一樣
這個心態一旦想通
設計就清楚了
每個Agent
對外暴露一組Tool-like界面
其他Agent
像呼叫工具一樣
呼叫這個Agent
這樣子做
結構乾淨
容易Debug
也支持平行處理
Multi-Agent聽起來複雜
但其實
只是把你已經懂的東西
多疊一層
好
那我們最後整理一下
這堂課的重點
這支影片
我們從基礎模型的現實開始講起
並帶到能夠加強模型表現的技巧
和技術
首先是Prompt Engineering
強化LLM輸出成本最低
重點放在
Training跟Testing
第二層是Fine Tuning
除非你在處理法律
科學
那種需要重複高精度的Domain
或者興趣使然
否則
別沒事找事去調模型
第三層是RIG
幫模型補足知識的標準解法
做AI產品
基本上一定會碰到
第四層是Agent Workflow
從強化單一LLM進到系統設計
重點是思維上的心態轉變
從過往的Deterministic Engineering
到現在的Fuzzy Engineering
以及應對Fuzzy Engineering的Evaluation系統
還有在實踐上
要如何從拆解任務開始
打造自己的Agent Workflow
第五層是Multi-Agent
把每個Agent都當成工具
彼此協作來提升處理速度跟附庸性
教授在兩個小時內
跑完產業上常見的10座技巧
每個技術的存在理由
跟適用情境都交代清楚
有了這樣的認知
你就不會盲目跟風
看到別人在做Multi-Agent
就跟着做
看到別人講Fine Tuning覺得很帥
就去玩自己的模型
所以你的下一步是什麼
我給你的建議是
從10座中學習
看看你的生活上或者工作上
有什麼痛點
從痛點出發去思考解決方法
在這個過程中
你就會發現
自己需要學會哪些技術
就能夠很有效率地
去規劃自己的學習路線
那今天這期視頻
差不多就講到這邊
如果你喜歡這樣的內容
想請你幫我點個贊
也在底下留言
告訴我
你們想看什麼樣的內容
那我們下次見
