【用AI下指令已經過時了？工程師曝新玩法不用再寫提示詞】@kellytsaii

他說自己整個月沒有打開過編輯器 程式幾乎都是clock code寫的 你越懂又越肯回頭去驗收它 它就可以跑得越快 但是你越想拿它來不用大腦 它把你的專案搞爛的速度也就越快 Anthropic做clock code的負責人Boris Cherny 最近在一場訪談裏面講了一句說 我已經不下prompt了 是我寫的迴圈在prompt plot 我的工作就是寫回圈 以前是一句一句跟AI下指令 現在是他寫一個程式 讓那個程式自動去跟AI下指令 你聽到可能會有點慌 我們不是纔剛學會怎麼跟AI下指令嗎 怎麼現在連下指令這件事情 都有人說它過時了呢 所以今天就想來好好講解一下 Loop Engineering到底是什麼 它跟你之前學的Harness差在哪裏 還有你之前學的那些是不是又白學了呢 那我在影片的後段呢 也會來實際示範一下Loop Engineering 用的會是Kimi這個AI model 因爲它現在新的Agent Swarm 就是天生爲一大群Agent並行而設計的 而且它的token價格 算是前沿模型裏面非常便宜的 所以你拿來跑Loop Engineering 不用擔心你的荷包會非常痛 那我們就從Loop Engineering 到底是什麼開始吧 首先我們還是得先搞清楚 Harness Engineering 跟這個新詞Loop Engineering的關係 所以我們先簡單recap一下 Harness是什麼 你可以把一個大型的語言模型 想成一個超聰明但是沒手沒腳 每次睡醒就失憶的一個大腦 它記不住昨天的事情 不會自己開檔案拋指令 也不知道自己到底做對了沒 Harness中文直譯是麻具 或有人翻框架 就是你幫這顆大腦裝上一個身體 讓它自己去寄東西 給它工具幫它驗收 Harness Engineering就是設計這整套身體 讓它從會聊天變成會做事 那Loop是什麼 Loop就是站在Harness上面的那一層 如果說Harness是幫一次任務裝好身體 那麼Loop就是會一直去戳它的東西 它自己照時間醒來 自己去找有什麼事情要做 把任務丟給一個或者好幾個agent 也就是前面講的那種 裝了身體能自己動手做事的AI 再把結果拿去驗 把進度存起來 然後決定下一步要幹嘛 一直循環直到把目標做完爲止 最好記的講法是 一個Loop就是一個Cron 加上一顆會做決定的腦 Cron就是設定好時間 時間到就自動跑的排程 差別在於每一輪要做什麼 不是事先寫死的 是模型當下看狀況自己決定的 這時候很多工程師會有一個很合理的反應 就是這不就是一個排程腳本嗎 我們CronJob都已經寫幾十年了 但是差別就在它怎麼處理出錯 傳統的排程腳本是把步驟寫死 第一步做什麼第二步做什麼 很多時候碰到一個沒寫進步驟裏的狀況 它就只能停在那裏等人來救 但是Loop就不一樣了 Loop會去讀那個錯誤的訊息 自己想辦法繞過去 改完再跑一次 它比較像一個會自己跑的迷你開發流程 不是一個寫死的指令 把這套東西命名成Loop Engineering的 是Google的工程師Addy Osmani 他說Loop Engineering 就是把那個下Prompt的你給換掉 改成你去設計一個會幫你下Prompt的系統 拿Code Review來說 以前我們是早上進公司 一個PR一個PR點開來看 現在可以讓AI是一個會自己在半夜醒來 把當天的PR掃過一遍 有問題才標註給我的東西 我的角色就從那個看的人 變成了一開始去設定AI怎麼看的人 那Loop這個概念其實一點都不行 但是它變成一個人人在喊的學科 是2026年6月的事情 點燃這把火的就是Open Cloud的作者 後來進了OpenAI的Peter Steinberger 6月初他發了一篇貼文 直接喊說打字下Prompt已經過時了 據報導說那篇衝破650萬的觀看 接着Addy Osmani就把這套做法給整理命名 而最常被當例子的 就是開場那位Boris Cherny 他說自己整個月沒有打開過編輯器 程式幾乎都是Cloud Code寫的 當然他自己在做的就是Cloud Code 所以這句話可以打一點折扣聽 但是他敢勾開講本身就是一個訊號 那爲什麼是2026年才跑得動呢 因爲這一兩年有幾件事剛好到位了 首先是模型強到可以放手去跑牆的任務 工具也把電腦的手腳交到了AI的手上 讓它真的可以自己去開檔案然後跑指令 不過Loop真的不是2026年纔有的編輯 早在2023年就有個宏碁一時的專案 叫做AutoGPT 它做的就是讓AI自己給自己下Prompt 追着目標一直跑 結果最出名的反而是它一直鬼打牆停不下來 好那回到最一開始那個讓人有點慌的問題 你之前學的Prompt Engineering Harness Engineering是不是又過時了呢 我的答案是沒有 Prompt Context Harness Loop 這四個不是一個取代一個 而是一層一層往外堆疊的 最裏面是Prompt 條的是指令本身 外一層Context就管模型當下看到哪些資料 在外面Harness是包它跑起來的環境跟驗證 最外面纔是Loop 就是管這整件事情跨越時間一直跑 它們是疊起來的地基不是先後的關係 說得更直接一點 如果你底下的Prompt跟Context都還沒有弄乾淨 就急着想要套一個Loop上去 那你只會讓它用更快更貴的方式 吐出一堆很爛的程式碼而已 有一個專門考AI寫程式能力的測驗 它拿同一批最前任的模型來測 給它們做一道一道做完就結束的獨立題目 成績有七八成 可是丟進那種要連續改一整個專案 又跑很久的任務 正確率就掉到只剩兩成 差別不在於模型 而是任務的形態 這個落差就是重點 光靠模型聰明是撐不住長跑的 得靠Loop這層外面的結構才接得住真正的開發 不過話說回來 Loop這層有用是一回事 但把它捧成一門全新的學科也有可能有點過頭 這個新詞確實被不少人酸說是換湯不換藥 說穿了就是CronJob改個名字 畢竟讓AI自己一輪一輪去追着目標跑 2023年那個AutoGPT早就在做了 這個質疑也不是沒有道理 但要說它跟以前完全沒有差也不公平 跟以前不一樣的就是兩件事情 一個是它的記性搬到了檔案跟Git上面 不再是塞在模型的腦袋裏 剛好解掉了AutoGPT當年會鬼打牆的這個死穴 另外一個就是重點整個從讓它自己跑 移到了你怎麼去驗收它 兩年前我面試別人看的是它Coding多快 Leak Code有多熟 但是現在招人更在意的是 你看不看得出來Agent哪裏做錯了 還有你能不能夠設計出一組測試 逼它沒有做對就過不了 那接下來我們就直接來示範給你看 Loop Engineering到底該怎麼做 我今天要使用的AI呢是Kimi 爲什麼要用Kimi 就是因爲它現在有一個非常厲害的Agent Swarm 它主打的就是可以做超級大規模的專案跟任務 它的規模有多誇張呢 它一次可以處理最多200萬個字 跟同時處理50個檔案 然後它同時可以派出最多300個Subagents 加上4000個Steps Per Run 所以非常適合像是Loop Engineering 你需要派出非常多Subagents 或者是去處理大型專案的時候 所以我今天打算示範的Use Case呢 就是我真的進去GitHub找到一個開源的Repo 然後它如果有一些測試是壞掉的狀態 我能不能用Loop Engineering這樣子的邏輯跟方式 去讓Agent有效率的自己把所有東西修好呢 好那我今天要使用的就是這一個 這個GitHub的開源專案 它算是一個比較Simple 然後它的Codebase也都比較乾淨 並且也用到非常多種語言的一個Codebase 然後我們第一件事先把它Clone下來 到我的終端機 好我們現在在BS Code打開了這個專案 然後呢這個專案畢竟是有人在維護的嘛 所以它其實它現在的Test是都可以過的狀態 但是爲了今天的Demo 就你總是會有專案就是你正在寫一個東西 Test跑不過的狀態 所以我打算自己進去它的Test File 把它的Test改一下 就是讓它變成有些過有些不過的狀態 讓Agent可以有東西Fix 好那我們先來看一下我主要改的是這兩個File 在這個GuildedRows.py裏面 我埋了幾個就是應該會有Bug的地方 然後我也把它的Test File給改了 所以讓它現在就是會有一些Test是跑得過 但是一些Test是跑不過的 那待會就可以讓它來修 好那我們現在先來看看我們寫進去的Test 哪些Pass哪些Fail 所以我就來跑這個PyTest 然後我就是隻跑這一個檔案 就是TestGuildedRows.py 然後現在可以看到它跑完的結果是有 5個Fail 6個Pass 所以我們等一下就是我們設定給它的目標 就會很明確是要就是解決這5個Fail的 這就是Loop Engineering你需要有的第一步 就是你自己要知道你驗收的成果是什麼 你不能給它一個很開放結果 就說這裏面的Bug你去修 然後你也不知道它修了什麼Bug 然後它也不知道怎麼樣的門檻算是修好了 你必須要自己先Define好說 這個Test紅了就是沒過 綠了就是過 這樣子你才知道 就它的Loop什麼時候會收斂起來 不然它就是開放性的一直一直亂跑 好那我用來跑Kimi呢 其實你可以在Kimi的網頁版 或者你可以用CLI 那我今天示範也就先用網頁版 我怕終端機有在那邊打太多指令 大家會覺得跟不上 但網頁版比較麻煩的點就是 你要自己上傳你的檔案 然後它改一版 你就要自己再下載回來Local 然後自己再去跑Test看看 如果你是直接從終端機的話 它就可以直接進去你的檔案幫你改 然後你就是跑Test也可以都在同一個地方 那我們先進來網頁版的話 你就可以看到現在Care.6 它有提供這個Instant Thinking Agent跟Agent Swarm 這個就是我們剛剛說 它可以做Large Scale Search Long Form Writing跟Batch Task 就是如果你是大規模的專案的話 最適合用這個 好那我們先給它 我們剛纔下載下來 我自己改過的那個資料夾 好這邊就是我剛剛自己改的Code 跟我寫進去有幾個Fail的Test Case 然後我跟它說 Test Code Rose.py裏面有幾個測試 一直是紅的 要幫我找出來它們爲什麼壞掉 然後修到全部變綠 然後先給它完成的定義 就是紅的測試通過 並且不準把就是原本綠的測試弄壞 這就是基本的嘛 然後規則你要跟它說 你只改這個 因爲它有可能會直接幫你去動Test Case 就有可能你Test Case寫錯了 所以它才Fail嘛 這也是有機會的 但是我現在確定說 我只想要改Code 你不要動我的Test 然後每改一輪 你就可以自己跑一次 確認一下結果 你再去看下一步 這就是Loop Engineering的核心嘛 你自己要一步一步去驗證說 我下一步該去做什麼 然後全部變綠纔算完成 這我前面也有講過 OK 好 送出 好 它首先先建立了一個任務清單 纔開始跑測試 可以注意我們這邊是用Agent Swarm 所以它其實是可以 同時派出超級多Sub-Agent來做這件事 它首先第一步要先執行PyTest 知道所有紅的測試是哪些 所以你看這邊它已經得到了 我們剛纔一樣的結果 就是有5個Fail的6個Pass的 所以它現在知道Fail Test是什麼了 然後它發現 噢PyTest沒有安裝先裝一下 然後文件系統有暫存問題 用環境變數來避開 然後第一輪的結果有哪些 第二輪就是我讓它一個一個來修 所以這個就是Loop Engineering的核心 就是它先去做一件事情之後 它回頭會自己驗收 去看現在錯的地方是哪裏 然後它再去再進行下一步 這樣子的一個Loop 所以像前面它就已經在做這件事了 就是噢PyTest錯了 噢系統暫存錯了 然後現在5個紅燈我們來一個一個修 你就會看到它一次一次就是 這個東西變綠了再跑一次 然後這個東西也變綠了再跑一次 直到所有東西都通過爲止 這就是我們最後設下來的那個Criteria 我們跟它說 所有東西都是綠燈你才能夠停下來 OK 然後它現在修第二輪結果也變綠了 因爲這其實是一個比較小的專案 我擔心它一次全部修完 你們什麼都沒得看 所以我跟它說你幫我一個一個修 但如果你是一個大型專案的話 一個Agent進去極有可能 它修了A就搞壞B 修了C就搞壞D 然後你要讓它一輪一輪的去跑 它纔會知道說現在哪些東西過了 哪些東西沒過 它再自己去修正它的Plan 所以跟寫死的Crown Drop最不一樣的地方就是 我Crown Drop我可能就只能設定這幾個步驟 你就是這樣子做 那我在哪一步遇到了一個 Unexpected的錯誤 它就卡在那邊等人來救它 但是你現在有Agent的這個Loop 它就是要自己去Figure out 然後你要給它一個很清楚的Success Criteria OK它現在跟我說11輪的測試全部都通過了 以下是每一輪的修復總結 它修的測試是這些 然後呢只修改了我們要的 就是主要Code的這個File 沒有去動我們的Test Case OK然後它說可以顯示最終的程式碼 好那我現在把這個檔案下載下來 然後我把它貼過來這邊 OK那這邊它現在應該給我的就是 Kimi改過的Code了 然後我們重新跑一次Test OK你就可以看到全部的Test Case都Pass了 這個就是我作爲一個人真正要做的事情 就是我要去驗收它的成果 然後我把它最後成果怎麼樣是成功設定的很清楚 這就是Loop Engineering的核心 並不是說就是Agent跟你說好了就好了 你自己要進去檢查它的成果 然後你自己要知道怎麼樣好怎麼樣美好 那先說我今天來示範的是一個非常小的Loop 你如果想要變成一個真正它天天可以自己跑的Loop 那你還要再補上幾個東西 首先呢就是一個進度檔 讓它就算沒有跑完它失憶了 它也可以回去看那個進度檔 看一下它上一次做到哪 再來呢你要有一個自動喊停的底線 看看它是跑超過幾輪還沒有修好 或者是它已經燒了多少Token多少錢 它應該就要停在那邊才能防止你的錢包 最後承受不住 第三個呢就是儘量把它關進一個 跟你的主機隔開的Sandbox裏面 避免它自己在過程中就是手滑 去刪到你一個什麼東西 爲了展現Kimi這個Agent Swarm真正的實力 我們來實驗另外一件事情 因爲我們剛剛只是讓它就是修幾個Bug 你看不出來它真的叫那麼多個Agent 同時運行的時候效率會有多高 那我們現在來試試看 我如果同時叫它做30個網站 它到底可以多快的做完 所以我們來下這個Prompt 就說在舊金山尋找30家沒有官方網站的餐廳 併爲每一家餐廳都建置一個落地頁 就是Landing Page 然後產出成果要有一個 就是Excel的試算表有這30個商家的詳細資訊 加上30個網站 然後我們用Agent Swarm來跑 看看會跑多久 OK 所以它會先給一個執行計劃 然後分階段來執行 然後它已經開始調出Subagent 來搜索不同的區域了 然後要找到30家無官方網站的餐廳 這是餐廳研究員 太可愛了吧 還有Rule Description 它自己幫你寫好 這些原本都是你自己下Prompt要寫的東西 但它現在自己Figure out了 OK 現在有4個Subagent 來同時找餐廳 這個視覺也做得太好了吧 太可愛了 然後它去交代每一個不同的Subagent 說你的任務是什麼 它就是有一個指揮官 然後幫你看下面的子代理在做什麼事情 它現在分成不同的區域 讓不同的Subagent去找 所以其實我都沒有告訴它要怎麼分工 但它自己會Figure out 我們現在可以看到 每一個Subagent在找的事情是什麼 像是這個Agent 1 它就是負責中國城North Beach什麼的 然後這個Agent 2 是Mission District Castro Tenderloin Soma 什麼的 每個人負責的都不一樣 好 現在30個餐廳跟30個落地業 全部都做好了 先來給大家看看 它就是製作的過程 因爲它真的是會搬出 非常多子代理來運作 前面是先讓4個Subagent 去負責搜尋不同餐廳嘛 然後搜尋到之後 它要先把它放在一個Excel Sheet裏面 所以這邊它就有一個指揮官 再把它整合在一起 然後確認它通過了 再來就要開始做30個獨立頁面 這真的很多 所以需要更多的子代理 然後現在已經啓動了5個 然後你可以看到 它給每一個下的Prompt是什麼 就是非常長 它都會 那個指揮官已經幫你想好了 然後每一個就分別下去做 最後我們可以先看這邊的這個Data 它有一個Notes 然後Restaurant Data 它把30間全部都列出來 再來By Neighborhood 它們各自在哪裏 然後還有By Cuisine 我們可以預覽一下 它做出來的30個頁面 真的是超級多 然後都已經幫你找好 它的設計風格是什麼等等 我們來看看 隨便點一個 它就有一個Landing Page 是30間High Converting Landing Pages for Local Restaurant without Websites 所以我不只要它找餐廳 還要找沒有Website的餐廳 這其實算是需要一點時間Research的 然後隨便點一個 比如說Italian 點進去 哇 這做的超專業的 其實有點像那個Yelp的Design有沒有 然後它有寫說Italian Pastries有哪些 然後North Beach Tradition 什麼Selection Business Hours 等等 而且每一個的設計應該都是不一樣的 比如說我們來點一個 不同的可能 這個 你看它的風格就不太一樣 它的Menu有什麼 什麼Ramen 什麼 就跟剛纔的那個設計是不同的 然後還有跟你講說 每一個落地頁都包含視覺設計 然後像是Google Maps SEO 然後CTA按鈕 聯絡資訊 等等 就每一個它都是很精心的設計出來 這你就可以看出來 Agent Swarm真的是可以Handle那種 大量 就是很多東西要改的Project 我讓它做30個網站 它可以同時把它生出來給我 並且整理得很好 沒有就是做一做 然後忘記自己在幹嘛 那我會挑Kimi來示範呢 是因爲路本身就是一直在跑 它Token燒得很兇 所以你底層的引擎 就應該是要一個夠便宜 不會讓你錢包很痛 而且像Agent Swarm這種 天生就是爲 一大群並行的Subagent而設計的 Kimi它是Moonshot出的開源模型 這一代K2在矽谷 被不少人當作是DET隊的 開源Agentic模型在傳 價格上它每100萬個Input Token 纔不到一塊美金 在前沿模型裏面算非常省的 所以如果你也在找一個 又強又便宜 又可以經得住一大群Subagent 一起並行的一個底層引擎的話 就很適合用Kimi來試試看 最後最後來講回來 最大的核心問題 就是Loop這整套 你到底要不要學呢 我的態度是 值得學 但是不用被它的熱度給衝昏頭 這不是我自己在唱反調 是連給它命名的 Adios Money自己都在潑冷水 它直接講說 Loop的Token成本會暴增 產出的品質會掉 市場上也還很早期 真的把Agent認真部署到 生產線上的公司 沒有想象中的多 所以這是一個對的方向 但它現在的狀態 是一邊很熱門在被討論 可是同時又還很早期 那如果你想要開始 可以給你幾個建議 最重要的一條就是 先做一個關起來的Loop 不要做放開的Loop 放開的Loop 是你給它一個大目標 讓它自己決定什麼時候做完 這種很容易變成一個無底洞 關起來的Loop就剛好相反 你給它一個寫死的成功標準 限制它最多就是跑個三到五輪 用測試或者Lenter來驗收 這樣子一次跑下來的成本很小 而且你完全控制得住 再來就是安全閥一定要先裝好 最多是跑幾輪 卡住就停 還有花到多少錢就要斷掉 據報導說 連Uber都因爲一開始沒有控制好成本 後來改成幫每個人 設了每個月花費上限 大公司都會被燒到 何況我們自己在家玩 還有一條最容易被跳過的 就是你真正要練的 不是工具怎麼裝 而是怎麼驗收這件事情 工具會一直換 但是這個能力就不會 所以Loop這個東西 比較像是一個放大器 你越懂又越肯回頭去驗收它 它就可以跑得越快 點擊下方觀看更多有趣內容