事實
術語 · LLM 工程 · AI 代理 · 語言模型 · 效能評測 · AI 人工智慧 · 說明這個名詞與這門功夫,2023 年 1 月至 2026 年 9 月
五篇之二 · 包住提示的那一層
給足,還是給少?情境工程一週內「兩種」說法都有了
情境工程,是替語言模型挑選它作答前看到的一切——指示、文件、工具定義、對話紀錄——而不只是提示本身。這個說法最晚在 2023 年 1 月已有紀錄,當時是提示工程的一半。它在 2025 年 6 月開始流行:Shopify 執行長說,這是把任務所需的全部脈絡提供給模型的功夫;不到一週,就有人警告脈絡太多反而讓模型變差。7 月,Chroma 在十八個模型上量測到這件事;9 月,Anthropic 的正式定義把找出訊號最強、數量最少的集合定為目標。到了 2026 年,同一個詞也被拿來指整家公司的知識層。
- 878天:從目前找到最早的用法(2023 年 1 月)到 Tobi Lütke 的貼文(2025 年 6 月)
- 6天:從「全部的脈絡」到 Andrej Karpathy 警告脈絡太多也有害
- 18個模型經 Chroma 測試;每一個都是輸入愈長愈不可靠
- 1,000名情境工程師:Cognizant 於 2025 年 8 月宣布一年內部署的人數
不到三年內的四個定義 並排來看,它們對這份工作是「加脈絡」還是「減脈絡」並沒有共識。
Riley Goodside · 2023 年 1 月 23 日
「挑選並準備相關脈絡」
- 原文:「我認為提示工程可以分成『情境工程』,也就是為任務挑選並準備相關脈絡,以及『提示編程』,也就是寫出清楚的指示。」
- 這是 Hacker News 上的一則留言,Simon Willison 當天就加以引用。它是目前找到最早的用法——並不證明沒有人更早寫過。
Tobi Lütke · 2025 年 6 月 19 日
「提供全部的脈絡」
- 原文:「把全部的脈絡提供給大型語言模型,讓任務有可能被它解出來的功夫。」
- 他開頭寫的是「我真的很喜歡這個詞」——是在支持一個已經有人在用的說法。一週前,Cognition 的 Walden Yan 已稱情境工程「實際上是打造 AI 代理的工程師的頭號工作」。
Andrej Karpathy · 2025 年 6 月 25 日
「為下一步準備剛剛好的資訊」
- 「太少或形式不對,模型就沒有達到最佳表現所需的脈絡。太多或太不相關,成本可能上升,表現可能下降。」
- 從「任務」變成「下一步」:挑選脈絡是每一輪都要做的事,而不是一件工作做一次。
- 他也替這個詞劃了界線:情境工程「只是正在成形的一整層不簡單的軟體裡的一小塊」。
Anthropic · 2025 年 9 月 29 日
「訊號最強、數量最少的 token 集合」
- 正式寫法:「在大型語言模型推論期間,篩選並維持最佳 token(資訊)集合的一套策略,包括提示以外可能落進脈絡的其他所有資訊。」
- 提示工程如今被放進它裡面:情境工程是提示工程的「自然延伸」,而且「每次決定要把什麼交給模型,都會經過一次篩選」。
- 這是廠商的定義,由其應用 AI 團隊為在自家平台上開發而寫。
各部分站得多穩 依可信程度排序。有日期的文件、量測結果和廠商自報的數字,是不同種類的事實。
| 可信程度 | 內容 | 依據 |
|---|---|---|
| 有據可查 | 2023 年 1 月出現的說法:提示工程中「為任務挑選並準備相關脈絡」的那一半 | Riley Goodside 在 Hacker News 的留言,2023 年 1 月 23 日,日期由網站標示;Simon Willison 當天引用並註明出自他 |
| 有據可查 | Lütke 的「全部的脈絡」發於 2025 年 6 月 19 日 03:01 UTC,Karpathy 的「太少……太多」發於 6 月 25 日 15:54 UTC,相隔六天;Karpathy 的貼文引用了 Lütke 的貼文 | 兩則 X 貼文,全文閱畢;時間也可由貼文本身的編號推算出來 |
| 有據可查 | 「脈絡腐化」一詞在 2025 年 6 月 18 日被提出:脈絡愈長,「輸出品質下滑得很快」 | Hacker News 上一則化名留言,日期由網站標示。命名這件事有據可查;留言者自身的經驗只是個人見聞 |
| 有據可查 | Anthropic 的正式定義,以及作為指導原則的「訊號最強、數量最少的 token 集合」 | Anthropic 應用 AI 團隊,2025 年 9 月 29 日,全文閱畢 |
| 有據可查 | 維基百科至今仍沒有情境工程的獨立條目;它只是〈Prompt engineering〉裡的一節 | 維基百科,2026 年 9 月 21 日的修訂版 |
| 實測 | 十八個大型語言模型,任務固定、只改輸入長度:表現「隨輸入變長而愈來愈不可靠」;約 300 個 token 的精簡提示,在每個模型上都勝過約 113,000 個 token 的完整提示 | Kelly Hong、Anton Troynikov 與 Jeff Huber,Chroma 技術報告,2025 年 7 月 14 日,全文閱畢——出自一家販售檢索資料庫的公司,程式碼已公開 |
| 廠商自報 | 脈絡編輯加上記憶工具:在內部的代理搜尋測試中比基準好 39%,在 100 輪測試中少用 84% 的 token | Anthropic 自己的公告,2025 年 9 月 29 日;未經獨立查核 |
| 調查,未說明方法 | 79% 的 IT 與 AI 基礎設施主管認為脈絡非常重要;81% 仍以臨時或摸索的方式處理 | Redis,2026 年 7 月 30 日——廠商的調查,網頁上沒有說明樣本數或方法 |
| 本站解讀 | 「夠不夠」和「多不多」兩種考題在第一週就都已發表;正式定義後來選了「少」 | 由上列有日期的貼文拼湊而成。所查閱的來源都沒有指出這一點 |
時序
從一則留言到一個職稱 每個日期都是一次發表。人們何時改變做事方式,沒有一份來源量測過。
- 2023 年 1 月 23 日提示工程的一半。Riley Goodside 在 Hacker News 上把提示工程分成「情境工程」——挑選並準備相關脈絡——和「提示編程」。這是目前找到最早的用法。
- 2024 年 12 月 19 日有這份工作,還沒有這個流行詞。Anthropic 把「加上檢索、工具與記憶等擴充能力的大型語言模型」稱為代理系統的基本構件。
- 2025 年 4 月 7 日「一切都是情境工程。」Dex Horthy 發表在 GitHub 上的〈12-Factor Agents〉指南,依其提交日期。
- 2025 年 6 月 12 日頭號工作。Cognition 的 Walden Yan 稱情境工程是提示工程的「下一個層次」,要「在動態系統中自動完成」。
- 2025 年 6 月 18 日問題有了名字。一位 Hacker News 留言者提出「脈絡腐化」:脈絡愈長,「輸出品質下滑得很快」。
- 2025 年 6 月 19 日全部的脈絡。Tobi Lütke 表示比起提示工程,他更喜歡這個詞:提供全部的脈絡,讓任務有可能被解出來。十一天內,Simon Willison、Harrison Chase 與 Philipp Schmid 都引用了它。
- 2025 年 6 月 22 日三天後,反方論點。Drew Breunig:「更長的脈絡不會產生更好的回應」,並列出脈絡失敗的四種方式——中毒、分心、混淆、衝突。
- 2025 年 6 月 23 日框架廠商的定義。LangChain 的 Harrison Chase:以動態系統、用正確的格式提供正確的資訊與工具;提示工程是它的「子集」。
- 2025 年 6 月 25 日六天後,兩面都講。Andrej Karpathy 引用 Lütke 的貼文並重新定義:為下一步準備剛剛好的資訊——太少有害,太多也有害。
- 2025 年 6 月 27 日站得住。Simon Willison:這個詞「可能會流傳下去」,因為「大家推斷出來的定義才會留下來」,而這個詞讓人推斷出的意思,很可能更接近原意。
- 2025 年 7 月 14 日有人量測了。Chroma 的《Context Rot》報告:十八個模型,沒有一個處理長輸入能像處理短輸入一樣可靠。報告標題用的名字,26 天前才在 Hacker News 上首次出現。
- 2025 年 7 月 17 日紙上的一門學科。Lingrui Mei 等人發表綜述,把它定位為「一門正式的學科」,所依據的研究論文超過 1,400 篇。
- 2025 年 8 月 29 日一個職稱。Cognizant 宣布一年內部署 1,000 名情境工程師,並把脈絡定義為一家公司的「知識總和」。
- 2025 年 9 月 29 日數量最少的集合。Anthropic 的正式定義把「少」定為指導原則,距「全部的脈絡」102 天。同一天,它推出脈絡編輯與記憶工具。
- 2026 年 2 月又兩項量測。Damon McMillan 發現模型本身的能力遠比脈絡的格式重要;LOCA-bench 發現代理的表現隨脈絡增長而下滑,而脈絡管理有幫助。
- 2026 年 7 月 30 日廠商問買家。Redis 的調查:受訪的 IT 與 AI 基礎設施主管幾乎都說,脈絡決定 AI 能否奏效;但很少人說自己已建好供應脈絡的系統。
- 2026 年 9 月仍是一節,不是一個條目。維基百科沒有情境工程的專頁;它是〈Prompt engineering〉條目裡的一節,該條目最近一次修訂在 9 月 21 日。
論點
不是反轉,而是選擇 兩種考題第一週就都擺上桌了。正式定義選了其中一種。
用脈絡把模型搞砸有兩種方式,而 2025 年 6 月的那幾則貼文兩種都點到了。Lütke 的定義是一道「夠不夠」的考題:你是否給了模型所需的一切,讓任務「有可能被解出來」?四天後 Harrison Chase 的定義問的是同一件事——它能不能「有可能完成任務」。另一道考題是「多不多」。Lütke 發文三天後,Drew Breunig 主張更長的脈絡不會帶來更好的答案,並列出四種出錯方式;再過三天,Karpathy 寫道脈絡太少有害,太多也有害。這種失敗在 Lütke 發文前一天,就已經在 Hacker News 的一則留言裡有了名字:「脈絡腐化」。後來出現的是證據和一個決定。Chroma 固定每項任務、只改變輸入長度,發現受測的十八個模型可靠度全都下降;報告最後稱情境工程「對可靠的表現不可或缺」。Anthropic 引用了這份報告,並給出機制:transformer 讓每個 token 都與其他所有 token 建立關係,n 個 token 就有 n² 組配對,脈絡視窗愈滿,注意力就被攤得愈薄——是漸進的下坡,而不是懸崖。它的定義接著把第二道考題定為規則:找出訊號最強、數量最少的 token 集合,同時提醒「最少」不等於「最短」。這裡沒有任何證據顯示 Chroma 的報告改變了誰的定義。日期只顯示先後順序:先命名、再量測、後正式定義。範圍也變了。2023 年,情境工程是提示工程的一部分;到了 2025 年,LangChain 與 Anthropic 都把提示工程放進情境工程裡面。
- 太少 · 太多兩者都由 Karpathy 點出,在「全部的脈絡」六天之後
- 18個模型:Chroma 發現它們處理長輸入都不如處理短輸入可靠
- n²n 個 token 產生的兩兩關係——Anthropic 用來解釋注意力為何變薄
補充
實務上怎麼做 Anthropic 的指南是最詳細的說明;接下來的表格補上其他人發表的內容。
- 1寫在恰當的高度介於寫死而脆弱的邏輯,與假設彼此已有共識的模糊指引之間。目標是能完整規範行為的最少內容——最少不等於最短。
- 2工具組要小自成一體、能承受錯誤、彼此重疊最少。如果人類工程師都說不出某個情況該用哪個工具,就不能指望模型做得更好。
- 3晚點抓,不要早抓保留輕量的識別資訊——檔案路徑、儲存的查詢、連結——在執行時才載入資料。後設資料本身就是訊號:放在
tests裡的test_utils.py,和放在src/core_logic/裡的同名檔案,意思不同。 - 4長任務要懂得丟東西壓縮(把滿了的視窗做成摘要,再從摘要重新開始)、結構化筆記(筆記存在視窗外,需要時再讀回來),以及子代理(用數萬個 token 探索,只回傳一兩千個)。
單一廠商指南之外 其他打造代理的人發表了什麼、又量測了什麼。最後一欄說明每項屬於哪一種證據。
| 誰 | 補充了什麼 | 證據種類 |
|---|---|---|
| Manus,2025 年 7 月 | 把 KV 快取命中率當成關鍵指標:輸入與輸出約為 100 比 1,而快取過的輸入便宜十倍。遮蔽工具而不是移除;把檔案系統當記憶;讓代理維護並逐步更新一份 todo.md;把失敗的動作留在脈絡裡,讓模型從中學習。 | 公司對自家代理的自述 |
| Anthropic,2025 年 9 月 | 脈絡編輯會清掉過時的工具結果;記憶工具把檔案存在視窗之外。公布的數字:兩者並用在內部代理搜尋測試中好 39%,只用編輯好 29%,100 輪中少用 84% 的 token。 | 廠商自報,未經稽核 |
| Damon McMillan,2026 年 2 月 | 在 11 個模型上做了 9,649 次實驗:脈絡的格式(YAML、Markdown、JSON、TOON)整體而言沒有顯著差別;前沿模型與開放模型之間 21 個百分點的差距,遠大於任何格式或架構的影響。 | 單一作者的預印本;讀了摘要 |
| LOCA-bench,2026 年 2 月 | 代理所處的環境愈複雜,表現大致愈差;進階的脈絡管理技巧「能大幅提升」成功率。 | Weihao Zeng、Yuzhen Huang 與 Junxian He 的預印本;讀了摘要,未引用數字 |
有兩點值得和廠商的說法分開來看。第一是迴圈。Simon Willison 的定義——「LLM 代理在迴圈中執行工具以達成目標」——以及 Anthropic 自己說的「在迴圈中使用工具」,解釋了這個問題為什麼在那時變大:迴圈每跑一輪,就有工具輸出加進視窗,所以每一輪都得重新挑選。第二是預測。Anthropic 預期代理設計會「走向讓聰明的模型聰明地行動,人工篩選愈來愈少」。這是一個與此利害相關的一方所做的預測,應當照預測來讀。量測結果兩個方向都有。McMillan 發現模型本身的能力遠比脈絡的格式重要,這和那個預測相符;Chroma 與 LOCA-bench 則發現,又長又不斷增長的脈絡仍會拖累表現,而這正是需要篩選的原因。兩者可以同時成立:篩選也許會變容易,但仍然必要。
- 100 : 1Manus 代理的輸入與輸出 token 比,依其自己的計算
- 1–2k個 token:據 Anthropic,子代理探索數萬個之後回傳的量
- 21個百分點:McMillan 研究中前沿模型與開放模型的差距——大於任何格式的影響
結論
帶走什麼 三件事,最後一件是:這個詞從哪裡來,能說的其實很少。
問清楚對方指的是哪一道考題
「提供全部的脈絡」和「找出數量最少的 token 集合」都是這個詞公開發表過的定義,而兩者方向相反。證據最充分的立場是兩者都要:缺了脈絡,任務就解不出來;脈絡過多,模型的表現就會可量測地變差。光說「情境工程」,並沒有說明要修的是哪一種失敗。
到了 2026 年,它指的是三種不同的工作
開發者逐輪挑選 token(Anthropic);團隊打造負責組裝脈絡的系統(LangChain、Philipp Schmid);以及公司替代理整理自身的知識(Cognizant、Redis)。第三種背後的數字——Cognizant 的 1,000 名工程師、Redis 的百分比——都出自販售這類服務的公司,而 Redis 的網頁沒有說明問了多少人。
這裡找到的人都不是它的創造者
目前找到最早的用法是 Riley Goodside 在 2023 年 1 月寫的,比 Lütke 的貼文早了 878 天。Lütke 寫的是他喜歡這個詞;Harrison Chase 寫的是他的定義建立在別人的說法之上。到了 2026 年 9 月,維基百科仍只給它一節,而不是一個條目。能說的只有「目前找到最早」。
無法查證的部分
「傳言」——據稱 Gartner 在 2025 年 7 月告訴 AI 領導者:「情境工程當道,提示工程退場」。這句話是 Redis 2026 年調查中歸於 Gartner 的說法;Gartner 本身的文件無法開啟。
核心要點與來源
- Riley Goodside,Hacker News(2023 年 1 月 23 日)
- Simon Willison(2023 年 1 月 23 日)
- Erik S. 與 Barry Zhang,Anthropic(2024 年 12 月 19 日)
- Dex Horthy,〈12-Factor Agents〉,GitHub(2025 年 4 月 7 日)
- Walden Yan,Cognition(2025 年 6 月 12 日)
- Workaccount2,Hacker News(2025 年 6 月 18 日)
- Tobi Lütke,X(2025 年 6 月 19 日)
- Drew Breunig(2025 年 6 月 22 日)
- Harrison Chase,LangChain(2025 年 6 月 23 日)
- Andrej Karpathy,X(2025 年 6 月 25 日)
- Simon Willison(2025 年 6 月 27 日)
- Philipp Schmid(2025 年 6 月 30 日)
- Kelly Hong、Anton Troynikov 與 Jeff Huber,Chroma(2025 年 7 月 14 日)
- Mei 等,arXiv(2025 年 7 月 17 日)
- Yichao Ji,Manus(2025 年 7 月 18 日)
- Cognizant(2025 年 8 月 29 日)
- Simon Willison(2025 年 9 月 18 日)
- Rajasekaran、Dixon、Ryan 與 Hadfield,Anthropic(2025 年 9 月 29 日)
- Anthropic,脈絡管理(2025 年 9 月 29 日)
- Damon McMillan,arXiv(2026 年 2 月 5 日)
- Zeng、Huang 與 He,arXiv(2026 年 2 月 8 日)
- Redis(2026 年 7 月 30 日)
- 維基百科〈Prompt engineering〉(2026 年 9 月 21 日修訂版)。皆於 2026 年 9 月 28 日閱讀。這個名詞是常設主題 LLM 工程所涵蓋的五個之一,該主題將它與其他四個並列。
可不可靠
值不值得相信
共享主題
- 起初只是調校一個代理,到了三月,它指的是模型以外的一切AI 人工智慧 · AI 代理 · 效能評測 · LLM 工程 · 術語
- 技巧搬進了模型,寫作留了下來AI 人工智慧 · 效能評測 · 語言模型 · LLM 工程 · 術語
- 大家都說你該去寫迴圈,卻沒有人同意迴圈是什麼AI 人工智慧 · AI 代理 · 效能評測 · LLM 工程 · 術語
- 一套系統、五個名字,層次卻沒有共識AI 人工智慧 · AI 代理 · LLM 工程 · 術語
- 同一個詞被命名了兩次,相隔兩週——贏的是那個玩笑AI 人工智慧 · AI 代理 · LLM 工程 · 術語
- Claude Code 品質問題事後報告 — 三項獨立變更AI 代理 · 語言模型 · LLM 工程
- 把大量讀取分流給更便宜的模型——那 90% 究竟砍掉了什麼AI 代理 · 效能評測 · LLM 工程
- 本機 LLM 與 Mac 採購 — 完整技術報告AI 代理 · 語言模型
- Dorado v4 到 v6——改了什麼、改了多少、值不值得AI 人工智慧 · 效能評測
- harness 已上架,治理層還沒AI 代理 · 效能評測
- Claude Mythos Preview 的 AISI 資安能力評估語言模型
- 生醫基礎模型的崛起 — 220 個模型的全景分析效能評測
- sc-SPLASH——barcoded 單細胞定序中的無參考序列發現效能評測
- Grok Build 將整個儲存庫上傳至 xAI 雲端AI 代理
- Inkling:Thinking Machines 開源模型,及其師承的對手模型語言模型
- 酷暑日——日本新設 40°C 高溫日級別,首季盤點術語
- 以 AI 發現密碼學弱點——對照官方論文重讀語言模型
- Nothing (2a)、(4a) Pro 與 POCO X8 Pro、X8 Pro Max、M8 5G — 台灣五機比較效能評測
- 名字愈長,賣的東西愈大術語
- AI 推理軌跡:加密,而非隱藏AI 代理
- 為了通過自己的測驗而入侵真實系統的 AI 代理AI 代理
- 量了兩次效能評測
- 多元之愛的詞彙,以及那個無人能定年的詞術語
- Z.ai對GLM-5.3-Flash的「中國晶片」說法語言模型
- OpenAI 斷供 Cursor:什麼會停,什麼不會AI 人工智慧
- 裂谷,還是瑞文戴爾術語
- 當 AI 代理闖了禍,誰有權知道AI 代理
- 技術高低,已經看不出對手是誰AI 代理
- 顏色就是維生素本身術語
- Polars 與 pandas:各自適合什麼工作效能評測
- 邊界不在模型裡AI 代理
- 要數十年,不是數年AI 人工智慧
共享來源網域
- 一套系統、五個名字,層次卻沒有共識anthropic.com · arxiv.org · claude.com · github.com · langchain.com · x.com
- 起初只是調校一個代理,到了三月,它指的是模型以外的一切anthropic.com · arxiv.org · github.com · langchain.com · wikipedia.org · x.com
- 技巧搬進了模型,寫作留了下來anthropic.com · arxiv.org · claude.com · simonwillison.net · wikipedia.org
- 同一個詞被命名了兩次,相隔兩週——贏的是那個玩笑arxiv.org · claude.com · github.com · langchain.com · x.com
- Claude Code 品質問題事後報告 — 三項獨立變更anthropic.com · github.com · ycombinator.com
- Grok Build 將整個儲存庫上傳至 xAI 雲端github.com · wikipedia.org · x.com
- 大家都說你該去寫迴圈,卻沒有人同意迴圈是什麼arxiv.org · claude.com · x.com
- Claude Mythos Preview 的 AISI 資安能力評估anthropic.com · arxiv.org
- 本機 LLM 與 Mac 採購 — 完整技術報告github.com · simonwillison.net
- 以 AI 發現密碼學弱點——對照官方論文重讀anthropic.com · arxiv.org
- AI 推理軌跡:加密,而非隱藏arxiv.org · claude.com
- 為了通過自己的測驗而入侵真實系統的 AI 代理anthropic.com · simonwillison.net
- harness 已上架,治理層還沒anthropic.com · arxiv.org
- 十九個數字,四力其三arxiv.org · wikipedia.org
- 不可切分之物,被切了三次arxiv.org · wikipedia.org
- 把大量讀取分流給更便宜的模型——那 90% 究竟砍掉了什麼claude.com · github.com
- 邊界不在模型裡anthropic.com · claude.com
- 富邦藝庭連通道 — 對文湖線忠孝復興站的影響wikipedia.org
- 在家進行全基因體定序 — ONT MinION 完整流程x.com
- 每日 90 億次請求,搬家時一個檔案都沒有重建github.com
- Avalanche 的 RWA 熱潮——為何 AVAX 仍在下跌github.com
- Inkling:Thinking Machines 開源模型,及其師承的對手模型cognition.com
- 中國、北韓與圖們江出海口wikipedia.org
- 點火的火花——匿名舉報與新加坡貪污調查局wikipedia.org
- 過程就是奧德賽——55 歲麥特戴蒙的《奧德賽》備戰x.com
- Dorado v4 到 v6——改了什麼、改了多少、值不值得github.com
- 用鉛筆簽的字wikipedia.org
- 多元之愛的詞彙,以及那個無人能定年的詞wikipedia.org
- Z.ai對GLM-5.3-Flash的「中國晶片」說法x.com
- OpenAI 斷供 Cursor:什麼會停,什麼不會x.com
- 電子,精確到十三位數arxiv.org
- 四個輕子異常,只有一個存活arxiv.org
- 六種輕子,一個為兩種而造的詞arxiv.org
- 當 AI 代理闖了禍,誰有權知道anthropic.com
- 十八泥犁、十次審期,以及兩者之間的接縫wikipedia.org
- 成神的兩條路,各自在檔案裡留下什麼wikipedia.org
- 技術高低,已經看不出對手是誰anthropic.com
- 亞伯拉罕諸教,以及質疑這個標籤的史學家wikipedia.org
- 不是階梯,是層疊書寫wikipedia.org
- 四十三年,是上個月的價格ycombinator.com
- 臨終者,而非遺族wikipedia.org
- 錨定,而非正典wikipedia.org
- 顏色就是維生素本身wikipedia.org
- 要數十年,不是數年x.com