Tratopedia
側 NBM
設定

文字大小

佈景

高對比

中文排版

豎排會把內文排成由右至左的直行,如同台灣的實體書籍。

版本

v1.184.0

本頁建置時的版本編號,也是 service worker 快取所依據的版本。

術語 · LLM 工程 · AI 代理 · 語言模型 · 效能評測 · AI 人工智慧 · 說明這個名詞與這門功夫,2023 年 1 月至 2026 年 9 月

五篇之二 · 包住提示的那一層

給足,還是給少?情境工程一週內「兩種」說法都有了

情境工程,是替語言模型挑選它作答前看到的一切——指示、文件、工具定義、對話紀錄——而不只是提示本身。這個說法最晚在 2023 年 1 月已有紀錄,當時是提示工程的一半。它在 2025 年 6 月開始流行:Shopify 執行長說,這是把任務所需的全部脈絡提供給模型的功夫;不到一週,就有人警告脈絡太多反而讓模型變差。7 月,Chroma 在十八個模型上量測到這件事;9 月,Anthropic 的正式定義把找出訊號最強、數量最少的集合定為目標。到了 2026 年,同一個詞也被拿來指整家公司的知識層。

  • 878天:從目前找到最早的用法(2023 年 1 月)到 Tobi Lütke 的貼文(2025 年 6 月)
  • 6天:從「全部的脈絡」到 Andrej Karpathy 警告脈絡太多也有害
  • 18個模型經 Chroma 測試;每一個都是輸入愈長愈不可靠
  • 1,000名情境工程師:Cognizant 於 2025 年 8 月宣布一年內部署的人數

不到三年內的四個定義 並排來看,它們對這份工作是「加脈絡」還是「減脈絡」並沒有共識。

  • Riley Goodside · 2023 年 1 月 23 日

    「挑選並準備相關脈絡」

    是提示工程的一半,而不是它的接班人。

    • 原文:「我認為提示工程可以分成『情境工程』,也就是為任務挑選並準備相關脈絡,以及『提示編程』,也就是寫出清楚的指示。」
    • 這是 Hacker News 上的一則留言,Simon Willison 當天就加以引用。它是目前找到最早的用法——並不證明沒有人更早寫過。
  • Tobi Lütke · 2025 年 6 月 19 日

    「提供全部的脈絡」

    最先被別人引用的貼文:一道「夠不夠」的考題。

    • 原文:「把全部的脈絡提供給大型語言模型,讓任務有可能被它解出來的功夫。」
    • 他開頭寫的是「我真的很喜歡這個詞」——是在支持一個已經有人在用的說法。一週前,Cognition 的 Walden Yan 已稱情境工程「實際上是打造 AI 代理的工程師的頭號工作」。
  • Andrej Karpathy · 2025 年 6 月 25 日

    「為下一步準備剛剛好的資訊」

    六天後,引用 Lütke 的貼文——並點出兩種失敗。

    • 「太少或形式不對,模型就沒有達到最佳表現所需的脈絡。太多或太不相關,成本可能上升,表現可能下降。」
    • 從「任務」變成「下一步」:挑選脈絡是每一輪都要做的事,而不是一件工作做一次。
    • 他也替這個詞劃了界線:情境工程「只是正在成形的一整層不簡單的軟體裡的一小塊」。
  • Anthropic · 2025 年 9 月 29 日

    「訊號最強、數量最少的 token 集合」

    正式定義,以「少」為指導原則。

    • 正式寫法:「在大型語言模型推論期間,篩選並維持最佳 token(資訊)集合的一套策略,包括提示以外可能落進脈絡的其他所有資訊。」
    • 提示工程如今被放進它裡面:情境工程是提示工程的「自然延伸」,而且「每次決定要把什麼交給模型,都會經過一次篩選」。
    • 這是廠商的定義,由其應用 AI 團隊為在自家平台上開發而寫。

各部分站得多穩 依可信程度排序。有日期的文件、量測結果和廠商自報的數字,是不同種類的事實。

可信程度內容依據
有據可查2023 年 1 月出現的說法:提示工程中「為任務挑選並準備相關脈絡」的那一半Riley Goodside 在 Hacker News 的留言,2023 年 1 月 23 日,日期由網站標示;Simon Willison 當天引用並註明出自他
有據可查Lütke 的「全部的脈絡」發於 2025 年 6 月 19 日 03:01 UTC,Karpathy 的「太少……太多」發於 6 月 25 日 15:54 UTC,相隔六天;Karpathy 的貼文引用了 Lütke 的貼文兩則 X 貼文,全文閱畢;時間也可由貼文本身的編號推算出來
有據可查「脈絡腐化」一詞在 2025 年 6 月 18 日被提出:脈絡愈長,「輸出品質下滑得很快」Hacker News 上一則化名留言,日期由網站標示。命名這件事有據可查;留言者自身的經驗只是個人見聞
有據可查Anthropic 的正式定義,以及作為指導原則的「訊號最強、數量最少的 token 集合」Anthropic 應用 AI 團隊,2025 年 9 月 29 日,全文閱畢
有據可查維基百科至今仍沒有情境工程的獨立條目;它只是〈Prompt engineering〉裡的一節維基百科,2026 年 9 月 21 日的修訂版
實測十八個大型語言模型,任務固定、只改輸入長度:表現「隨輸入變長而愈來愈不可靠」;約 300 個 token 的精簡提示,在每個模型上都勝過約 113,000 個 token 的完整提示Kelly Hong、Anton Troynikov 與 Jeff Huber,Chroma 技術報告,2025 年 7 月 14 日,全文閱畢——出自一家販售檢索資料庫的公司,程式碼已公開
廠商自報脈絡編輯加上記憶工具:在內部的代理搜尋測試中比基準好 39%,在 100 輪測試中少用 84% 的 tokenAnthropic 自己的公告,2025 年 9 月 29 日;未經獨立查核
調查,未說明方法79% 的 IT 與 AI 基礎設施主管認為脈絡非常重要;81% 仍以臨時或摸索的方式處理Redis,2026 年 7 月 30 日——廠商的調查,網頁上沒有說明樣本數或方法
本站解讀「夠不夠」和「多不多」兩種考題在第一週就都已發表;正式定義後來選了「少」由上列有日期的貼文拼湊而成。所查閱的來源都沒有指出這一點

從一則留言到一個職稱 每個日期都是一次發表。人們何時改變做事方式,沒有一份來源量測過。

  1. 2023 年 1 月 23 日提示工程的一半。Riley Goodside 在 Hacker News 上把提示工程分成「情境工程」——挑選並準備相關脈絡——和「提示編程」。這是目前找到最早的用法。
  2. 2024 年 12 月 19 日有這份工作,還沒有這個流行詞。Anthropic 把「加上檢索、工具與記憶等擴充能力的大型語言模型」稱為代理系統的基本構件。
  3. 2025 年 4 月 7 日「一切都是情境工程。」Dex Horthy 發表在 GitHub 上的〈12-Factor Agents〉指南,依其提交日期。
  4. 2025 年 6 月 12 日頭號工作。Cognition 的 Walden Yan 稱情境工程是提示工程的「下一個層次」,要「在動態系統中自動完成」。
  5. 2025 年 6 月 18 日問題有了名字。一位 Hacker News 留言者提出「脈絡腐化」:脈絡愈長,「輸出品質下滑得很快」。
  6. 2025 年 6 月 19 日全部的脈絡。Tobi Lütke 表示比起提示工程,他更喜歡這個詞:提供全部的脈絡,讓任務有可能被解出來。十一天內,Simon Willison、Harrison Chase 與 Philipp Schmid 都引用了它。
  7. 2025 年 6 月 22 日三天後,反方論點。Drew Breunig:「更長的脈絡不會產生更好的回應」,並列出脈絡失敗的四種方式——中毒、分心、混淆、衝突。
  8. 2025 年 6 月 23 日框架廠商的定義。LangChain 的 Harrison Chase:以動態系統、用正確的格式提供正確的資訊與工具;提示工程是它的「子集」。
  9. 2025 年 6 月 25 日六天後,兩面都講。Andrej Karpathy 引用 Lütke 的貼文並重新定義:為下一步準備剛剛好的資訊——太少有害,太多也有害。
  10. 2025 年 6 月 27 日站得住。Simon Willison:這個詞「可能會流傳下去」,因為「大家推斷出來的定義才會留下來」,而這個詞讓人推斷出的意思,很可能更接近原意。
  11. 2025 年 7 月 14 日有人量測了。Chroma 的《Context Rot》報告:十八個模型,沒有一個處理長輸入能像處理短輸入一樣可靠。報告標題用的名字,26 天前才在 Hacker News 上首次出現。
  12. 2025 年 7 月 17 日紙上的一門學科。Lingrui Mei 等人發表綜述,把它定位為「一門正式的學科」,所依據的研究論文超過 1,400 篇。
  13. 2025 年 8 月 29 日一個職稱。Cognizant 宣布一年內部署 1,000 名情境工程師,並把脈絡定義為一家公司的「知識總和」。
  14. 2025 年 9 月 29 日數量最少的集合。Anthropic 的正式定義把「少」定為指導原則,距「全部的脈絡」102 天。同一天,它推出脈絡編輯與記憶工具。
  15. 2026 年 2 月又兩項量測。Damon McMillan 發現模型本身的能力遠比脈絡的格式重要;LOCA-bench 發現代理的表現隨脈絡增長而下滑,而脈絡管理有幫助。
  16. 2026 年 7 月 30 日廠商問買家。Redis 的調查:受訪的 IT 與 AI 基礎設施主管幾乎都說,脈絡決定 AI 能否奏效;但很少人說自己已建好供應脈絡的系統。
  17. 2026 年 9 月仍是一節,不是一個條目。維基百科沒有情境工程的專頁;它是〈Prompt engineering〉條目裡的一節,該條目最近一次修訂在 9 月 21 日。

不是反轉,而是選擇 兩種考題第一週就都擺上桌了。正式定義選了其中一種。

用脈絡把模型搞砸有兩種方式,而 2025 年 6 月的那幾則貼文兩種都點到了。Lütke 的定義是一道「夠不夠」的考題:你是否給了模型所需的一切,讓任務「有可能被解出來」?四天後 Harrison Chase 的定義問的是同一件事——它能不能「有可能完成任務」。另一道考題是「多不多」。Lütke 發文三天後,Drew Breunig 主張更長的脈絡不會帶來更好的答案,並列出四種出錯方式;再過三天,Karpathy 寫道脈絡太少有害,太多也有害。這種失敗在 Lütke 發文前一天,就已經在 Hacker News 的一則留言裡有了名字:「脈絡腐化」。後來出現的是證據和一個決定。Chroma 固定每項任務、只改變輸入長度,發現受測的十八個模型可靠度全都下降;報告最後稱情境工程「對可靠的表現不可或缺」。Anthropic 引用了這份報告,並給出機制:transformer 讓每個 token 都與其他所有 token 建立關係,n 個 token 就有 n² 組配對,脈絡視窗愈滿,注意力就被攤得愈薄——是漸進的下坡,而不是懸崖。它的定義接著把第二道考題定為規則:找出訊號最強、數量最少的 token 集合,同時提醒「最少」不等於「最短」。這裡沒有任何證據顯示 Chroma 的報告改變了誰的定義。日期只顯示先後順序:先命名、再量測、後正式定義。範圍也變了。2023 年,情境工程是提示工程的一部分;到了 2025 年,LangChain 與 Anthropic 都把提示工程放進情境工程裡面。

  • 太少 · 太多兩者都由 Karpathy 點出,在「全部的脈絡」六天之後
  • 18個模型:Chroma 發現它們處理長輸入都不如處理短輸入可靠
  • n²n 個 token 產生的兩兩關係——Anthropic 用來解釋注意力為何變薄

實務上怎麼做 Anthropic 的指南是最詳細的說明;接下來的表格補上其他人發表的內容。

  1. 1寫在恰當的高度介於寫死而脆弱的邏輯,與假設彼此已有共識的模糊指引之間。目標是能完整規範行為的最少內容——最少不等於最短。
  2. 2工具組要小自成一體、能承受錯誤、彼此重疊最少。如果人類工程師都說不出某個情況該用哪個工具,就不能指望模型做得更好。
  3. 3晚點抓,不要早抓保留輕量的識別資訊——檔案路徑、儲存的查詢、連結——在執行時才載入資料。後設資料本身就是訊號:放在 tests 裡的 test_utils.py,和放在 src/core_logic/ 裡的同名檔案,意思不同。
  4. 4長任務要懂得丟東西壓縮(把滿了的視窗做成摘要,再從摘要重新開始)、結構化筆記(筆記存在視窗外,需要時再讀回來),以及子代理(用數萬個 token 探索,只回傳一兩千個)。

單一廠商指南之外 其他打造代理的人發表了什麼、又量測了什麼。最後一欄說明每項屬於哪一種證據。

誰補充了什麼證據種類
Manus,2025 年 7 月把 KV 快取命中率當成關鍵指標:輸入與輸出約為 100 比 1,而快取過的輸入便宜十倍。遮蔽工具而不是移除;把檔案系統當記憶;讓代理維護並逐步更新一份 todo.md;把失敗的動作留在脈絡裡,讓模型從中學習。公司對自家代理的自述
Anthropic,2025 年 9 月脈絡編輯會清掉過時的工具結果;記憶工具把檔案存在視窗之外。公布的數字:兩者並用在內部代理搜尋測試中好 39%,只用編輯好 29%,100 輪中少用 84% 的 token。廠商自報,未經稽核
Damon McMillan,2026 年 2 月在 11 個模型上做了 9,649 次實驗:脈絡的格式(YAML、Markdown、JSON、TOON)整體而言沒有顯著差別;前沿模型與開放模型之間 21 個百分點的差距,遠大於任何格式或架構的影響。單一作者的預印本;讀了摘要
LOCA-bench,2026 年 2 月代理所處的環境愈複雜,表現大致愈差;進階的脈絡管理技巧「能大幅提升」成功率。Weihao Zeng、Yuzhen Huang 與 Junxian He 的預印本;讀了摘要,未引用數字

有兩點值得和廠商的說法分開來看。第一是迴圈。Simon Willison 的定義——「LLM 代理在迴圈中執行工具以達成目標」——以及 Anthropic 自己說的「在迴圈中使用工具」,解釋了這個問題為什麼在那時變大:迴圈每跑一輪,就有工具輸出加進視窗,所以每一輪都得重新挑選。第二是預測。Anthropic 預期代理設計會「走向讓聰明的模型聰明地行動,人工篩選愈來愈少」。這是一個與此利害相關的一方所做的預測,應當照預測來讀。量測結果兩個方向都有。McMillan 發現模型本身的能力遠比脈絡的格式重要,這和那個預測相符;Chroma 與 LOCA-bench 則發現,又長又不斷增長的脈絡仍會拖累表現,而這正是需要篩選的原因。兩者可以同時成立:篩選也許會變容易,但仍然必要。

  • 100 : 1Manus 代理的輸入與輸出 token 比,依其自己的計算
  • 1–2k個 token:據 Anthropic,子代理探索數萬個之後回傳的量
  • 21個百分點:McMillan 研究中前沿模型與開放模型的差距——大於任何格式的影響

帶走什麼 三件事,最後一件是:這個詞從哪裡來,能說的其實很少。

問清楚對方指的是哪一道考題

「提供全部的脈絡」和「找出數量最少的 token 集合」都是這個詞公開發表過的定義,而兩者方向相反。證據最充分的立場是兩者都要:缺了脈絡,任務就解不出來;脈絡過多,模型的表現就會可量測地變差。光說「情境工程」,並沒有說明要修的是哪一種失敗。

到了 2026 年,它指的是三種不同的工作

開發者逐輪挑選 token(Anthropic);團隊打造負責組裝脈絡的系統(LangChain、Philipp Schmid);以及公司替代理整理自身的知識(Cognizant、Redis)。第三種背後的數字——Cognizant 的 1,000 名工程師、Redis 的百分比——都出自販售這類服務的公司,而 Redis 的網頁沒有說明問了多少人。

這裡找到的人都不是它的創造者

目前找到最早的用法是 Riley Goodside 在 2023 年 1 月寫的,比 Lütke 的貼文早了 878 天。Lütke 寫的是他喜歡這個詞;Harrison Chase 寫的是他的定義建立在別人的說法之上。到了 2026 年 9 月,維基百科仍只給它一節,而不是一個條目。能說的只有「目前找到最早」。

無法查證的部分

「傳言」——據稱 Gartner 在 2025 年 7 月告訴 AI 領導者:「情境工程當道,提示工程退場」。這句話是 Redis 2026 年調查中歸於 Gartner 的說法;Gartner 本身的文件無法開啟。

核心要點與來源

  • Riley Goodside,Hacker News(2023 年 1 月 23 日)
  • Simon Willison(2023 年 1 月 23 日)
  • Erik S. 與 Barry Zhang,Anthropic(2024 年 12 月 19 日)
  • Dex Horthy,〈12-Factor Agents〉,GitHub(2025 年 4 月 7 日)
  • Walden Yan,Cognition(2025 年 6 月 12 日)
  • Workaccount2,Hacker News(2025 年 6 月 18 日)
  • Tobi Lütke,X(2025 年 6 月 19 日)
  • Drew Breunig(2025 年 6 月 22 日)
  • Harrison Chase,LangChain(2025 年 6 月 23 日)
  • Andrej Karpathy,X(2025 年 6 月 25 日)
  • Simon Willison(2025 年 6 月 27 日)
  • Philipp Schmid(2025 年 6 月 30 日)
  • Kelly Hong、Anton Troynikov 與 Jeff Huber,Chroma(2025 年 7 月 14 日)
  • Mei 等,arXiv(2025 年 7 月 17 日)
  • Yichao Ji,Manus(2025 年 7 月 18 日)
  • Cognizant(2025 年 8 月 29 日)
  • Simon Willison(2025 年 9 月 18 日)
  • Rajasekaran、Dixon、Ryan 與 Hadfield,Anthropic(2025 年 9 月 29 日)
  • Anthropic,脈絡管理(2025 年 9 月 29 日)
  • Damon McMillan,arXiv(2026 年 2 月 5 日)
  • Zeng、Huang 與 He,arXiv(2026 年 2 月 8 日)
  • Redis(2026 年 7 月 30 日)
  • 維基百科〈Prompt engineering〉(2026 年 9 月 21 日修訂版)。皆於 2026 年 9 月 28 日閱讀。這個名詞是常設主題 LLM 工程所涵蓋的五個之一,該主題將它與其他四個並列。

可不可靠

可靠,但有立場又可信又可靠兩者皆弱,謹慎採用立場可信,但材料薄弱

值不值得相信

每一點代表一項採用的來源,依兩項判斷置於六級量尺上。點不具名:本圖呈現的是證據的樣貌,而非對任何出版者的評價。

版本

本文內容需要更動時即改寫為新版本,每個版本都保留在自己的網址。

  1. v0002 目前
  2. v0001 已被取代

目前版本也位於 latest/。