Apa Itu

Istilah · Kejuruteraan LLM · Ejen AI · Model bahasa · Penanda aras · AI · PenjelasanIstilah dan amalannya, Januari 2023 hingga September 2026

• 878hari daripada penggunaan terawal frasa itu yang ditemui (Januari 2023) hingga hantaran Tobi Lütke (Jun 2025)
• 6hari antara “semua konteks” dan amaran Andrej Karpathy bahawa konteks yang terlalu banyak memudaratkan
• 18model diuji oleh Chroma; dalam setiap satu, kebolehpercayaan menurun apabila input bertambah
• 1,000jurutera konteks yang Cognizant umumkan pada Ogos 2025 akan dikerahkan dalam setahun

Empat definisi, dalam tempoh kurang tiga tahun Diletakkan bersebelahan, semuanya tidak sepakat sama ada kerjanya menambah konteks atau memangkasnya.

• Riley Goodside · 23 Jan 2023

  “Memilih dan menyediakan konteks yang relevan”

  Separuh daripada kejuruteraan prompt, bukan penggantinya.

  • Sepenuhnya: saya fikir kejuruteraan prompt boleh dibahagikan kepada “kejuruteraan konteks”, iaitu memilih dan menyediakan konteks yang relevan untuk sesuatu tugasan, dan “pengaturcaraan prompt”, iaitu menulis arahan yang jelas.
  • Satu komen di Hacker News, dipetik oleh Simon Willison pada hari yang sama. Ia penggunaan terawal frasa itu yang ditemui — bukan bukti bahawa tiada sesiapa menulisnya lebih awal.

• Tobi Lütke · 19 Jun 2025

  “Menyediakan semua konteks”

  Hantaran yang mula-mula dipetik orang lain: ujian kecukupan.

  • Sepenuhnya: seni menyediakan semua konteks supaya tugasan itu boleh diselesaikan secara munasabah oleh LLM.
  • Dia bermula dengan “saya sangat suka istilah itu” — sokongan terhadap frasa yang sudah digunakan. Seminggu sebelumnya, Walden Yan dari Cognition telah menyebut kejuruteraan konteks “pada hakikatnya kerja nombor satu jurutera yang membina ejen AI”.

• Andrej Karpathy · 25 Jun 2025

  “Maklumat yang tepat sekadarnya untuk langkah seterusnya”

  Enam hari kemudian, memetik Lütke — dan menamakan kedua-dua kegagalan.

  • “Terlalu sedikit atau dalam bentuk yang salah, dan LLM tidak mempunyai konteks yang betul untuk prestasi optimum. Terlalu banyak atau terlalu tidak relevan, dan kos LLM mungkin naik dan prestasinya mungkin turun.”
  • Daripada “tugasan itu” kepada “langkah seterusnya”: pemilihan berlaku pada setiap giliran, bukan sekali bagi setiap kerja.
  • Dan had kepada istilah itu sendiri: kejuruteraan konteks “hanya satu bahagian kecil daripada lapisan tebal perisian yang tidak remeh yang sedang muncul”.

• Anthropic · 29 Sep 2025

  “Set terkecil yang mungkin daripada token bernilai isyarat tinggi”

  Definisi rasmi, dengan kekurangan sebagai prinsip panduannya.

  • Secara rasmi: set strategi untuk memilih dan mengekalkan set token (maklumat) yang optimum semasa inferens LLM, termasuk semua maklumat lain yang mungkin masuk ke situ di luar prompt.
  • Kejuruteraan prompt kini berada di dalamnya: kejuruteraan konteks ialah “perkembangan semula jadinya”, dan “fasa pemilihan berlaku setiap kali kita menentukan apa yang hendak diberikan kepada model”.
  • Definisi vendor, ditulis oleh pasukan AI Gunaannya untuk membina di atas platformnya sendiri.

Sejauh mana setiap bahagian kukuh Disusun mengikut kedudukan. Dokumen bertarikh, ukuran dan angka vendor sendiri ialah jenis fakta yang berbeza.

Garis Masa

Daripada satu komen kepada satu jawatan Setiap tarikh ialah satu penerbitan. Bila orang mengubah cara mereka bekerja tidak diukur oleh mana-mana satu pun.

1. 23 Jan 2023Separuh kejuruteraan prompt. Riley Goodside, di Hacker News, membahagikan kejuruteraan prompt kepada “kejuruteraan konteks” — memilih dan menyediakan konteks yang relevan — dan “pengaturcaraan prompt”. Penggunaan terawal frasa itu yang ditemui.
2. 19 Dis 2024Kerjanya ada, perkataan popularnya belum. Anthropic menyebut “LLM yang dipertingkatkan dengan tambahan seperti dapatan semula, alat dan memori” sebagai blok binaan asas sistem agentik.
3. 7 Apr 2025“Segalanya ialah kejuruteraan konteks.” Panduan 12-Factor Agents oleh Dex Horthy di GitHub, mengikut tarikh commitnya.
4. 12 Jun 2025Kerja nombor satu. Walden Yan dari Cognition menyebut kejuruteraan konteks “tahap seterusnya” bagi kejuruteraan prompt, dilakukan “secara automatik dalam sistem dinamik”.
5. 18 Jun 2025Masalah itu diberi nama. Seorang pengulas Hacker News mencadangkan “reput konteks”: apabila konteks bertambah, “kualiti output merosot dengan cepat”.
6. 19 Jun 2025Semua konteks. Tobi Lütke lebih suka istilah itu daripada kejuruteraan prompt: menyediakan semua konteks supaya tugasan boleh diselesaikan secara munasabah. Simon Willison, Harrison Chase dan Philipp Schmid semuanya memetiknya dalam tempoh sebelas hari.
7. 22 Jun 2025Tiga hari kemudian, hujah sebaliknya. Drew Breunig: “konteks yang lebih panjang tidak menghasilkan jawapan yang lebih baik”, dan empat cara konteks gagal — keracunan, gangguan, kekeliruan, pertembungan.
8. 23 Jun 2025Definisi vendor rangka kerja. Harrison Chase dari LangChain: sistem dinamik yang memberikan maklumat dan alat yang betul dalam format yang betul; kejuruteraan prompt ialah “subset”nya.
9. 25 Jun 2025Enam hari kemudian, kedua-duanya serentak. Andrej Karpathy memetik Lütke dan mentakrifkannya semula: maklumat yang tepat sekadarnya untuk langkah seterusnya — terlalu sedikit memudaratkan, begitu juga terlalu banyak.
10. 27 Jun 2025Daya tahan. Simon Willison: istilah itu “mungkin bertahan”, kerana “definisi yang disimpulkan ialah yang kekal” dan definisi yang disimpulkan bagi istilah ini mungkin lebih hampir dengan maksud sebenarnya.
11. 14 Julai 2025Ada yang mengukurnya. Laporan Context Rot oleh Chroma: lapan belas model, tiada satu pun mengendalikan input panjang sebaik input pendek. Tajuknya menggunakan nama yang mula-mula dilihat di Hacker News 26 hari sebelumnya.
12. 17 Julai 2025Satu disiplin, di atas kertas. Lingrui Mei dan rakan-rakan menerbitkan tinjauan yang membentangkannya sebagai “disiplin rasmi”, berdasarkan lebih 1,400 kertas penyelidikan.
13. 29 Ogos 2025Satu jawatan. Cognizant berkata ia akan mengerahkan 1,000 jurutera konteks dalam setahun, dan mentakrifkan konteks sebagai “himpunan pengetahuan” sesebuah syarikat.
14. 29 Sep 2025Set terkecil yang mungkin. Definisi rasmi Anthropic menjadikan kekurangan prinsip panduannya, 102 hari selepas “semua konteks”. Pada hari yang sama ia melancarkan penyuntingan konteks dan alat memori.
15. Feb 2026Dua lagi ukuran. Damon McMillan mendapati keupayaan model jauh lebih penting daripada format konteksnya; LOCA-bench mendapati prestasi ejen merosot apabila konteksnya bertambah, dan pengurusan konteks membantu.
16. 30 Julai 2026Vendor bertanya kepada pembeli. Tinjauan Redis: hampir semua pemimpin infrastruktur IT dan AI yang ditanya berkata konteks menentukan sama ada AI berfungsi; sedikit sahaja yang berkata mereka telah membina sistem untuk membekalkannya.
17. Sep 2026Masih satu bahagian, bukan rencana. Wikipedia tiada halaman untuk kejuruteraan konteks; ia satu bahagian dalam “Prompt engineering”, rencana yang kali terakhir disemak pada 21 September.

Hujah

Bukan terbalik — satu pilihan Kedua-dua ujian sudah ada pada minggu pertama. Definisi rasmi memilih satu.

Apa Yang Ditambah Orang Lain

Apa yang dilakukan pengamal Panduan Anthropic ialah huraian paling terperinci; jadual selepasnya menambah apa yang diterbitkan pihak lain.

1. 1Tulis pada ketinggian yang betulAntara logik keras yang rapuh dan panduan kabur yang menganggap konteks sudah dikongsi. Sasarkan set minimum yang menentukan tingkah laku sepenuhnya — minimum tidak bermakna pendek.
2. 2Kekalkan set alat yang kecilBerdiri sendiri, tahan ralat, bertindih seminimum mungkin. Jika jurutera manusia tidak dapat menyatakan alat mana yang sesuai untuk sesuatu situasi, model tidak boleh dijangka berbuat lebih baik.
3. 3Ambil lewat, bukan awalSimpan pengecam ringan — laluan fail, pertanyaan tersimpan, pautan — dan muatkan data semasa masa jalan. Metadata ialah isyarat: test_utils.py dalam tests bermaksud sesuatu yang berbeza daripada nama yang sama dalam src/core_logic/.
4. 4Untuk kerja panjang, buang sesuatuPemadatan (ringkaskan tetingkap yang penuh dan mula semula daripada ringkasan), pencatatan berstruktur (nota disimpan di luar tetingkap dan dibaca semula), dan sub-ejen (meneroka dengan puluhan ribu token, memulangkan seribu hingga dua ribu).

Di luar panduan satu vendor Apa yang diterbitkan pihak lain yang membina ejen, dan apa yang diukur. Lajur terakhir menyatakan jenis bukti setiap satu.

Kesimpulan

Apa yang perlu dibawa pulang Tiga perkara, dan yang terakhir ialah betapa sedikit yang boleh dikatakan tentang asal perkataan itu.