
上下文(context)是理解一段話所需的前後文與背景;在 AI 裡,則是模型這次產生回答時可以參考的資訊。你剛貼了一封信,再說「改短一點」,AI 要知道你指的是哪封信,也要知道原本的內容,才有依據進行修改。
這篇會從日常對話解釋上下文,接著說明容量上限與 token 的關係、它和 AI 記憶的差別,最後用一個整理通知的例子,帶你練習提供必要材料,並處理長對話中遺漏條件的情況。
上下文是什麼?從「就選第二個」理解
朋友問你晚餐要吃麵還是飯,你回「就選第二個」,對方知道你選的是飯。如果朋友只收到最後這句話,就會缺少判斷「第二個」的線索。這些幫助理解意思的前後資訊,就是日常語言中的上下文。
AI 也需要這類線索。你問「哪個比較適合我」,至少要交代正在比較什麼,以及你在意價格、用途還是其他條件。模型會依實際收到的內容生成回答;資料缺少時,回答可能偏向一般情況,或自行做出與你不同的假設。
在聊天工具裡,上下文可能包括下列幾類資訊,實際範圍由產品如何組織這次輸入決定:
- 問題與要求:你最新輸入的任務、回答格式,以及系統提供的行為指令。
- 先前對話:這次實際帶入的提問、回答與已確定條件。
- 參考材料:送入模型的文件內容、圖片或其他支援的資料。
- 工具補充:例如搜尋或讀取檔案後,交給模型參考的結果。
Anthropic 的官方說明便列出訊息、文件與工具結果等輸入。對使用者而言,重點是「這次實際提供了什麼」,而非只看聊天頁面總共存了多少內容。
為什麼值得懂上下文?少給一項條件,答案就可能偏離
假設你請 AI「幫我寫活動文案」,它還缺少活動內容、對象與刊登位置。寫給熟客的 LINE 通知,和寫給第一次看到品牌的網站介紹,需要的資訊及語氣就有差異。
懂上下文,可以幫你先找出回答偏離的原因:活動時間有沒有提供?讀者是誰有沒有說清楚?原本要求保留的報名連結還在嗎?補齊這些材料,比只加一句「寫得更好」更能讓任務要求明確。
這也能幫你判斷何時要補充資料。請它改寫一小段文字,貼上原文與要求就能開始;要它比較兩份課程大綱,則需要提供兩邊的授課內容,以及你想學會的技能。材料與問題對得上,才方便你核對比較結果。

上下文視窗有多大?先看 token 代表什麼
上下文視窗(context window)是模型一次處理資訊的容量範圍。可以把它想成工作桌:桌上目前攤開的材料是內容,桌面有多大則是容量。這個比喻只幫助區分兩者,模型實際以數值化資料運算。
上下文容量按 token 計算,和中文字數有差異
Token 是模型處理資料時使用的單位,常譯為「詞元」。文字會被切成這些單位,一個單位可能是一個字元、一個完整詞,或詞的一部分。語言與切分方式會影響數量,因此「十萬 token」和「十萬個中文字」代表不同的計量方式。詳細例子可看Token 是什麼。
比較規格時,還要看「輸入上限」與「輸出上限」怎麼標示。有些模型把輸入、推理過程與輸出放進同一份容量預算,有些另列輸入與輸出額度;應依該模型的官方說明判讀。Google 的長上下文文件就說明了不同模型的計數差異。
聊天紀錄還在畫面上,和本次收到的內容有差異
同一個對話可以持續累積訊息,但產品仍須管理有限容量。隨著對話變長,系統可能選取相關片段、整理摘要,或移除較早的部分。畫面上能回捲查看原文,表示紀錄仍可顯示;每次回答實際收到哪些內容,則由產品處理方式決定。
如果 AI 遺漏你先前交代的預算,先把「預算上限三千元」和目前要比較的選項再提供一次,再要求它逐項核對。回答遺漏條件,也可能來自指令衝突或理解錯誤;光看一次答錯,還不足以判定容量已滿。
上下文和 AI 記憶有什麼差別?
上下文關心的是「這次回答拿到哪些資訊」;記憶功能關心的是「哪些資訊可在之後的對話中再被取用」。例如,你在這次提問貼了一份菜單,它是當次參考材料;你曾告訴聊天工具自己吃素,工具若有啟用相關記憶功能,之後可能再次參考這項偏好。
因此,開新對話後是否沿用某個偏好,要看產品功能、帳戶設定及它選取了哪些相關資訊。以 ChatGPT 為例,OpenAI 的記憶說明指出,它可利用可用來源中的相關資料,但記憶未逐字保留每次對話的全部細節。你可以到「設定 → 個人化 → 記憶」查看帳戶提供的控制項;不同帳戶顯示的項目可能不同。
還有一種容易混淆的來源,是模型在訓練時學到的語言與一般知識。它會寫信,不代表它已經讀過你公司的最新報價單。要它核對報價,仍須把相關資料提供給這次任務。想看跨對話的具體設定,可接著讀ChatGPT 記憶功能指南。

新手怎樣準備有用的上下文?
先選一個簡單任務,把「要做什麼、依據什麼、保留哪些條件」一起交代。下面是一個自訂的教學範例,你可以把同樣格式套用到自己的通知、信件或筆記;使用真實文件時,先移除與任務無關的個資與機密。
用一段通知練習提供上下文
假設你要把活動通知整理成兩句話,可以輸入:
請把下面的活動通知整理成兩句話,給已報名的人閱讀。保留日期、開始時間與地點;原文沒有寫的資訊請標示「未提供」。
原文:活動於 12 月 6 日下午 2 點開始,地點是市民活動中心二樓。請提前 10 分鐘到場,並攜帶報名確認信。
這段輸入提供了任務、讀者、原文及限制。你可核對回答是否保留「12 月 6 日」「下午 2 點」「市民活動中心二樓」,並確認沒有擅自補上費用或交通方式。若還需要集合時間,依原文「提前 10 分鐘」換算是下午 1 點 50 分,再檢查 AI 的計算。
這裡的價值在於把判斷依據說清楚,和提示詞寫多長無直接等號。Anthropic 的提示建議也強調具體的輸出格式與限制;處理長文件時,可要求先列相關原文,再進行分析,方便你回頭核對。

長任務先整理,再把關鍵條件帶到下一段
如果正在規劃一場活動,對話已混入場地、餐點和宣傳多個主題,可以先請 AI 整理「已確定事項、尚待決定事項、下一個任務」。你核對摘要後,再用它接續工作;重要金額、日期與原文條款仍保留來源,摘要可能省略細節。
把整理好的摘要放進新對話,是重新提供上下文的一種方法。若下一題是比較餐點,就補上人數、每人預算與飲食限制;先前討論的海報顏色,則可留到處理海報時再帶入。材料是否與問題相關,比一口氣塞入整份聊天紀錄更值得優先檢查。
上下文容量更大,回答就一定更準嗎?
容量增加,讓模型有機會一次接收更長的文件或更多資料;答對問題仍涉及找出重點、理解關係與遵守要求。2023 年的《Lost in the Middle》研究在多文件問答等測試中發現,受測模型使用資料的表現會隨重要資訊的位置改變,中段資訊尤其可能被忽略。這是特定模型與任務的研究結果,並非所有現行模型的固定成績。
實際使用時,可以要求回答附上支持結論的段落,再核對原文。要處理整本手冊,先確認模型的容量與工具如何讀取文件;要完成一封通知,則先把必要材料整理完整。
總結:把 AI 需要的材料與條件交代清楚
理解上下文後,你可以分清三件事:這次提供的資訊、模型一次可處理的容量,以及跨對話取用資訊的記憶功能。下次回答偏離需求時,先核對任務、材料和限制,再要求指出依據;整理長任務時,把確認過的關鍵條件帶到下一段工作。
參考資料
本文來源查核日:2026 年 11 月 17 日。產品介面與容量計算以使用時的官方文件為準。
- Anthropic:Context windows
- Google:Long context
- Google:Understand and count tokens
- OpenAI:Memory in ChatGPT
- Liu 等人:Lost in the Middle
- Anthropic:Prompting best practices
進階問題:模型和系統如何擴大可處理的資料範圍?可接著讀AI 模型如何增加上下文。



