上下文是什麼?AI 上下文、容量與記憶的差別

上下文(context)是理解一段話所需的前後文與背景;在 AI 裡,則是模型這次產生回答時可以參考的資訊。你剛貼了一封信,再說「改短一點」,AI 要知道你指的是哪封信,也要知道原本的內容,才有依據進行修改。

這篇會從日常對話解釋上下文,接著說明容量上限與 token 的關係、它和 AI 記憶的差別,最後用一個整理通知的例子,帶你練習提供必要材料,並處理長對話中遺漏條件的情況。

上下文是什麼?從「就選第二個」理解

朋友問你晚餐要吃麵還是飯,你回「就選第二個」,對方知道你選的是飯。如果朋友只收到最後這句話,就會缺少判斷「第二個」的線索。這些幫助理解意思的前後資訊,就是日常語言中的上下文。

AI 也需要這類線索。你問「哪個比較適合我」,至少要交代正在比較什麼,以及你在意價格、用途還是其他條件。模型會依實際收到的內容生成回答;資料缺少時,回答可能偏向一般情況,或自行做出與你不同的假設。

在聊天工具裡,上下文可能包括下列幾類資訊,實際範圍由產品如何組織這次輸入決定:

  • 問題與要求:你最新輸入的任務、回答格式,以及系統提供的行為指令。
  • 先前對話:這次實際帶入的提問、回答與已確定條件。
  • 參考材料:送入模型的文件內容、圖片或其他支援的資料。
  • 工具補充:例如搜尋或讀取檔案後,交給模型參考的結果。

Anthropic 的官方說明便列出訊息、文件與工具結果等輸入。對使用者而言,重點是「這次實際提供了什麼」,而非只看聊天頁面總共存了多少內容。


為什麼值得懂上下文?少給一項條件,答案就可能偏離

假設你請 AI「幫我寫活動文案」,它還缺少活動內容、對象與刊登位置。寫給熟客的 LINE 通知,和寫給第一次看到品牌的網站介紹,需要的資訊及語氣就有差異。

懂上下文,可以幫你先找出回答偏離的原因:活動時間有沒有提供?讀者是誰有沒有說清楚?原本要求保留的報名連結還在嗎?補齊這些材料,比只加一句「寫得更好」更能讓任務要求明確。

這也能幫你判斷何時要補充資料。請它改寫一小段文字,貼上原文與要求就能開始;要它比較兩份課程大綱,則需要提供兩邊的授課內容,以及你想學會的技能。材料與問題對得上,才方便你核對比較結果。

AI 回答可參考當次實際送入的問題與要求、對話與材料,以及工具補充的資料。

上下文視窗有多大?先看 token 代表什麼

上下文視窗(context window)是模型一次處理資訊的容量範圍。可以把它想成工作桌:桌上目前攤開的材料是內容,桌面有多大則是容量。這個比喻只幫助區分兩者,模型實際以數值化資料運算。

上下文容量按 token 計算,和中文字數有差異

Token 是模型處理資料時使用的單位,常譯為「詞元」。文字會被切成這些單位,一個單位可能是一個字元、一個完整詞,或詞的一部分。語言與切分方式會影響數量,因此「十萬 token」和「十萬個中文字」代表不同的計量方式。詳細例子可看Token 是什麼。

比較規格時,還要看「輸入上限」與「輸出上限」怎麼標示。有些模型把輸入、推理過程與輸出放進同一份容量預算,有些另列輸入與輸出額度;應依該模型的官方說明判讀。Google 的長上下文文件就說明了不同模型的計數差異。


聊天紀錄還在畫面上,和本次收到的內容有差異

同一個對話可以持續累積訊息,但產品仍須管理有限容量。隨著對話變長,系統可能選取相關片段、整理摘要,或移除較早的部分。畫面上能回捲查看原文,表示紀錄仍可顯示;每次回答實際收到哪些內容,則由產品處理方式決定。

如果 AI 遺漏你先前交代的預算,先把「預算上限三千元」和目前要比較的選項再提供一次,再要求它逐項核對。回答遺漏條件,也可能來自指令衝突或理解錯誤;光看一次答錯,還不足以判定容量已滿。


上下文和 AI 記憶有什麼差別?

上下文關心的是「這次回答拿到哪些資訊」;記憶功能關心的是「哪些資訊可在之後的對話中再被取用」。例如,你在這次提問貼了一份菜單,它是當次參考材料;你曾告訴聊天工具自己吃素,工具若有啟用相關記憶功能,之後可能再次參考這項偏好。

因此,開新對話後是否沿用某個偏好,要看產品功能、帳戶設定及它選取了哪些相關資訊。以 ChatGPT 為例,OpenAI 的記憶說明指出,它可利用可用來源中的相關資料,但記憶未逐字保留每次對話的全部細節。你可以到「設定 → 個人化 → 記憶」查看帳戶提供的控制項;不同帳戶顯示的項目可能不同。

還有一種容易混淆的來源,是模型在訓練時學到的語言與一般知識。它會寫信,不代表它已經讀過你公司的最新報價單。要它核對報價,仍須把相關資料提供給這次任務。想看跨對話的具體設定,可接著讀ChatGPT 記憶功能指南。

聊天畫面仍在不代表前文原樣送入;容量大仍須正確理解;新對話可能帶入記憶資料。

新手怎樣準備有用的上下文?

先選一個簡單任務,把「要做什麼、依據什麼、保留哪些條件」一起交代。下面是一個自訂的教學範例,你可以把同樣格式套用到自己的通知、信件或筆記;使用真實文件時,先移除與任務無關的個資與機密。

用一段通知練習提供上下文

假設你要把活動通知整理成兩句話,可以輸入:

請把下面的活動通知整理成兩句話,給已報名的人閱讀。保留日期、開始時間與地點;原文沒有寫的資訊請標示「未提供」。
原文:活動於 12 月 6 日下午 2 點開始,地點是市民活動中心二樓。請提前 10 分鐘到場,並攜帶報名確認信。

這段輸入提供了任務、讀者、原文及限制。你可核對回答是否保留「12 月 6 日」「下午 2 點」「市民活動中心二樓」,並確認沒有擅自補上費用或交通方式。若還需要集合時間,依原文「提前 10 分鐘」換算是下午 1 點 50 分,再檢查 AI 的計算。

這裡的價值在於把判斷依據說清楚,和提示詞寫多長無直接等號。Anthropic 的提示建議也強調具體的輸出格式與限制;處理長文件時,可要求先列相關原文,再進行分析,方便你回頭核對。

給 AI 任務的四個步驟:說明任務、給必要材料、寫明限制,並核對原文、數字與條件。

長任務先整理,再把關鍵條件帶到下一段

如果正在規劃一場活動,對話已混入場地、餐點和宣傳多個主題,可以先請 AI 整理「已確定事項、尚待決定事項、下一個任務」。你核對摘要後,再用它接續工作;重要金額、日期與原文條款仍保留來源,摘要可能省略細節。

把整理好的摘要放進新對話,是重新提供上下文的一種方法。若下一題是比較餐點,就補上人數、每人預算與飲食限制;先前討論的海報顏色,則可留到處理海報時再帶入。材料是否與問題相關,比一口氣塞入整份聊天紀錄更值得優先檢查。


上下文容量更大,回答就一定更準嗎?

容量增加,讓模型有機會一次接收更長的文件或更多資料;答對問題仍涉及找出重點、理解關係與遵守要求。2023 年的《Lost in the Middle》研究在多文件問答等測試中發現,受測模型使用資料的表現會隨重要資訊的位置改變,中段資訊尤其可能被忽略。這是特定模型與任務的研究結果,並非所有現行模型的固定成績。

實際使用時,可以要求回答附上支持結論的段落,再核對原文。要處理整本手冊,先確認模型的容量與工具如何讀取文件;要完成一封通知,則先把必要材料整理完整。


總結:把 AI 需要的材料與條件交代清楚

理解上下文後,你可以分清三件事:這次提供的資訊、模型一次可處理的容量,以及跨對話取用資訊的記憶功能。下次回答偏離需求時,先核對任務、材料和限制,再要求指出依據;整理長任務時,把確認過的關鍵條件帶到下一段工作。


參考資料

本文來源查核日:2026 年 11 月 17 日。產品介面與容量計算以使用時的官方文件為準。

進階問題:模型和系統如何擴大可處理的資料範圍?可接著讀AI 模型如何增加上下文。

常見問題

Context 中文怎麼翻?

Context 通常譯為「上下文」,也可依情境理解為脈絡或背景。在聊天 AI 中,指模型這次回答時可以參考的資訊,例如問題、實際帶入的前文與文件內容。

和 AI 聊得越久,它就會記得越多嗎?

對話會累積更多資訊,但模型一次處理的容量有限。產品可能選取、摘要或截短部分內容;重要條件若被遺漏,可重新提供原文與限制,再核對回答是否遵守。

開新對話後,AI 還會記得我嗎?

是否帶入過去的相關資訊,取決於產品的記憶功能、帳戶設定與當次選取的資料。以 ChatGPT 為例,可到設定中的個人化與記憶查看可用控制項;特定任務的重要資料,仍建議在提問時直接提供。

上下文視窗的一個 token 等於一個中文字嗎?

Token 和中文字並非固定一比一。文字會依模型使用的切分方式轉成 token,一個單位可能是字元、完整詞或詞的一部分。判斷文件是否放得下,應看該模型或工具的實際計數與限制。

上傳一份文件後,每次回答都會參考全文嗎?

實際參考範圍由工具讀取文件的方式決定。系統可能送入全文,也可能擷取相關段落或使用摘要。核對文件問題時,可要求指出支持答案的原文位置,再回到文件確認。
分享此內容: