詞元與上下文視窗說明

語言模型以稱為「詞元」的小單位來處理資訊。上下文視窗是模型一次能考量的資訊量。

為什麼重要

當提示中包含清楚的來源資料時，模型可以利用該資料產生更相關的答案。過長或焦點渙散的輸入會讓重要細節更難被找到。

實用技巧

將大型任務分成幾個部分，指定期望的結果，並在起草前要求模型摘要關鍵事實。最後依據來源資料檢視結果。