令牌（Tokens）与上下文窗口详解

语言模型将信息处理为通常称为令牌（tokens）的小单元。上下文窗口是模型一次能够考虑的信息量。

为什么这很重要

当提示中包含清晰的源材料时，模型可以利用该材料生成更相关的答案。过长或未聚焦的输入会使重要细节更难找到。

实用建议

将大型任务划分为多个部分，明确期望的结果，并在起草前请模型总结关键事实。最后对照源材料检查结果。