返回
企业应用
简单来说什么是上下文窗口
上下文窗口是指 AI 模型在处理信息和生成回应时能够一次考虑的最大文本量。它是模型在给定交互中的活跃"记忆"限制。
这个限制通常以词元(token,即词语或词语的一部分)来衡量。模型使用此窗口内的所有文本——之前的对话历史、指令和当前输入——来理解上下文并产生相关输出。当对话超过窗口大小时,模型会"遗忘"开头的文本,将窗口限制内的内容视为当前工作上下文。
理解上下文窗口对于有效交互至关重要。它解释了为什么很长的对话可能会失去连贯性,以及为什么需要在模型的词元容量内提供关键信息。这个概念直接影响长文档翻译、复杂文本摘要或扩展对话中的上下文维护等任务。
FAQ