故障排查GitHub issue2 分钟阅读故障排查

调整FastGPT上下文数量以减少token消耗

使用FastGPT私有部署版本时,用户发现上下文关联的token消耗过高,认为现有上下文数量设置不合理,希望自行调整,但查找许久未找到对应的配置入口,无法完成修改操作。 FastGPT的上下文数量调整配置项未在直观的界面位置展示,无法通过常规操作路径快速定位。

现象

使用FastGPT私有部署版本时,用户发现上下文关联的token消耗过高,认为现有上下文数量设置不合理,希望自行调整,但查找许久未找到对应的配置入口,无法完成修改操作。

可能原因

FastGPT的上下文数量调整配置项未在直观的界面位置展示,无法通过常规操作路径快速定位。当前未发现其他明确的配置限制,具体原因需结合实际部署环境与界面布局确认。

排查步骤

  1. 登录FastGPT私有部署的管理后台系统。
  2. 进入需要调整配置的目标应用详情页面。
  3. 浏览当前页面的所有设置模块,查找与上下文数量、token消耗相关的配置入口。
  4. 检查页面内是否存在折叠的菜单选项或次级配置页面,展开后查看是否包含目标设置项。
  5. 若当前应用页面未找到相关配置,可尝试查看全局设置或高级配置页面,确认是否有统一的上下文参数调整入口。

解决与验证

若成功找到上下文数量的配置项,修改为期望的数值后保存当前配置。保存完成后,发起新的对话交互,查看token消耗情况是否符合调整后的预期效果。若未找到对应的配置项,需按实际部署环境确认配置路径,或参考官方文档的对应说明进行操作。

来源: FastGPT 官方来源

适用性与版本范围

本页适用于官方来源记录的 故障排查 场景。执行变更前,需核对 FastGPT、依赖、API 与部署版本。

安全护栏

凭证与私密数据使用 [REDACTED_CREDENTIAL] 占位符。执行操作前需核对文档的环境与版本。

回滚指引

恢复变更前的技术内容权威快照、已保存配置与数据快照,再执行最小验证场景。