故障排查GitHub issue2 分钟阅读排错/错误码

解决FastGPT私有部署版本工具调用第三次时的报错问题

用户使用FastGPT v4.9.3私有部署版本,通过官方OpenAI兼容接口接入支持function call的模型,在使用工具调用节点时,第三次工具调用完成后会触发报错。

现象

用户使用FastGPT v4.9.3私有部署版本,通过官方OpenAI兼容接口接入支持function call的模型,在使用工具调用节点时,第三次工具调用完成后会触发报错。不同模型服务商的报错表现存在差异,qwen-max-latest、qwen-plus等模型必现该报错,kimi-latest模型也会触发同类问题。复现需满足使用逐步执行多轮工具调用的提示词、复杂问题触发多次工具调用等条件,一次性完成多次工具调用的场景不会触发该报错。

可能原因

暂未明确官方根因,结合复现场景推测,该问题可能与多轮工具调用后的上下文处理、请求参数累积或接口兼容逻辑相关。

排查步骤

  1. 确认当前FastGPT版本为v4.9.3私有部署版本,核对模型接入方式为官方OpenAI兼容接口,且已在模型配置中开启function call功能。
  2. 复现问题时,完整记录对话详情与报错日志,确认报错触发时机为第三次工具调用完成后。
  3. 检查所用提示词是否要求模型逐步执行多轮工具调用,且问题复杂度足够触发多轮调用流程。
  4. 更换符合要求的模型,验证报错是否仅在特定模型上触发。
  5. 核对工具调用节点的配置,确认无参数缺失或格式错误。

解决与验证

目前暂无官方明确修复方案,可通过以下方式临时验证与缓解:1. 简化提示词逻辑,减少模型逐步调用的次数要求;2. 缩短单轮工具调用的上下文长度,降低累积压力;3. 关注官方版本更新,获取对应修复。验证方式为:按照原复现步骤重新执行,确认第三次工具调用完成后不再触发报错,且能正常完成多轮工具调用流程。

来源:FastGPT GitHub issue