现象
用户使用FastGPT v4.9.3私有部署版本,通过官方OpenAI兼容接口接入支持function call的模型,在使用工具调用节点时,第三次工具调用完成后会触发报错。不同模型服务商的报错表现存在差异,qwen-max-latest、qwen-plus等模型必现该报错,kimi-latest模型也会触发同类问题。复现需满足使用逐步执行多轮工具调用的提示词、复杂问题触发多次工具调用等条件,一次性完成多次工具调用的场景不会触发该报错。
可能原因
暂未明确官方根因,结合复现场景推测,该问题可能与多轮工具调用后的上下文处理、请求参数累积或接口兼容逻辑相关。
排查步骤
- 确认当前FastGPT版本为v4.9.3私有部署版本,核对模型接入方式为官方OpenAI兼容接口,且已在模型配置中开启function call功能。
- 复现问题时,完整记录对话详情与报错日志,确认报错触发时机为第三次工具调用完成后。
- 检查所用提示词是否要求模型逐步执行多轮工具调用,且问题复杂度足够触发多轮调用流程。
- 更换符合要求的模型,验证报错是否仅在特定模型上触发。
- 核对工具调用节点的配置,确认无参数缺失或格式错误。
解决与验证
目前暂无官方明确修复方案,可通过以下方式临时验证与缓解:1. 简化提示词逻辑,减少模型逐步调用的次数要求;2. 缩短单轮工具调用的上下文长度,降低累积压力;3. 关注官方版本更新,获取对应修复。验证方式为:按照原复现步骤重新执行,确认第三次工具调用完成后不再触发报错,且能正常完成多轮工具调用流程。