故障排查GitHub issue2 分钟阅读排错/错误码

解决FastGPT工具调用API格式与回复前缀异常问题

当前为FastGPT私有部署4.8.8版本,通过v1.7.0版本的微信绑定工具发布API密钥调用。

现象

当前为FastGPT私有部署4.8.8版本,通过v1.7.0版本的微信绑定工具发布API密钥调用。存在两类异常情况:一是使用高级编排应用的工具调用功能,触发“今天天气”这类工具类提问时,微信绑定工具出现报错,推测为FastGPT工具调用的API响应格式不兼容;二是使用自建qwen2 72B这类不支持函数调用的模型配置高级编排应用,触发“你好”这类普通提问时,回复内容以“0: ”开头。

可能原因

第一类异常的原因是工具调用场景下,FastGPT返回的API响应格式未满足对接工具的兼容要求,导致调用失败报错。第二类异常的原因是当配置的模型不支持函数调用功能时,仍启用了工具调用配置,模型额外输出了前缀字符“0: ”,引发回复异常。

排查步骤

  1. 确认当前FastGPT部署版本为4.8.8私有部署版本,以及微信绑定工具的版本为v1.7.0。
  2. 进入FastGPT高级编排应用配置页面,查看当前绑定的模型是否支持函数调用功能。
  3. 触发工具类提问,查看微信绑定工具的报错日志,核对是否为API格式不兼容相关的报错。
  4. 针对不支持函数调用的模型,临时关闭该应用的工具调用配置,重新触发普通提问,验证回复是否仍带有“0: ”前缀。

解决与验证

针对API格式不兼容问题,需调整工具调用的响应格式,使其符合FastGPT的规范要求,重新发布应用并测试。针对回复前缀异常问题,若使用的模型不支持函数调用,直接关闭该应用的工具调用配置;或更换为支持函数调用的模型。验证方式为:触发工具类提问无报错,普通提问的回复不再带有“0: ”前缀,功能恢复正常。

来源:FastGPT GitHub issue