故障排查GitHub issue2 分钟阅读排错/错误码

解决FastGPT意图分类调用分应用时流式输出一次性返回的问题

在FastGPT 4.11.0私有部署版本中,用户通过工作流编排应用,主应用使用意图分类指向不同分应用。所有分应用均已开启流式输出开关,但调用分应用的接口返回结果为1秒内一次性全部返回,未呈现正常的流式输出效果。直接调用模型回答的问题则可正常实现流式输出,且在多个版本测试中均复现该问题。

现象

在FastGPT 4.11.0私有部署版本中,用户通过工作流编排应用,主应用使用意图分类指向不同分应用。所有分应用均已开启流式输出开关,但调用分应用的接口返回结果为1秒内一次性全部返回,未呈现正常的流式输出效果。直接调用模型回答的问题则可正常实现流式输出,且在多个版本测试中均复现该问题。

可能原因

该问题的具体根因未在当前反馈中明确,需结合部署日志与代码逻辑进一步排查。仅从现象来看,可能与意图分类环节对分应用流式输出的处理逻辑有关,导致流式数据被合并为单次返回。

排查步骤

  1. 确认当前使用的FastGPT版本为4.11.0私有部署版本,核对版本号信息。
  2. 检查主应用的意图分类配置,确认已正确关联目标分应用,且分应用已开启流式输出开关。
  3. 分别执行三种测试场景:直接调用模型回答、直接调用分应用回答、通过主应用意图分类调用分应用,对比三种场景下的流式输出表现。
  4. 查看FastGPT的部署日志,检索与意图分类、流式响应相关的异常信息。
  5. 在其他FastGPT版本中重复测试,确认该问题是否跨版本复现。

解决与验证

目前暂无公开的官方修复方案。若需临时缓解该问题,可尝试调整工作流编排逻辑,避免通过意图分类跳转分应用,或直接在主应用中集成所需功能。验证方式为:再次通过意图分类调用分应用,确认返回结果为逐段流式输出,与直接调用模型的表现一致。

来源:FastGPT GitHub issue