现象
在FastGPT中集成百度智能云千帆重排序服务时,出现调用失败、返回结果不符合预期或功能无法正常启用的问题。
可能原因
- 未在百度智能云千帆大模型平台开通bce-reranker服务。
- 未正确配置百度千帆的Access Key与Secret Key。
- 本地部署的重排接口格式与FastGPT的接入要求不匹配。
- FastGPT配置的认证令牌与本地脚本的认证设置不一致。
排查步骤
- 登录百度智能云千帆大模型平台,确认已开通bce-reranker服务,查看服务状态是否正常。
- 登录百度智能云管理中心,创建并复制有效的Access Key与Secret Key,记录相关信息。
- 检查本地脚本中配置的
QIANFAN_ACCESS_KEY和QIANFAN_SECRET_KEY,确保与实际获取的AK/SK完全一致。 - 确认本地脚本的
/v1/rerank接口路径与FastGPT中配置的接口地址一致。 - 核对FastGPT配置的认证令牌与脚本中
env_bearer_token的取值是否相同。 - 单独运行本地脚本,使用测试请求调用
/v1/rerank接口,检查返回的重排结果格式是否符合预期。若出现异常,需按实际环境确认具体问题。
解决与验证
- 按照百度智能云的指引完成bce-reranker服务的开通流程,确保服务处于可用状态。
- 将正确的AK/SK填入本地脚本的对应位置,替换示例中的占位符。
- 调整本地脚本的接口返回格式,使其匹配FastGPT要求的重排结果结构。
- 启动本地脚本服务,确认接口可以正常接收并处理请求。
- 在FastGPT中填写重排服务的接口地址、认证令牌等参数,保存配置后发起测试调用。
- 查看FastGPT的调用日志,若出现具体报错,需按实际环境核对对应配置项,验证重排功能正常生效。