故障排查GitHub issue2 分钟阅读排错/错误码

解决FastGPT重排序模型阈值配置和多模型选择异常问题

1. 使用jina-rerank重排序模型时,配置0.85相关度阈值、混合搜索+结果重排功能,无引用内容。查看jina-rerank运行日志,未获取到有效匹配内容。当配置0.2相关度阈值,搭配语义搜索或全文检索+结果重排时,可以正常获取引用内容。另有文档提到bge-rerank需配置大于0.85的相关度阈值。

现象

  1. 使用jina-rerank重排序模型时,配置0.85相关度阈值、混合搜索+结果重排功能,无引用内容。查看jina-rerank运行日志,未获取到有效匹配内容。当配置0.2相关度阈值,搭配语义搜索或全文检索+结果重排时,可以正常获取引用内容。另有文档提到bge-rerank需配置大于0.85的相关度阈值。2. 在config.json中配置多个重排序模型后,前端页面无法选择指定模型,默认使用配置文件中的第一个重排序模型。

可能原因

  1. 不同重排序模型的相关度分值输出范围和阈值要求存在差异,本次使用的jina-rerank模型在0.85的阈值下未召回符合要求的匹配内容,而0.2的阈值可以匹配到有效结果。2. 前端页面未正确加载config.json中配置的多个重排序模型选项,默认加载首个配置的模型。

排查步骤

  1. 确认当前使用的重排序模型的相关度阈值要求,验证配置的阈值是否适配该模型。2. 检查config.json文件中重排序模型的配置格式是否符合要求。3. 进入前端页面,查看重排序模型选择区域是否存在未展示的配置项。4. 查看重排序模型的运行日志,确认返回的相关度分值具体数值。

解决与验证

  1. 调整相关度阈值至适配当前重排序模型的数值,例如将阈值调低至符合模型输出范围的数值(如本次测试中0.2的阈值可正常生效)。调整后重新配置搜索类型与结果重排功能,检查是否正常生成引用内容。2. 若需使用多个重排序模型,需按实际环境确认前端的多模型选择支持逻辑。如需临时切换默认模型,可调整config.json中重排序模型的配置顺序,使目标模型位于首位。验证时,确认前端选择区域的展示情况,或检查默认使用的模型是否符合预期。

来源:FastGPT GitHub issue