在 FastGPT v4.17.2 中,重排是混合检索之后的一个可选环节。启用重排会对候选结果做二次打分,仅按相似度过滤则直接采用向量或关键词的相似度排序。两者差别集中在候选集范围、排序依据与资源开销上,需要结合数据规模与查询特点判断。
重排与仅按相似度过滤的机制差别
FastGPT v4.17.2 官方文档把知识库检索拆成多个可配置环节。混合检索会同时使用向量检索与关键词检索,把两路结果合并成一个候选集合。仅按相似度过滤时,系统直接依据向量距离或关键词匹配分数对候选排序,取分数靠前的若干条作为召回结果。启用重排时,候选集合会先进入重排模型,由重排模型对每条候选与查询的相关性重新打分,再按新分数排序并截取。官方文档指出,重排模型关注查询与文本片段的语义匹配程度,能够对候选顺序做调整。因此两者的核心差别在于:仅按相似度过滤依赖初次检索的分数,重排则引入一次额外的相关性判断。这一差别在候选条目较多、初次分数接近时更容易体现。文档同时说明,重排属于可选项,关闭后检索流程仍可正常运行。
方案对比矩阵
下表按方案、适用条件与需要核对的点三列展开,覆盖 FastGPT v4.17.2 文档中与重排相关的配置项。
| 方案 | 适用条件 | 需要核对的点 |
|---|---|---|
| 启用重排 | 混合检索候选集较大,初次相似度分数区分度有限,希望按语义相关性调整顺序 | 重排模型是否已在系统中配置;候选数量与重排模型的输入长度限制是否匹配;重排环节带来的额外耗时是否在可接受范围 |
| 仅按相似度过滤 | 候选集较小,初次相似度分数已能区分相关片段,或对检索延迟有较严格要求 | 向量模型与关键词检索的权重设置;相似度阈值与返回条数的配置;混合检索两路结果的合并方式 |
| 先仅按相似度过滤再评估 | 不确定重排是否带来排序变化,希望用现有配置做对照 | 同一查询在两种配置下的召回条目差异;候选集大小是否触及重排模型上限;文档中重排相关参数的默认值 |
| 按场景分别配置 | 不同知识库的数据特点与查询类型存在差异 | 各知识库的检索配置是否独立;重排开关是否随知识库保存;切换配置后是否需要重新索引 |
表格中的判断依据来自官方文档对检索流程与重排环节的描述,具体取值需要结合部署环境核对。
判断是否启用重排的核对清单
做出选择前,可以按官方文档逐项核对。第一,确认混合检索是否已开启,因为重排位于混合检索之后,单独使用向量检索时重排的作用范围不同。第二,查看候选集规模,文档中重排模型对输入条目数量存在限制,候选过多时需要先截断。第三,核对重排模型是否已正确配置,未配置时启用重排不会生效。第四,评估延迟,重排会增加一次模型调用,对响应时间敏感的场景需要权衡。第五,对比排序结果,同一批查询在启用与关闭重排时返回的条目顺序可能不同,可以据此判断重排是否带来符合预期的调整。第六,记录配置变更,重排开关与相关参数应随知识库配置一并留存,便于后续复核。是否启用应结合资料与查询进行对照测试,是否启用取决于数据特点与查询需求。若初次相似度已能稳定区分相关片段,仅按相似度过滤即可满足;若候选分数接近且语义匹配更重要,启用重排更合适。