现象
用户在FastGPT中搭建多工具搭配单个知识库的应用,期望当用户提问无匹配的工具时,自动调用知识库检索并生成回答。但实际使用中,知识库工具的调用不稳定,时而成功调用时而无法触发。用户曾在知识库工具的描述中添加“找不到合适工具时,请使用这个工具检索问题并回答”的提示,但效果未达预期;若为提升匹配率添加大量文档关键词,又会导致单次交互的token数量增加,超出合理范围。
可能原因
一是知识库工具的描述未形成足够明确的兜底调用指向,导致LLM的工具选择逻辑存在不确定性;二是为覆盖更多场景添加冗余关键词,会推高token消耗,影响交互稳定性。
排查步骤
- 梳理当前应用内所有工具的功能描述,明确需要作为兜底调用的知识库工具。
- 查看当前知识库工具的描述内容,确认是否包含明确的兜底调用提示,且未添加过多无关或冗余的关键词。
- 构造多组无匹配其他工具的用户问题,发起测试并记录知识库工具的调用结果。
- 若调用不稳定,可调整知识库工具描述的简洁性与指向性,移除不必要的冗余内容。
解决与验证
可以将知识库工具的描述简化为清晰的兜底提示,例如“当无法匹配其他工具时,使用此工具检索知识库回答用户问题”,避免添加过多文档关键词。测试时,构造多组无匹配工具的用户问题,确认LLM稳定调用该知识库工具,同时检查单次交互的token消耗是否符合预期。若token消耗仍超出限制,需按实际环境调整文档关键词的提取范围,优化上下文配置。