工作流节点官方文档2 分钟阅读工作流节点

FastGPT工具调用节点的功能、配置及使用注意事项

工具调用节点可让大语言模型(LLM)动态决策流程,而非固定执行步骤,其缺点是会增加token消耗。工具可以是系统模块(如AI对话、知识库搜索、HTTP模块等),也可以是插件。工具的组成包含两部分:一是工具介绍,用于向LLM说明工具的作用;二是工具参数,系统模块的参数固定无需额外配置,插件的参数可自定义配置。

功能与基本概念

工具调用节点可让大语言模型(LLM)动态决策流程,而非固定执行步骤,其缺点是会增加token消耗。工具可以是系统模块(如AI对话、知识库搜索、HTTP模块等),也可以是插件。工具的组成包含两部分:一是工具介绍,用于向LLM说明工具的作用;二是工具参数,系统模块的参数固定无需额外配置,插件的参数可自定义配置。工具运行需满足两个条件:工具介绍与工具参数,LLM会结合两者决定是否调用。具体分为三种场景:无参数工具,直接根据介绍判断是否执行;有参数且无必须参数的工具,即便上下文无适配参数,LLM也可能调用或伪造参数;有参数且存在必须参数的工具,若上下文无适配参数,LLM可能不调用,需通过提示词引导用户补充参数。

配置步骤

在高级编排界面中,拖动工具调用的连接点,可用工具的头部会出现菱形标记,将其与工具调用模块底部的菱形标记连接即可完成基础绑定。绑定后,被连接的工具会自动分离工具输入与普通输入,还可编辑工具介绍,通过调整介绍精准控制工具调用时机。需注意,工具调用的调试难度较高,建议不要一次性添加过多工具,先选择少量工具完成调优后再逐步扩展。工具参数需明确参数介绍与是否必须的属性,这会直接影响LLM的调用决策。

用途与附加节点

默认情况下,工具调用节点会将工具运行结果返回给LLM,由LLM总结后输出。若无需AI进行二次总结,可将该节点接入工作流末尾,例如在执行知识库搜索后发送HTTP请求,此时搜索结果不会被返回给工具调用节点进行AI总结。当使用工具调用节点时,会自动出现两个附加节点:工具调用终止节点与自定义工具变量节点。工具调用终止节点可强制结束本次工具调用,执行到该节点后,不会再调用其他工具,也不会触发AI针对工具结果的回答。自定义工具变量节点可扩展工具的变量输入,针对未被视作工具参数或无法直接调用的节点,填写对应的参数描述后,工具调用节点会触发该节点及其后续工作流。

来源:https://doc.fastgpt.cn/zh-CN/guide/build/workflow/nodes/tool