工作流节点官方文档2 分钟阅读工作流节点

FastGPT工具调用节点的配置、逻辑与使用说明

工具调用节点可让大语言模型(LLM)动态决策流程,而非固定执行步骤,其支持的工具包括系统模块(如AI对话、知识库搜索、HTTP请求等)或插件,缺点是会消耗更多tokens。

工具调用节点基础介绍

工具调用节点可让大语言模型(LLM)动态决策流程,而非固定执行步骤,其支持的工具包括系统模块(如AI对话、知识库搜索、HTTP请求等)或插件,缺点是会消耗更多tokens。工具的核心组成分为两部分:一是工具介绍,用于向LLM说明工具的作用;二是工具参数,系统模块的参数为固定值无需额外配置,插件的参数则可自定义,参数需包含参数介绍与是否必须两个关键配置项。

工具运行与调用逻辑

工具运行的前提是提供工具介绍与参数信息,LLM会结合这些内容决定是否调用工具。针对不同参数场景有三种处理逻辑:无参数的工具,LLM直接根据工具介绍判断是否执行;带有参数但无必填项的工具,即使上下文无适配参数,LLM也可能自行伪造参数调用;带有必填参数的工具,若上下文无适配参数,LLM可能不会触发调用,可通过提示词引导用户补充参数。在支持函数调用的模型中,该节点支持一次性调用多个工具。

快速配置与使用步骤

  1. 进入FastGPT的工作流编辑页面,添加「工具调用」节点;
  2. 切换至高级编排模式,拖动目标工具的连接点,可用工具的头部会出现菱形标记;
  3. 将该菱形与「工具调用」模块底部的菱形连接,此时节点会自动分离工具输入与普通输入项;
  4. 编辑工具的介绍文本,调整LLM触发该工具调用的精准条件;
  5. 若使用插件工具,需配置参数的介绍与是否必填项,系统模块参数无需额外配置。

注意:建议不要一次性添加过多工具,先对少量工具进行调优后再扩展配置。

用途与附加节点

工具调用节点默认会将工具运行结果返回给LLM,由LLM对结果进行总结输出。若将该节点接入工具流程的末尾,则不会触发AI对结果的总结。使用工具调用节点时,会自动关联两个附加节点:「工具调用终止」可强制结束本次工具调用,不再执行后续工具或AI回答;「自定义工具变量」可扩展工具的变量输入,为未被视作工具参数的节点添加参数描述,让工具调用对应节点并触发后续工作流。

来源:https://doc.fastgpt.cn/zh-CN/guide/build/workflow/nodes/tool