教程官方文档3 分钟阅读教程/部署

说明FastGPT应用与工作流的AI配置项和使用方法

FastGPT的AI配置用于调整应用或工作流中AI对话节点的模型、回复逻辑等行为。配置入口分为两处:在应用编辑页找到AI配置区域,选择AI模型后点击右侧设置按钮;或在工作流中点击AI对话节点的AI模型配置项,通过右侧设置按钮打开弹窗。

配置入口与基础说明

FastGPT的AI配置用于调整应用或工作流中AI对话节点的模型、回复逻辑等行为。配置入口分为两处:在应用编辑页找到AI配置区域,选择AI模型后点击右侧设置按钮;或在工作流中点击AI对话节点的AI模型配置项,通过右侧设置按钮打开弹窗。弹窗会根据当前模型的能力显示可用配置,例如不支持多模态识别的模型不会显示对应选项。若无特殊需求,通常只需选择合适的AI模型,其余参数保持默认即可。

核心配置参数说明

AI模型项会展示积分价格、最大上下文、工具调用、多模态能力四类信息,不同模型在回答能力、消耗、上下文长度等方面存在差异。其余核心参数包括:

  • 记忆轮数:控制AI最多参考前面多少轮聊天,数值越大越易参考更早对话,但会增加消耗和延迟,建议客服、知识库问答类应用保留少量轮数,无明确需求用默认值。
  • 回复上限:通过滑块限制单次回复长度,过低会截断回复,过高则增加消耗,可根据需求调整。
  • 温度:控制回答稳定性,数值偏低时回答更稳定,适合客服、知识库问答;偏高时更发散,适合创意内容,不确定时保留默认。
  • Top_p:与温度作用重叠,不建议同时调整两者。
  • 停止序列:指定AI回复中出现的内容时停止输出,多个词用|分隔,普通聊天无需设置。
  • 回复格式:默认即可,需固定格式输出时选择json_schema并填写格式要求。
  • 多模态识别:仅当模型支持时可开启,支持图片、音频、视频等类型,需注意用户问题中的媒体链接需要开启"提取链接中的多模态文件"后才会尝试解析,且仅在问题少于500字时处理最多4个链接,普通文档不会作为多模态输入,需先通过文件解析转成文本再输入。
  • 隐藏AI输出:开启后AI内容不展示给用户,但可传递给后续节点处理。
  • 思考配置:部分模型支持,选项包括默认、不思考、极简/轻量/标准/深度/极致思考,对应不同的思考强度,复杂问题可选择更高强度。

最小配置示例

  1. 进入应用编辑页或工作流AI对话节点的配置入口;
  2. 选择符合需求的AI模型;
  3. 调整温度:客服类场景设为偏低值,创意类场景适当调高;
  4. 记忆轮数保留默认配置;
  5. 若需固定格式回复,选择json_schema并填写对应的格式要求;
  6. 若模型支持多模态识别,按需开启对应媒体类型的识别功能。

来源:https://doc.fastgpt.cn/zh-CN/guide/build/general/ai_settings