FastGPT的AI配置用于调整应用或工作流中AI对话节点的模型、回复逻辑、多模态识别等行为,弹窗会根据当前模型的能力自动过滤可用配置项,不支持的功能不会显示。配置入口分为两类:在应用编辑页的AI配置区域,选择AI模型后点击右侧设置按钮即可打开弹窗;工作流中的AI对话节点,也可通过模型配置项旁的设置按钮打开同一弹窗。若无特殊需求,仅选择合适的AI模型并保持默认参数即可。
核心配置参数说明
基础配置包含AI模型、记忆轮数、回复上限、温度等核心项。AI模型会展示积分价格、最大上下文、工具调用能力、多模态能力等信息,不同模型在回答能力、调用成本、上下文长度等方面存在差异。记忆轮数控制AI参考的聊天轮次,数值过大会增加调用消耗和响应延迟,过小则无法利用前文上下文信息,建议默认或根据场景调整。回复上限可限制单次回答的长度,设置过低会导致回复被提前截断,过高则可能增加消耗。温度控制回答的稳定性,数值偏低适合客服、知识库问答等规则明确的场景,偏高适合写作、创意生成等场景;Topp与温度作用存在重叠,不建议同时调整两者。停止序列可在AI回复出现指定内容时终止输出,普通聊天场景无需设置,多个停止词可用|分隔。回复格式默认即可,仅当后续流程需要固定格式的输出时,可选择"jsonschema"并填写对应的格式要求。多模态识别需模型本身支持,开启后可处理用户上传的图片、音频或视频,需注意仅在用户问题少于500字时尝试提取媒体链接,且一次最多处理4个,普通文档需先解析为文本再输入模型。
配置步骤与易错提醒
- 打开配置弹窗:根据场景选择应用编辑页或工作流AI对话节点的设置入口。
- 选择适配模型:根据需求选择支持对应能力(如工具调用、多模态)的模型,弹窗会自动显示该模型的可用配置项。
- 调整参数:根据场景调整参数,例如客服场景可降低温度,创意场景可适当调高;需开启多模态识别时,确认模型支持后勾选对应类型。
- 验证配置:保存配置后测试对话,若出现"该模型不支持多模态识别"的提示,需更换支持对应能力的模型。
思考配置仅部分模型支持,可选择默认、不思考或不同强度的思考档位,其对齐OpenAI的reasoning_effort参数,通过ai-proxy适配不同平台的参数格式。
来源:https://doc.fastgpt.cn/zh-CN/guide/build/general/ai_settings