部署与升级官方文档3 分钟阅读部署与升级

FastGPT自定义模型添加与配置参数说明

当系统内置模型无法满足业务需求时,可添加自定义模型。若提交的模型ID与系统内置模型ID重复,该配置将被识别为修改内置模型,不会被识别为新增自定义模型。FastGPT支持两种自定义模型配置方式:通过管理后台表单配置,或通过配置文件批量配置。

自定义模型添加基础说明

当系统内置模型无法满足业务需求时,可添加自定义模型。若提交的模型ID与系统内置模型ID重复,该配置将被识别为修改内置模型,不会被识别为新增自定义模型。FastGPT支持两种自定义模型配置方式:通过管理后台表单配置,或通过配置文件批量配置。通过配置文件配置的方式,可简化操作流程,也可快速复制模型配置至其他部署实例。

标准配置操作步骤

  1. 表单配置:进入系统模型配置页面,点击添加模型按钮,填写模型相关信息后提交即可完成配置。
  2. 配置文件配置:编辑系统配置文件,按照指定JSON格式写入模型配置内容,保存后配置即可生效。对应操作界面的参考图示可查阅官方文档配套内容。

不同类型模型的配置字段说明

FastGPT的自定义模型分为语言模型、索引模型、重排模型、语音合成模型、语音识别模型五类,各类模型的配置字段存在差异:

  • 语言模型:配置项包含模型ID、是否为自定义模型、启用状态、模型提供商、模型标识、模型别名、最大上下文长度、最大回复长度、最大引用token数、温度范围上限、积分定价、敏感校验开关、图片输入支持、工具调用支持、函数调用支持、自定义分类提示词、自定义内容提取提示词、默认系统提示词、默认请求配置、字段映射规则。字段映射规则可用于适配特殊模型的参数格式,例如o1模型需将maxtokens映射为maxcompletion_tokens。
  • 索引模型:配置项包含模型ID、是否为自定义模型、启用状态、模型提供商、模型标识、模型别名、积分定价、默认分割token数、最大token数。
  • 重排模型:配置项包含模型ID、是否为自定义模型、启用状态、模型提供商、模型标识、模型别名、自定义请求地址、自定义请求认证、模型类型。
  • 语音合成模型:配置项包含是否启用、是否为自定义模型、模型类型、模型提供商、模型标识、模型别名、音色列表、积分定价。
  • 语音识别模型:配置项包含是否启用、是否为自定义模型、模型提供商、模型标识、模型别名、积分定价、模型类型。

来源: FastGPT 官方来源

适用性与版本范围

本页适用于官方来源记录的 部署与升级 场景。执行变更前,需核对 FastGPT、依赖、API 与部署版本。

安全护栏

凭证与私密数据使用 [REDACTED_CREDENTIAL] 占位符。执行操作前需核对文档的环境与版本。

回滚指引

恢复变更前的技术内容权威快照、已保存配置与数据快照,再执行最小验证场景。