自定义模型添加基础说明
当系统内置模型无法满足业务需求时,可添加自定义模型。若提交的模型ID与系统内置模型ID重复,该配置将被识别为修改内置模型,不会被识别为新增自定义模型。FastGPT支持两种自定义模型配置方式:通过管理后台表单配置,或通过配置文件批量配置。通过配置文件配置的方式,可简化操作流程,也可快速复制模型配置至其他部署实例。
标准配置操作步骤
- 表单配置:进入系统模型配置页面,点击添加模型按钮,填写模型相关信息后提交即可完成配置。
- 配置文件配置:编辑系统配置文件,按照指定JSON格式写入模型配置内容,保存后配置即可生效。对应操作界面的参考图示可查阅官方文档配套内容。
不同类型模型的配置字段说明
FastGPT的自定义模型分为语言模型、索引模型、重排模型、语音合成模型、语音识别模型五类,各类模型的配置字段存在差异:
- 语言模型:配置项包含模型ID、是否为自定义模型、启用状态、模型提供商、模型标识、模型别名、最大上下文长度、最大回复长度、最大引用token数、温度范围上限、积分定价、敏感校验开关、图片输入支持、工具调用支持、函数调用支持、自定义分类提示词、自定义内容提取提示词、默认系统提示词、默认请求配置、字段映射规则。字段映射规则可用于适配特殊模型的参数格式,例如o1模型需将maxtokens映射为maxcompletion_tokens。
- 索引模型:配置项包含模型ID、是否为自定义模型、启用状态、模型提供商、模型标识、模型别名、积分定价、默认分割token数、最大token数。
- 重排模型:配置项包含模型ID、是否为自定义模型、启用状态、模型提供商、模型标识、模型别名、自定义请求地址、自定义请求认证、模型类型。
- 语音合成模型:配置项包含是否启用、是否为自定义模型、模型类型、模型提供商、模型标识、模型别名、音色列表、积分定价。
- 语音识别模型:配置项包含是否启用、是否为自定义模型、模型提供商、模型标识、模型别名、积分定价、模型类型。
来源: FastGPT 官方来源
适用性与版本范围
本页适用于官方来源记录的 部署与升级 场景。执行变更前,需核对 FastGPT、依赖、API 与部署版本。
安全护栏
凭证与私密数据使用 [REDACTED_CREDENTIAL] 占位符。执行操作前需核对文档的环境与版本。
回滚指引
恢复变更前的技术内容权威快照、已保存配置与数据快照,再执行最小验证场景。