结论
完成FastGPT自定义模型供应商的新增,需按规范创建目录与配置文件。系统初始化静态资源时会自动上传供应商头像,并通过指定接口暴露相关信息。
具体怎么做
- 在
packages/infrastructure/src/static-data/models/provider/目录下,新建以供应商标识为名的子目录,例如NewProvider。 - 在该子目录中创建
index.ts和logo.svg文件,其中logo.svg为模型供应商的头像文件。 - 编写
index.ts文件,基础结构如下:
import { ModelTypeEnum, type ProviderConfigType } from '../../type';
const models : ProviderConfigType = {
provider: 'NewProvider',
list: [
{
type: ModelTypeEnum.llm,
model: 'new-provider-chat',
maxContext: 128000,
maxTokens: 8192,
quoteMaxToken: 120000,
maxTemperature: 1,
responseFormatList: ['text'],
vision: false,
reasoning: false,
reasoningEffort: false,
toolChoice: true
}
]
};
export default models;其中provider字段需与目录名保持一致,模型参数可根据实际需求调整字段值。
注意事项
- 目录名必须与
index.ts中的provider字段值完全一致,否则系统无法正确识别供应商。 logo.svg会被自动上传至models/{Provider}/logo路径,供/models/get-providers接口调用获取供应商头像。- 修改配置文件或资源后,需重启FastGPT插件服务才能加载新的配置。
- 配置的字段名需严格遵循示例格式,不可随意新增未定义的参数。
来源:FastGPT 官方文档