技术速查官方文档3 分钟阅读技术速查

FastGPT新增自定义模型供应商目录的配置方法

完成FastGPT自定义模型供应商的新增,需按规范创建目录与配置文件。系统初始化静态资源时会自动上传供应商头像,并通过指定接口暴露相关信息。 1.

结论

完成FastGPT自定义模型供应商的新增,需按规范创建目录与配置文件。系统初始化静态资源时会自动上传供应商头像,并通过指定接口暴露相关信息。

具体怎么做

  1. packages/infrastructure/src/static-data/models/provider/目录下,新建以供应商标识为名的子目录,例如NewProvider
  2. 在该子目录中创建index.tslogo.svg文件,其中logo.svg为模型供应商的头像文件。
  3. 编写index.ts文件,基础结构如下:
import { ModelTypeEnum, type ProviderConfigType } from '../../type';
const models : ProviderConfigType = {
  provider: 'NewProvider',
  list: [
    {
      type: ModelTypeEnum.llm,
      model: 'new-provider-chat',
      maxContext: 128000,
      maxTokens: 8192,
      quoteMaxToken: 120000,
      maxTemperature: 1,
      responseFormatList: ['text'],
      vision: false,
      reasoning: false,
      reasoningEffort: false,
      toolChoice: true
    }
  ]
};
export default models;

其中provider字段需与目录名保持一致,模型参数可根据实际需求调整字段值。

注意事项

  1. 目录名必须与index.ts中的provider字段值完全一致,否则系统无法正确识别供应商。
  2. logo.svg会被自动上传至models/{Provider}/logo路径,供/models/get-providers接口调用获取供应商头像。
  3. 修改配置文件或资源后,需重启FastGPT插件服务才能加载新的配置。
  4. 配置的字段名需严格遵循示例格式,不可随意新增未定义的参数。

来源:FastGPT 官方文档