技术速查官方文档2 分钟阅读技术速查

在FastGPT中配置新增模型渠道的完整详细操作方法

完成FastGPT新增模型渠道,可让系统支持接入自定义模型。需先在模型配置中添加所需未内置模型,再通过模型渠道页面完成配置。 1. 切换到「模型渠道」标签页。若需使用未内置的模型,先在「模型配置」中添加所需模型。 2. 点击页面右上角的「新增渠道」,进入渠道配置页面。 3.

结论

完成FastGPT新增模型渠道,可让系统支持接入自定义模型。需先在模型配置中添加所需未内置模型,再通过模型渠道页面完成配置。

具体怎么做

  1. 切换到「模型渠道」标签页。若需使用未内置的模型,先在「模型配置」中添加所需模型。
  2. 点击页面右上角的「新增渠道」,进入渠道配置页面。
  3. 按以下参数完成配置:
    • 渠道名:仅作为标识的外部展示名称
    • 协议类型:选择对应模型服务商的协议,多数模型可选择OpenAI协议
    • 模型:选择当前渠道可用的模型,下拉框无所需选项时,点击「新增模型」添加自定义模型
    • 模型映射:将FastGPT请求的模型映射为上游实际模型,示例格式:{"gpt-4o-test": "gpt-4o"}
    • 代理地址:填写BaseUrl,注意是否需要添加/v1,不可填写完整的模型请求地址
    • API密钥:从模型厂商获取的API凭证,部分厂商需提供多密钥组合,按页面提示输入
  4. 点击「新增」按钮完成配置。

注意事项

  1. 仅可添加「模型配置」中已存在的模型。
  2. 代理地址需填写BaseUrl,不得填写完整的模型请求地址。
  3. 模型映射需按指定格式配置,确保请求转发正确。
  4. 部分模型厂商需要提供多组API密钥,需按页面提示输入。

来源:FastGPT 官方文档