结论
完成FastGPT新增模型渠道,可让系统支持接入自定义模型。需先在模型配置中添加所需未内置模型,再通过模型渠道页面完成配置。
具体怎么做
- 切换到「模型渠道」标签页。若需使用未内置的模型,先在「模型配置」中添加所需模型。
- 点击页面右上角的「新增渠道」,进入渠道配置页面。
- 按以下参数完成配置:
- 渠道名:仅作为标识的外部展示名称
- 协议类型:选择对应模型服务商的协议,多数模型可选择OpenAI协议
- 模型:选择当前渠道可用的模型,下拉框无所需选项时,点击「新增模型」添加自定义模型
- 模型映射:将FastGPT请求的模型映射为上游实际模型,示例格式:
{"gpt-4o-test": "gpt-4o"} - 代理地址:填写BaseUrl,注意是否需要添加
/v1,不可填写完整的模型请求地址 - API密钥:从模型厂商获取的API凭证,部分厂商需提供多密钥组合,按页面提示输入
- 点击「新增」按钮完成配置。
注意事项
- 仅可添加「模型配置」中已存在的模型。
- 代理地址需填写BaseUrl,不得填写完整的模型请求地址。
- 模型映射需按指定格式配置,确保请求转发正确。
- 部分模型厂商需要提供多组API密钥,需按页面提示输入。
来源:FastGPT 官方文档