故障排查GitHub issue3 分钟阅读故障排查

解决FastGPT中Azure OpenAI向量生成429请求超限的报错问题

使用FastGPT调用向量生成功能时触发openai error: 生成向量错误,返回429 Too Many Requests。完整报错内容如下: 该报错由Azure OpenAI服务侧触发,调用向量生成接口的请求速率超出了当前使用的S0定价层级的调用限制。

现象

使用FastGPT调用向量生成功能时触发openai error: 生成向量错误,返回429 Too Many Requests。完整报错内容如下:

openai error: 生成向量错误
429 Too Many Requests {
  error: {
    code: '429',
    message: 'Requests to the Get a vector representation of a given input that can be easily consumed by machine learning models and algorithms. Operation under Azure OpenAI API version 2023-03-15-preview have exceeded call rate limit of your current OpenAI S0 pricing tier. Please retry after 1 second. Please go here: https://aka.ms/oai/quotaincrease if you would like to further increase the default rate limit.'
  }
}

可能原因

该报错由Azure OpenAI服务侧触发,调用向量生成接口的请求速率超出了当前使用的S0定价层级的调用限制。短时间内发起的请求数量超过配额上限,导致服务返回限流错误。

排查步骤

  1. 查看完整报错日志,确认是否包含“exceeded call rate limit of your current OpenAI S0 pricing tier”相关提示内容。
  2. 确认当前使用的Azure OpenAI服务资源的定价层级为S0。
  3. 统计最近一段时间内发起的向量生成请求频次,对比S0层级的速率限制,确认是否超出配额(需按实际环境确认)。
  4. 检查FastGPT的并发请求配置,确认是否存在未限制的并发请求。

解决与验证

可通过两种方式处理该问题:一是添加自动延迟重试机制,按报错提示的1秒间隔进行重试;二是限制并发请求数量,避免短时间内发起过多请求。调整配置后,发起向量生成请求,观察是否不再出现该429报错。若使用自动重试机制,需确保重试间隔符合报错提示的要求;若限制并发数,需根据S0层级的速率限制设置合理的并发上限(需按实际环境确认)。

来源: FastGPT 官方来源

适用性与版本范围

本页适用于官方来源记录的 故障排查 场景。执行变更前,需核对 FastGPT、依赖、API 与部署版本。

安全护栏

凭证与私密数据使用 [REDACTED_CREDENTIAL] 占位符。执行操作前需核对文档的环境与版本。

回滚指引

恢复变更前的技术内容权威快照、已保存配置与数据快照,再执行最小验证场景。