现象
使用FastGPT调用向量生成功能时触发openai error: 生成向量错误,返回429 Too Many Requests。完整报错内容如下:
openai error: 生成向量错误
429 Too Many Requests {
error: {
code: '429',
message: 'Requests to the Get a vector representation of a given input that can be easily consumed by machine learning models and algorithms. Operation under Azure OpenAI API version 2023-03-15-preview have exceeded call rate limit of your current OpenAI S0 pricing tier. Please retry after 1 second. Please go here: https://aka.ms/oai/quotaincrease if you would like to further increase the default rate limit.'
}
}可能原因
该报错由Azure OpenAI服务侧触发,调用向量生成接口的请求速率超出了当前使用的S0定价层级的调用限制。短时间内发起的请求数量超过配额上限,导致服务返回限流错误。
排查步骤
- 查看完整报错日志,确认是否包含“exceeded call rate limit of your current OpenAI S0 pricing tier”相关提示内容。
- 确认当前使用的Azure OpenAI服务资源的定价层级为S0。
- 统计最近一段时间内发起的向量生成请求频次,对比S0层级的速率限制,确认是否超出配额(需按实际环境确认)。
- 检查FastGPT的并发请求配置,确认是否存在未限制的并发请求。
解决与验证
可通过两种方式处理该问题:一是添加自动延迟重试机制,按报错提示的1秒间隔进行重试;二是限制并发请求数量,避免短时间内发起过多请求。调整配置后,发起向量生成请求,观察是否不再出现该429报错。若使用自动重试机制,需确保重试间隔符合报错提示的要求;若限制并发数,需根据S0层级的速率限制设置合理的并发上限(需按实际环境确认)。
来源: FastGPT 官方来源
适用性与版本范围
本页适用于官方来源记录的 故障排查 场景。执行变更前,需核对 FastGPT、依赖、API 与部署版本。
安全护栏
凭证与私密数据使用 [REDACTED_CREDENTIAL] 占位符。执行操作前需核对文档的环境与版本。
回滚指引
恢复变更前的技术内容权威快照、已保存配置与数据快照,再执行最小验证场景。