速率限制
不同等级对应不同的每分钟请求数(RPM)与并发上限。
当前等级…—
每分钟请求数—
最大并发—
升级进度
正在加载…
¥0.00已满级
等级对照表
累计充值金额达到条件后自动升级,无需申请。
| 等级 | 升级条件(累计充值) | 每分钟请求数 | 最大并发 |
|---|---|---|---|
正在加载… | |||
关于速率限制
为什么会有限制,以及限制是如何计算的。
为什么需要速率限制
速率限制用于保障所有用户的服务质量。它可以防止个别账号的突发流量耗尽上游供应商配额, 避免网关被异常调用拖垮,同时也能在密钥泄露时限制损失。
限制是如何计算的
RPM 以「每个账号每自然分钟」为窗口统计:网关在每次请求进入时对计数器加一,窗口结束后自动清零。 并发数统计的是同一时刻仍在处理中的请求数(包含流式响应未结束的请求)。 两者任一超限时,接口会返回 429 Too Many Requests。
触发限制后怎么办
建议在客户端实现指数退避重试(如 1s、2s、4s),并把批量任务拆分到更长的时间窗口内执行。 如果业务确实需要更高配额,可以通过充值提升等级,或在个人设置中联系我们申请定制额度。