08
限制
三道獨立的限制保護你的帳號:餘額、每把 key 的花費上限、同時進行的預算。
402 從哪裡來
| limit_source | 原因 | 解法 |
|---|---|---|
| nxio_credits | 餘額無法覆蓋此請求的最壞情況費用。 | 加值,或降低 max_tokens。 |
| nxio_key_limit | 此 key 本週期的美元上限已用完。 | 提高上限或等待重置(UTC)。 |
| nxio_in_flight_budget | 太多同時進行的請求佔用預扣。 | 等它們完成(有 Retry-After)或加值。 |
| nxio_key_rpm(429) | 此 key 在這一分鐘超過 60 次請求。 | 等待 Retry-After 秒;分散到多把 key 或洽詢提高上限。 |
速率限制
每把 API key 在所有需認證的端點合計每分鐘 60 次請求(固定一分鐘視窗,UTC)。每個回應都帶 X-RateLimit-Limit、X-RateLimit-Remaining、X-RateLimit-Reset(unix 秒)。超過上限回 429,error_type rate_limit_exceeded、limit_source nxio_key_rpm,並附 Retry-After。需要更高上限可洽詢。
供應商的速率限制原樣以 429 透傳(error_type rate_limit_exceeded);Retry-After header 永遠是準的。
請求大小與上下文
請求主體超過 10 MB 回 413。上下文上限依模型而定,見目錄的 context_length。