08

限制

三道獨立的限制保護你的帳號:餘額、每把 key 的花費上限、同時進行的預算。

402 從哪裡來

limit_source原因解法
nxio_credits餘額無法覆蓋此請求的最壞情況費用。加值,或降低 max_tokens。
nxio_key_limit此 key 本週期的美元上限已用完。提高上限或等待重置(UTC)。
nxio_in_flight_budget太多同時進行的請求佔用預扣。等它們完成(有 Retry-After)或加值。
nxio_key_rpm(429)此 key 在這一分鐘超過 60 次請求。等待 Retry-After 秒;分散到多把 key 或洽詢提高上限。

速率限制

每把 API key 在所有需認證的端點合計每分鐘 60 次請求(固定一分鐘視窗,UTC)。每個回應都帶 X-RateLimit-Limit、X-RateLimit-Remaining、X-RateLimit-Reset(unix 秒)。超過上限回 429,error_type rate_limit_exceeded、limit_source nxio_key_rpm,並附 Retry-After。需要更高上限可洽詢。

供應商的速率限制原樣以 429 透傳(error_type rate_limit_exceeded);Retry-After header 永遠是準的。

請求大小與上下文

請求主體超過 10 MB 回 413。上下文上限依模型而定,見目錄的 context_length。