Menu docs

Docs / Referensi

Rate limit

600 request per menit per key, dilaporkan di header x-ratelimit.

Terakhir diperbarui


Batasnya

Setiap API key bisa mengirim 600 request per menit, diukur dengan jendela geser. Playground punya batas sendiri, 600 RPM per akun, terpisah dari batas key. Paket budget punya batas yang sama dengan pay-as-you-go. Bila butuh lebih, hubungi support; batas sebuah key bisa dinaikkan sampai 2.000 request per menit.

POST /v1/messages/count_tokens juga dihitung dalam batas ini.

Setiap respons model membawa:

HeaderArti
x-ratelimit-limitBatas per menit untuk key ini
x-ratelimit-remainingSisa request di jendela saat ini
x-ratelimit-resetDetik sampai jendela direset
Retry-AfterPada 429 dan 503 yang bisa dicoba ulang: detik yang perlu ditunggu

Melewati batas

Request dijawab HTTP 429 rate_limited dan tidak dikirim ke model:

{"error": {"message": "Rate limit of 600 requests per minute for this key was exceeded. Retry after 12 seconds.", "type": "rate_limit_error", "param": null, "code": "rate_limited"}}

Tunggu sebanyak detik di Retry-After sebelum mencoba lagi.

Kode 429 lain

429 juga bisa berarti batas pengeluaran, bukan batas laju:

KodeArtiYang perlu dilakukan
key_limit_exceededKey mencapai limit harian atau bulanannyaNaikkan limit key, atau tunggu sampai waktu di pesan
project_budget_exceededProject milik key mencapai budget harian atau bulanannyaNaikkan budget project, atau tunggu sampai waktu di pesan

Lihat Error 4xx.