Docs / Referensi
Stream timeout
Stream yang tidak pernah mulai, mendadak sepi, atau mencapai batas 2 jam.
Terakhir diperbarui
Gejala
- Tool menampilkan timeout padahal model masih berpikir.
- Stream berakhir dengan
upstream_timeoutatauupstream_unavailabledi dalam stream. - Tugas yang sangat panjang berhenti setelah sekitar 2 jam.
Model tidak mulai tepat waktu
Cent AI menunggu paling lama 600 detik total, termasuk percobaan ulang di rute lain, untuk output pertama dari model. Lewat dari itu request gagal dengan upstream_timeout dan tidak ditagih. Coba lagi, atau pakai model yang menjawab lebih cepat.
Stream berhenti di tengah
Bila model diam atau koneksi ke model putus setelah stream dimulai, stream diakhiri event error dalam format protokol Anda:
| Penyebab | Kode OpenAI | type Anthropic |
|---|---|---|
| Model berhenti atau diam setelah output pertama | upstream_unavailable | api_error |
| Cent AI dimulai ulang saat deploy | upstream_unavailable | overloaded_error |
| Stream mencapai durasi maksimum | upstream_timeout | timeout_error |
Saat durasi maksimum tercapai, pesannya "The stream reached the maximum duration of {seconds} seconds." Batas default-nya 2 jam.
Token yang sudah terkirim ditagih; tidak ada percobaan ulang setelah output pertama. Mulai request baru untuk melanjutkan.
Timeout ada di client
Cent AI mengirim : keepalive setiap 15 detik sejak awal, jadi koneksi tidak pernah sepi lama. Bila client tetap timeout:
- Naikkan timeout total request di client, atau matikan untuk panggilan streaming.
- Periksa proxy di antara client dan
api.cent-ai.dev, apakah membuffer atau punya timeout idle. - Pakai
stream: trueuntuk request yang bisa berjalan lebih dari 100 detik.
Lihat Streaming panjang.