Menu docs

Docs / Referensi

Stream timeout

Stream yang tidak pernah mulai, mendadak sepi, atau mencapai batas 2 jam.

Terakhir diperbarui


Gejala

  • Tool menampilkan timeout padahal model masih berpikir.
  • Stream berakhir dengan upstream_timeout atau upstream_unavailable di dalam stream.
  • Tugas yang sangat panjang berhenti setelah sekitar 2 jam.

Model tidak mulai tepat waktu

Cent AI menunggu paling lama 600 detik total, termasuk percobaan ulang di rute lain, untuk output pertama dari model. Lewat dari itu request gagal dengan upstream_timeout dan tidak ditagih. Coba lagi, atau pakai model yang menjawab lebih cepat.

Stream berhenti di tengah

Bila model diam atau koneksi ke model putus setelah stream dimulai, stream diakhiri event error dalam format protokol Anda:

PenyebabKode OpenAItype Anthropic
Model berhenti atau diam setelah output pertamaupstream_unavailableapi_error
Cent AI dimulai ulang saat deployupstream_unavailableoverloaded_error
Stream mencapai durasi maksimumupstream_timeouttimeout_error

Saat durasi maksimum tercapai, pesannya "The stream reached the maximum duration of {seconds} seconds." Batas default-nya 2 jam.

Token yang sudah terkirim ditagih; tidak ada percobaan ulang setelah output pertama. Mulai request baru untuk melanjutkan.

Timeout ada di client

Cent AI mengirim : keepalive setiap 15 detik sejak awal, jadi koneksi tidak pernah sepi lama. Bila client tetap timeout:

  • Naikkan timeout total request di client, atau matikan untuk panggilan streaming.
  • Periksa proxy di antara client dan api.cent-ai.dev, apakah membuffer atau punya timeout idle.
  • Pakai stream: true untuk request yang bisa berjalan lebih dari 100 detik.

Lihat Streaming panjang.