Menu docs

Docs / Integrasi

Pakai Cent AI di SillyTavern

Sambungkan SillyTavern ke Cent AI sebagai sumber Chat Completion kustom yang kompatibel dengan OpenAI, dengan base URL, API key, dan model.

Terakhir diperbarui


Setup Anda

Mengisi YOUR_API_KEY di kode halaman ini. Key hanya ada di tab ini: tidak dikirim dan tidak disimpan.

Sumber Custom (OpenAI-compatible) di SillyTavern memakai format OpenAI Chat Completions, jadi ia tersambung ke Cent AI di https://api.cent-ai.dev/v1 dan menambahkan /chat/completions sendiri. Halaman ini hanya membahas koneksinya.

Prasyarat

  • Akun Cent AI yang punya saldo. Lihat Mulai cepat.
  • API key dari Key. Bentuknya cai_<secret> dan hanya tampil sekali.
  • SillyTavern sudah terpasang dan berjalan. Versi yang kami uji ada di akhir halaman ini.

Atur SillyTavern

Buka panel API Connections (ikon colokan) lalu isi:

PengaturanNilai
APIChat Completion
Chat Completion SourceCustom (OpenAI-compatible)
Endpoint URLhttps://api.cent-ai.dev/v1, tanpa /chat/completions
API keyKey Anda, cai_<secret>
ModelPilih dari daftar yang dimuat dari GET /v1/models, atau ketik nama persis seperti di sana, misalnya glm-5.3

Klik Connect. SillyTavern berjalan sebagai server lokal dan mengirim request dari mesin tempat ia berjalan. Bila key Anda punya allowlist IP, tambahkan alamat mesin itu.

Coba

Cek key dan nama model dengan satu request. Ganti YOUR_API_KEY dengan key Anda.

export CENT_AI_KEY="YOUR_API_KEY"

curl https://api.cent-ai.dev/v1/chat/completions \
  -H "Authorization: Bearer $CENT_AI_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"glm-5.3","messages":[{"role":"user","content":"Halo"}]}'

Respons memuat usage.cost, jumlah yang ditagih untuk request ini dalam USD. Setelah itu klik Test Message di panel API Connections, atau kirim pesan di chat. Pesan uji itu request sungguhan dan juga ditagih. Setiap request tampil di halaman Requests di dashboard beserta token per tarif dan biayanya. Lihat Biaya per request.

Agar cache tetap kena

SillyTavern mengirim ulang kartu karakter, riwayat chat, dan bagian prompt lain di setiap pesan, jadi sebagian besar input chat yang panjang bisa dibaca dari cache model. Cent AI mengirim giliran berikutnya dalam satu percakapan ke rute yang melayani giliran sebelumnya. Cent AI memakai sinyal sesi yang dikirim tool bila ada; tanpa sinyal itu, Cent AI memakai bagian awal prompt yang stabil. Anda tidak perlu menambah apa pun di koneksi.

  • Pakai satu model untuk satu chat. Model lain memulai cache baru.
  • Bagian prompt di dekat awal yang berubah di setiap pesan, misalnya macro acak atau entri lore yang muncul dan hilang, mengubah semua bagian sesudahnya.

Cent AI tidak menjanjikan tingkat cache hit. Token cache hanya ditagih bila model melaporkannya. Lihat Prompt caching.

Troubleshooting

Untuk menelusuri request yang gagal, cari x-request-id dari respons di halaman Requests. Semua kode ada di Error 4xx dan Error 5xx.

401 invalid_api_key

API key di koneksi salah, terpotong, sudah dicabut, atau berupa management key (cai_mgmt_…). Dengan key yang salah, daftar model tetap kosong. Tempel ulang key, atau buat key baru di Key.

402 insufficient_balance

Saldo yang bisa dipakai untuk model ini kosong, atau model itu tidak termasuk paket budget Anda. Top-up atau beli paket. Lihat Saldo.

403 ip_not_allowed atau model_not_allowed

Key punya allowlist IP tanpa alamat mesin yang menjalankan SillyTavern, atau allowlist model tanpa model yang dipilih. Tambahkan alamat atau model itu ke key.

404 model_not_found

Nama model itu tidak dilayani Cent AI. Salin nama persisnya dari Model atau GET /v1/models; nama dari penyedia lain, misalnya gpt-4o-mini, bukan alias. Nama :free hanya berlaku untuk model event hari ini (lihat Token gratis harian); di model lain, termasuk model event hari sebelumnya, hasilnya 404.

429 rate_limited, key_limit_exceeded, atau project_budget_exceeded

  • rate_limited: lebih dari 600 request per menit di key ini. Tunggu sesuai Retry-After. Lihat Rate limit.
  • rate_limited pada nama :free: pool gratis hari ini sudah habis, atau event sedang mati. Retry-After berlaku sampai 00:00 UTC; nama asli model tetap bisa dipakai dengan harga normal.
  • key_limit_exceeded: limit harian atau bulanan yang Anda pasang di key sudah tercapai.
  • project_budget_exceeded: budget project pemilik key sudah tercapai.

501 not_available_yet

Endpoint itu belum dibuka. Suara, transkripsi, dan embeddings saat ini dijawab 501. Jangan arahkan ekstensi SillyTavern tersebut ke Cent AI. Endpoint gambar sudah dibuka; lihat Gambar.

Stream timeout

Bila balasan berhenti dengan upstream_timeout atau upstream_unavailable di stream, lihat Stream timeout.