Docs / SDK
Pakai Cent AI dengan SDK OpenAI Python
Arahkan paket Python openai ke Cent AI, kirim request, dan baca biaya setiap panggilan.
Terakhir diperbarui
Setup Anda
Mengisi YOUR_API_KEY di kode halaman ini. Key hanya ada di tab ini: tidak dikirim dan tidak disimpan.
Prasyarat
- Akun Cent AI yang punya saldo. Lihat Saldo.
- API key dari Key. Bentuknya
cai_<secret>dan hanya tampil sekali. - Python dengan paket
openai:
pip install openai
Atur client
Pakai base URL https://api.cent-ai.dev/v1 dan key Cent AI Anda. SDK menambahkan /chat/completions dan /responses sendiri.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.cent-ai.dev/v1",
api_key=os.environ["CENT_AI_KEY"],
)
SDK juga membaca kedua nilai itu dari variabel lingkungan, jadi kode yang memanggil OpenAI() tanpa argumen tetap jalan tanpa diubah. Ganti YOUR_API_KEY dengan key Anda:
export OPENAI_BASE_URL=https://api.cent-ai.dev/v1
export OPENAI_API_KEY="YOUR_API_KEY"
Kirim request
Chat Completions dan Responses sama-sama jalan dengan client yang sama. Pakai nama model dari halaman model.
r = client.chat.completions.create(
model="glm-5.3",
messages=[{"role": "user", "content": "Halo"}],
)
print(r.choices[0].message.content)
Parameter seperti temperature, tools, dan response_format dikirim ke model apa adanya. Parameter yang tidak didukung model kembali sebagai error dari model.
Baca biayanya
Cent AI menambahkan cost ke objek usage standar: jumlah yang ditagih untuk request itu dalam USD, berupa string dengan 9 angka desimal. SDK menyimpan field yang tidak dikenalnya, jadi Anda bisa membacanya sebagai atribut. getattr membuat type checker tidak protes; usage.model_extra mengembalikan semua field tambahan sebagai dict.
r = client.chat.completions.create(
model="glm-5.3",
messages=[{"role": "user", "content": "Halo"}],
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)
print(getattr(r.usage, "cost", None)) # "0.000363000"
print(r.usage.model_extra) # {"cost": "0.000363000"}
Di Responses, biaya ada di r.usage dengan cara yang sama.
Streaming
Untuk Chat Completions, minta usage di dalam stream lewat stream_options. Chunk terakhir sebelum stream selesai berisi daftar choices kosong dan membawa usage, termasuk cost.
stream = client.chat.completions.create(
model="glm-5.3",
messages=[{"role": "user", "content": "Halo"}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices:
print(chunk.choices[0].delta.content or "", end="")
if chunk.usage:
print("\ncost:", getattr(chunk.usage, "cost", None))
Tanpa stream_options.include_usage, stream Chat Completions tidak punya chunk usage dan tidak membawa biaya. Tagihannya tetap tercatat di halaman Requests. Request yang bisa lebih lama dari 100 detik wajib memakai stream; lihat Streaming panjang.
Cek request-nya
Buka halaman Requests di dashboard. Setiap request menampilkan token per tarif, tarif yang dipakai, dan biayanya. Header respons x-request-id sama dengan ID di sana. Untuk membacanya dari SDK:
raw = client.chat.completions.with_raw_response.create(
model="glm-5.3",
messages=[{"role": "user", "content": "Halo"}],
)
print(raw.headers.get("x-request-id"))
r = raw.parse()
Troubleshooting
| Status dan kode | Penyebab umum | Yang perlu dilakukan |
|---|---|---|
401 invalid_api_key | Key salah atau sudah dicabut, atau key masih OPENAI_API_KEY dari layanan lain | Periksa key, atau buat key baru di Key |
402 insufficient_balance | Tidak ada saldo yang bisa dipakai untuk model ini | Top-up atau beli paket budget, lihat Saldo |
403 ip_not_allowed, model_not_allowed | Allowlist IP atau model pada key menolak request | Ubah allowlist pada key |
404 model_not_found | Nama model tidak ada di Cent AI | Pakai nama dari GET /v1/models |
| 404 tanpa kode itu | Base URL tidak memakai /v1 | Atur base URL ke https://api.cent-ai.dev/v1 |
429 rate_limited | Lebih dari 600 request per menit untuk key ini | Tunggu sesuai Retry-After, lihat Rate limit |
429 key_limit_exceeded, project_budget_exceeded | Limit harian atau bulanan key atau project tercapai | Naikkan limitnya atau tunggu sampai waktu di pesan |
501 not_available_yet | Endpoint yang belum dibuka, misalnya embeddings | Pakai model chat; lihat Error |
503 upstream_timeout atau stream yang berhenti | Model tidak mulai tepat waktu, atau stream mencapai durasi maksimum | Lihat Stream timeout |
SDK melempar openai.AuthenticationError, openai.RateLimitError, dan subclass openai.APIStatusError lain untuk status ini, dan mencoba ulang sebagian di antaranya sendiri. Semua kode tercantum di Error.