Menu docs

Docs / SDK

Pakai Cent AI dengan SDK OpenAI Python

Arahkan paket Python openai ke Cent AI, kirim request, dan baca biaya setiap panggilan.

Terakhir diperbarui


Setup Anda

Mengisi YOUR_API_KEY di kode halaman ini. Key hanya ada di tab ini: tidak dikirim dan tidak disimpan.

Prasyarat

  • Akun Cent AI yang punya saldo. Lihat Saldo.
  • API key dari Key. Bentuknya cai_<secret> dan hanya tampil sekali.
  • Python dengan paket openai:
pip install openai

Atur client

Pakai base URL https://api.cent-ai.dev/v1 dan key Cent AI Anda. SDK menambahkan /chat/completions dan /responses sendiri.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.cent-ai.dev/v1",
    api_key=os.environ["CENT_AI_KEY"],
)

SDK juga membaca kedua nilai itu dari variabel lingkungan, jadi kode yang memanggil OpenAI() tanpa argumen tetap jalan tanpa diubah. Ganti YOUR_API_KEY dengan key Anda:

export OPENAI_BASE_URL=https://api.cent-ai.dev/v1
export OPENAI_API_KEY="YOUR_API_KEY"

Kirim request

Chat Completions dan Responses sama-sama jalan dengan client yang sama. Pakai nama model dari halaman model.

r = client.chat.completions.create(
    model="glm-5.3",
    messages=[{"role": "user", "content": "Halo"}],
)
print(r.choices[0].message.content)

Parameter seperti temperature, tools, dan response_format dikirim ke model apa adanya. Parameter yang tidak didukung model kembali sebagai error dari model.

Baca biayanya

Cent AI menambahkan cost ke objek usage standar: jumlah yang ditagih untuk request itu dalam USD, berupa string dengan 9 angka desimal. SDK menyimpan field yang tidak dikenalnya, jadi Anda bisa membacanya sebagai atribut. getattr membuat type checker tidak protes; usage.model_extra mengembalikan semua field tambahan sebagai dict.

r = client.chat.completions.create(
    model="glm-5.3",
    messages=[{"role": "user", "content": "Halo"}],
)
print(r.usage.prompt_tokens, r.usage.completion_tokens)
print(getattr(r.usage, "cost", None))   # "0.000363000"
print(r.usage.model_extra)              # {"cost": "0.000363000"}

Di Responses, biaya ada di r.usage dengan cara yang sama.

Streaming

Untuk Chat Completions, minta usage di dalam stream lewat stream_options. Chunk terakhir sebelum stream selesai berisi daftar choices kosong dan membawa usage, termasuk cost.

stream = client.chat.completions.create(
    model="glm-5.3",
    messages=[{"role": "user", "content": "Halo"}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices:
        print(chunk.choices[0].delta.content or "", end="")
    if chunk.usage:
        print("\ncost:", getattr(chunk.usage, "cost", None))

Tanpa stream_options.include_usage, stream Chat Completions tidak punya chunk usage dan tidak membawa biaya. Tagihannya tetap tercatat di halaman Requests. Request yang bisa lebih lama dari 100 detik wajib memakai stream; lihat Streaming panjang.

Cek request-nya

Buka halaman Requests di dashboard. Setiap request menampilkan token per tarif, tarif yang dipakai, dan biayanya. Header respons x-request-id sama dengan ID di sana. Untuk membacanya dari SDK:

raw = client.chat.completions.with_raw_response.create(
    model="glm-5.3",
    messages=[{"role": "user", "content": "Halo"}],
)
print(raw.headers.get("x-request-id"))
r = raw.parse()

Troubleshooting

Status dan kodePenyebab umumYang perlu dilakukan
401 invalid_api_keyKey salah atau sudah dicabut, atau key masih OPENAI_API_KEY dari layanan lainPeriksa key, atau buat key baru di Key
402 insufficient_balanceTidak ada saldo yang bisa dipakai untuk model iniTop-up atau beli paket budget, lihat Saldo
403 ip_not_allowed, model_not_allowedAllowlist IP atau model pada key menolak requestUbah allowlist pada key
404 model_not_foundNama model tidak ada di Cent AIPakai nama dari GET /v1/models
404 tanpa kode ituBase URL tidak memakai /v1Atur base URL ke https://api.cent-ai.dev/v1
429 rate_limitedLebih dari 600 request per menit untuk key iniTunggu sesuai Retry-After, lihat Rate limit
429 key_limit_exceeded, project_budget_exceededLimit harian atau bulanan key atau project tercapaiNaikkan limitnya atau tunggu sampai waktu di pesan
501 not_available_yetEndpoint yang belum dibuka, misalnya embeddingsPakai model chat; lihat Error
503 upstream_timeout atau stream yang berhentiModel tidak mulai tepat waktu, atau stream mencapai durasi maksimumLihat Stream timeout

SDK melempar openai.AuthenticationError, openai.RateLimitError, dan subclass openai.APIStatusError lain untuk status ini, dan mencoba ulang sebagian di antaranya sendiri. Semua kode tercantum di Error.