Cara hitung biaya prompt caching Anthropic

Cara Anthropic menghargai cache write dan cache read, field usage mana yang memuatnya, dan contoh hitungan usage.cost untuk dua request yang memakai satu prompt yang di-cache.

Cent AITerbit 4 menit baca

Prompt caching membuat prompt panjang, misalnya system prompt, ringkasan codebase, atau dokumen, bisa dibaca lagi dengan tarif lebih rendah di request berikutnya. Di Anthropic Messages API, harganya bergantung pada dua hal: apakah token ditulis ke cache atau dibaca dari cache, dan berapa lama cache itu hidup. Artikel ini menunjukkan dari mana angka-angka itu muncul di respons dan cara menghitung biaya satu request, langkah demi langkah.

Empat jumlah token di respons

Respons Messages melaporkan input dalam tiga field, ditambah output:

FieldYang dihitung
cache_creation_input_tokensToken yang ditulis ke cache oleh request ini
cache_read_input_tokensToken yang dibaca dari cache
input_tokensToken sesudah breakpoint cache terakhir yang tidak di-cache
output_tokensToken yang ditulis model

Dokumentasi Anthropic menegaskan bahwa "input_tokens does NOT represent all input tokens, only the portion after your last cache breakpoint": input_tokens bukan seluruh input, hanya bagian sesudah breakpoint cache terakhir. Total input adalah cache_read_input_tokens + cache_creation_input_tokens + input_tokens (sumber).

Cara Anthropic menghargai token cache

Anthropic menghargai token cache sebagai kelipatan harga input dasar model (sumber):

Jenis tokenTarif Anthropic
Cache write, umur 5 menit1,25 kali harga input dasar
Cache write, umur 1 jam2 kali harga input dasar
Cache read0,1 kali harga input dasar, dengan pengecualian untuk beberapa model baru yang dicantumkan di halaman yang sama

Secara bawaan, cache hidup 5 menit ("By default, the cache has a 5-minute lifetime"). Prompt yang lebih pendek dari panjang minimum model diproses tanpa cache, dan tidak ada error. Panjang minimum per model tercantum di halaman yang sama.

Jadi caching lebih mahal di request pertama, yang menulis cache, dan lebih murah di setiap request yang membacanya sebelum kedaluwarsa.

Cara Cent AI menagih token yang sama

Setiap model di Cent AI punya empat tarif per sejuta token: input, cache read, cache write, dan output. Model yang membedakan harga cache 1 jam juga punya tarif cache write 1 jam. Field usage Messages dipetakan satu lawan satu: input_tokens ke input, cache_read_input_tokens ke cache read, cache_creation_input_tokens ke cache write, dan output_tokens ke output.

Untuk model Claude, cache write di Cent AI ditagih dengan tarif input model, baik untuk umur 5 menit maupun 1 jam. Ini tarif satu model, per 1 juta token, dari halaman harga pada 2026-11-14:

Tarifclaude-sonnet-4-6 di Cent AIResmi
Input$0,45$3
Cache write, 5 menit$0,45$3,75
Cache write, 1 jam$0,45$6
Cache read$0,045$0,30
Output$2,25$15

Token cache hanya ditagih bila respons melaporkannya. Bila respons tidak menyebut cache sama sekali, semua token prompt ditagih dengan tarif input.

Contoh hitungan

Dua request mengirim system prompt yang sama sepanjang 9.700 token dengan breakpoint cache_control, lalu pertanyaan pendek.

Request pertama menulis cache. Usage-nya:

{
  "input_tokens": 300,
  "cache_creation_input_tokens": 9700,
  "cache_read_input_tokens": 0,
  "output_tokens": 500,
  "cost": "0.005625000"
}

Dengan tarif di tabel di atas:

  • input: 300 × $0,45 / 1.000.000 = $0,000135
  • cache write: 9.700 × $0,45 / 1.000.000 = $0,004365
  • output: 500 × $2,25 / 1.000.000 = $0,001125

Jumlahnya $0,005625, dan usage.cost menampilkannya dengan sembilan angka desimal: "0.005625000". Dengan kurs Cent AI hari itu (Rp18.231,96 per USD), angka ini sekitar Rp103.

Request kedua datang dalam lima menit dan membaca cache:

{
  "input_tokens": 400,
  "cache_creation_input_tokens": 0,
  "cache_read_input_tokens": 9700,
  "output_tokens": 600,
  "cost": "0.001966500"
}
  • input: 400 × $0,45 / 1.000.000 = $0,00018
  • cache read: 9.700 × $0,045 / 1.000.000 = $0,0004365
  • output: 600 × $2,25 / 1.000.000 = $0,00135

Jumlahnya $0,0019665, sekitar Rp36. Ke-9.700 token yang di-cache berbiaya sepersepuluh dari biayanya sebagai input baru; output menjadi bagian terbesar request ini.

Di Cent AI, bagian-bagian itu dijumlahkan dalam nano-USD dan hasilnya dibulatkan ke atas sekali per request, lalu berlaku minimum $0,00002. Kedua contoh tepat jatuh di satu nano-USD, jadi tidak ada pembulatan di sini. usage.cost adalah jumlah yang ditagih; Anda bisa menghitungnya ulang dari jumlah token di objek usage yang sama dan tarif di GET /v1/models.

Supaya cache bekerja

  • Taruh bagian yang tetap di depan. Cache mencocokkan awalan: system prompt dan tools lebih dulu, pertanyaan yang berubah di akhir.
  • Tandai breakpoint. Tambahkan cache_control di blok terakhir bagian yang tetap. Cent AI meneruskannya tanpa diubah.
  • Cek field-nya. Bila cache_read_input_tokens tetap 0 di request kedua, awalannya berubah, cache sudah kedaluwarsa, atau prompt di bawah panjang minimum.
  • Pilih umurnya. Di Cent AI, menulis cache dengan kedua umur berbiaya tarif input untuk model Claude, jadi cache 1 jam layak dipakai bila jarak antar request beberapa menit.

Rumus lengkapnya, termasuk minimum dan pembulatan, ada di Biaya request.

Sumber

  1. platform.claude.com/docs/en/build-with-claude/prompt-caching (membuka tab baru) · diakses 2026-11-14
  2. cent-ai.dev/id/pricing (membuka tab baru) · diakses 2026-11-14
  3. cent-ai.dev/id/docs/concepts/request-cost (membuka tab baru) · diakses 2026-11-14
BagikanXThreads