Pertanyaan yang paling sering masuk: *"model mana yang paling murah?"* Jawaban jujurnya: tergantung panjang jawabanmu. Harga per token hanya separuh cerita; separuh lainnya adalah berapa token yang benar-benar terpakai untuk satu pekerjaan selesai.
Cara menghitung biaya sebenarnya
Setiap panggilan menghasilkan dua angka: prompt_tokens (yang kamu kirim) dan completion_tokens (yang dijawab model). Biayanya:
biaya = prompt_tokens × harga_input + completion_tokens × harga_outputHarga output biasanya 3–4× lebih mahal daripada input. Artinya untuk tugas seperti "ringkas artikel panjang", biaya didominasi input; untuk "tulis esai 2.000 kata", didominasi output.
Contoh nyata: satu pekerjaan, tiga model
Misal kamu merangkum dokumen 8.000 token dan hasilnya 600 token:
| Model kelas | Input | Output | Perkiraan biaya relatif |
|---|---|---|---|
| Model cepat (kilat) | 8.000 | 600 | 1× (patokan) |
| Model menengah | 8.000 | 600 | ±3× |
| Model terbesar | 8.000 | 600 | ±12× |
Kalau tugasnya cuma "ambil 5 poin", model cepat sudah cukup. Membayar model terbesar untuk pekerjaan mekanis adalah pemborosan yang paling sering terjadi.
Kesalahan yang membuat tagihan membengkak
1. Mengirim riwayat percakapan penuh setiap kali. Di chat multi-turn, tiap pesan mengirim ulang seluruh riwayat. Percakapan 20 putaran bisa mengirim 40.000 token untuk pertanyaan yang sebenarnya 30 token.
Perbaikannya: ringkas riwayat setelah 6–8 putaran, atau simpan ringkasan sebagai system message.
2. Memakai model mahal untuk klasifikasi. Menentukan "ini spam atau bukan" tidak butuh model terbesar. Ini tugas model cepat, 100% akurat untuk kasus sederhana, dengan biaya sepersepuluh.
3. `max_tokens` tidak dibatasi. Model bisa menjawab 4.000 token untuk pertanyaan yang cukup dijawab 200. Batasi sesuai kebutuhan nyata.
4. Lupa bahwa gambar juga token. Satu gambar bisa setara ratusan hingga ribuan token tergantung resolusi. Kalau tidak butuh analisis gambar, jangan kirim.
Cara memilih model dengan cepat
| Kebutuhan | Pilih |
|---|---|
| Chat biasa, ringkas, terjemah | model cepat (pengali 1–3×) |
| Kode, analisis dokumen, penalaran sedang | model menengah (pengali 3–8×) |
| Tugas sulit, matematika, arsitektur sistem | model terbesar (pengali 30–40×) |
| Baca gambar/screenshot | model dengan dukungan vision |
Aturan praktis: mulai dari yang termurah, naik hanya kalau hasilnya kurang. Sembilan dari sepuluh pekerjaan selesai di model cepat.
Cara memantau tanpa menebak
Kalau memakai gateway, setiap request tercatat dengan jumlah token dan biayanya. Yang perlu kamu pantau cuma tiga hal:
- Rata-rata token per request — kalau naik tiba-tiba, ada yang berubah di prompt-mu.
- Model termahal yang kamu pakai dan seberapa sering.
- Sisa kuota dan perkiraan berapa hari lagi cukup.
Di ADVANCE ketiganya ada di halaman Dashboard → Pemakaian, dan pengalian kuota tiap model ditampilkan terbuka di /model — kamu bisa menghitung sendiri sebelum membeli, bukan setelah tagihan datang.
Ringkas
- Biaya = input × harga input + output × harga output; output lebih mahal.
- Model murah yang dipakai berulang bisa lebih mahal dari model mahal sekali pakai — hitung per pekerjaan selesai, bukan per token.
- Batasi
max_tokens, ringkas riwayat, jangan kirim gambar yang tidak perlu. - Mulai dari model termurah, naik hanya kalau perlu.