Oentoro

Tech - Savvy Traveler

Oentoro

Tech - Savvy Traveler

Biaya Token AI Coding: Cara Hitung dan Tekan Angkanya

Biaya Token AI Coding: Cara Hitung dan Tekan Angkanya

Raka, seorang pengembang lepas di Yogyakarta, mencatat pengeluaran API-nya setiap bulan. Pada September 2026, tagihannya Rp312.000. Pada Oktober, angka itu melompat menjadi Rp2,4 juta. Yang mengherankan: jumlah fitur yang ia kerjakan hampir sama, bahkan dua proyek kecil justru selesai lebih lambat dari jadwal. Satu-satunya perubahan adalah kebiasaan baru, yaitu ia mulai memakai coding agent yang membaca berkas sendiri, menjalankan test, lalu memperbaiki kesalahannya secara berulang atas inisiatifnya sendiri.

Kenaikan delapan kali lipat dalam satu bulan bukan kasus langka. Pola ini muncul karena agent mengubah bentuk permintaan ke API: bukan lagi satu tanya satu jawab, melainkan puluhan panggilan berantai yang masing-masing membawa riwayat percakapan. Kesadaran itu mengubah cara menghitung biaya, dan artikel ini membahas cara menghitungnya dengan angka, bukan perasaan.

Konteks minggu ini penting. Pada 12 November 2026, Google merilis Gemini 4 Hydrogen, model yang Google posisikan sebagai mesin eksekusi untuk alur kerja agentik, dengan tarif datar 1,50 dolar per juta token input dan 7,50 dolar per juta token output sepanjang konteks satu juta token [1]. Rilis tersebut menandai pergeseran yang lebih luas: vendor mulai menjual model murah khusus untuk pekerjaan mekanis, sementara model frontier tetap memegang keputusan arsitektur.

Mengapa tagihan agent naik lebih cepat daripada jumlah kode

Bayangkan kamu memfotokopi satu dokumen delapan belas kali, lalu mengirim tiap salinan ke meja yang berbeda. Kertasnya sama, tetapi biayanya delapan belas kali. Inilah yang terjadi pada agent.

Setiap langkah agent mengirim ulang konteks: instruksi sistem, riwayat langkah sebelumnya, isi berkas yang tadi kamu baca, serta keluaran tool. Karena itu, satu tugas refactor yang memerlukan 20 langkah menghasilkan 20 permintaan, dan permintaan kedua puluh membawa hampir seluruh percakapan. Token input bertambah secara akumulatif, bukan linear terhadap ukuran kode.

Ada faktor kedua yang jarang orang sadari, yaitu kegagalan berulang. Ketika satu tool call gagal, agent mengulang dengan konteks yang lebih panjang, sehingga biaya retry lebih mahal daripada percobaan pertama. Akibatnya, tugas yang selesai dalam 8 langkah dan tugas yang selesai dalam 25 langkah tidak berbeda tiga kali, melainkan bisa lima kali lipat. Jebakan serupa juga muncul pada level kebiasaan, seperti yang kita bahas dalam artikel tentang anti-pattern penggunaan AI coding agent.

Anatomi satu panggilan API

Sebelum menghitung, kamu perlu tahu ke mana uang mengalir. Satu panggilan ke model terdiri dari empat komponen yang masing-masing punya tarif berbeda.

  • Token input — prompt sistem, konteks repo, hasil tool, dan riwayat percakapan.
  • Token output — kode, penjelasan, serta pemanggilan tool berikutnya.
  • Cache — sebagian provider memberi harga lebih murah untuk prompt yang berulang persis, sebagian tidak memberi apa pun.
  • Round-trip tool — setiap pemanggilan tool menambah satu panggilan model baru, lengkap dengan konteksnya.

Proporsi biaya biasanya miring ke input karena volumenya jauh lebih besar. Namun tarif output umumnya beberapa kali lebih mahal. Karena itu, strategi menghemat output dan strategi menghemat input memberi efek berbeda, tergantung pola pemakaian. Sebelum menghitung, ambil tarif resmi dari halaman harga provider masing-masing, karena tarif berubah dan ingatan sering keliru.

Rumus biaya per tugas, bukan per bulan

Untuk memperolehnya, kalikan token input dengan tarif input lalu bagi sejuta, kemudian tambahkan hasil perkalian token output dengan tarif output yang kamu bagi sejuta pula. Rumus sederhana ini cukup untuk sebagian besar kebutuhan, asalkan kamu mencatat kedua angka token.

Contoh berikut memakai angka ilustrasi, bukan tagihan nyata. Misalkan satu tugas refactor memerlukan 22 langkah dengan rata-rata 18.000 token input per langkah, dan total output 24.000 token. Maka token input sekitar 396.000, dan perhitungannya menjadi seperti tabel di bawah.

Jenis model Tarif input / 1 juta Tarif output / 1 juta Biaya satu tugas 30 tugas / bulan
Model eksekusi (contoh tarif Hydrogen) 1,50 dolar 7,50 dolar sekitar 0,77 dolar sekitar 23 dolar (Rp380 ribu)
Model frontier (ilustrasi 8 dan 24 dolar) 8,00 dolar 24,00 dolar sekitar 3,74 dolar sekitar 112 dolar (Rp1,85 juta)

Asumsi kurs yang saya pakai adalah Rp16.500 per dolar. Tarif model frontier pada baris kedua sengaja saya beri label ilustrasi untuk perbandingan, bukan tarif resmi satu vendor tertentu. Selisih Rp380 ribu versus Rp1,85 juta per bulan cukup untuk membiayai satu langganan listrik kantor kecil, dan selisih itulah yang membuat pola dua model mulai populer.

Pola dua model: frontier untuk berpikir, model murah untuk mengeksekusi

Google menjual Hydrogen dengan tarif datar sepanjang konteks satu juta token [1]. Detail tarif datar ini lebih penting daripada angka absolutnya, karena banyak provider menaikkan tarif untuk permintaan di atas 200 ribu token. Pada repo besar, kenaikan tarif bertingkat itulah yang membuat tagihan meledak tanpa terasa.

Selain harga, Google mengklaim Hydrogen mencapai skor 51 pada Artificial Analysis Intelligence Index di tingkat thinking default, sedikit di atas Argon yang berada di angka 50, serta menaikkan skor Terminal-Bench 4.1 dari 18,2 persen menjadi 57 persen ketimbang Gemini 3.8 Flash [1]. Klaim tersebut berasal dari vendor, sehingga perlakukan sebagai klaim dan bukan kebenaran netral. Yang lebih berguna bagi pembaca: Google melaporkan mitra mereka melihat penurunan pemakaian token 12 hingga 23 persen pada alur kerja SQL dan data, dengan kecepatan 2 sampai 2,8 kali lebih tinggi [1].

Konsekuensi praktisnya, pisahkan peran. Model frontier memutuskan struktur: skema basis data, batas modul, strategi migrasi. Model eksekusi menulis diff, menjalankan test, dan memperbaiki error sepele. Google memakai pola ini lewat fitur Orchestrator di Antigravity, yang berpindah model dalam satu sesi dan menurut Google memangkas pemakaian kuota 24 persen serta mempercepat penyelesaian 19 persen [1]. Jika kamu memakai tool lain, pola yang sama bisa kamu tiru secara manual: satu sesi untuk diskusi arsitektur, lalu sesi terpisah untuk implementasi. Pembagian peran ini juga sejalan dengan pembahasan pada artikel tentang agentic coding, ketika manusia memegang strategi dan mesin mengerjakan eksekusi.

Tiga tombol yang benar-benar menurunkan tagihan

  1. Turunkan thinking level untuk pekerjaan mekanis. Hydrogen menyediakan empat tingkat, yaitu low, medium, high, dan xhigh [1][2]. Menulis test untuk fungsi yang alurnya sudah jelas tidak membutuhkan xhigh.
  2. Jaga konteks tetap kecil. Sebelum memulai tugas, tutup berkas yang tidak relevan. Satu berkas berisi 2.000 baris yang selalu kamu baca akan masuk lagi ke setiap permintaan, dan itu biaya berulang dua puluh kali.
  3. Ukur per tugas, bukan per bulan. Catat token input, token output, jumlah langkah, serta status berhasil atau gagal untuk setiap tugas. Tanpa log ini, kamu hanya bisa menebak penyebab kenaikan tagihan.

Tambahan yang sering orang lewatkan: batasi retry otomatis. Tiga percobaan sudah cukup untuk sebagian besar kegagalan tool, dan batas itu mencegah loop yang menghabiskan kuota tanpa menghasilkan kode. Prinsip serupa berlaku saat kamu memilih pendekatan arsitektur, seperti pada perbandingan fine-tuning versus RAG dari sisi biaya, ketika keputusan awal menentukan besaran tagihan berbulan-bulan kemudian.

Checklist mingguan

  • Ekspor log token per tugas dari dashboard provider.
  • Urutkan data tersebut, lalu ambil tiga tugas paling mahal.
  • Periksa apakah ketiganya gagal berulang atau memang kompleks.
  • Cari berkas yang selalu muncul di konteks, kemudian singkirkan yang tidak perlu.
  • Jalankan sepuluh tugas yang sama pada model murah dan model frontier, lalu bandingkan tingkat keberhasilan.
  • Pasang budget alert pada 60 persen dari anggaran bulanan.

Risiko: hemat token, kualitas turun

Model murah cenderung lebih sering mengarang. Google mengklaim Hydrogen memangkas klaim palsu lebih dari lima kali ketimbang 3.8 Flash [1], tetapi klaim vendor tidak menggantikan pengujian pada kodebase kamu sendiri. Cara paling aman, jangan pernah menghemat pada langkah verifikasi. Test, lint, dan type check tetap berjalan, karena satu bug yang lolos ke produksi lebih mahal daripada seluruh penghematan token bulan itu.

Risiko kedua adalah penghematan palsu. Menurunkan thinking level memang memangkas output token, tetapi jika hasilnya salah dan kamu harus mengulangnya, total biaya justru naik. Karena itu, bandingkan biaya per tugas yang berhasil, bukan biaya per panggilan.

Risiko ketiga berkaitan dengan keamanan rantai pasok. Menambah tool dan ekstensi pihak ketiga ke alur kerja agent memperluas permukaan serangan. Insiden Cursor pada Oktober 2026 menunjukkan bahwa penyerang dapat menyajikan ekstensi palsu ke ribuan pengguna dalam hitungan jam, dan menghapus ekstensi saja tidak selalu cukup [3]. Hemat biaya tidak boleh berarti memasang ekstensi tanpa pemeriksaan.

Kesimpulan

Biaya agent bukan fungsi dari jumlah kode yang kamu tulis, melainkan fungsi dari jumlah langkah dan besar konteks yang kamu bawa di setiap langkah. Karena itu, tiga kebiasaan berikut memberi hasil paling cepat: pisahkan model untuk berpikir dan mengeksekusi, jaga konteks tetap ramping, lalu ukur biaya per tugas yang berhasil.

Raka menyelesaikan masalahnya bukan dengan berhenti memakai agent, melainkan dengan memindahkan pekerjaan mekanis ke model murah dan menyisakan model frontier untuk keputusan desain. Tagihan November turun ke kisaran Rp700 ribu, sementara jumlah fitur yang selesai justru bertambah. Hitungan serupa bisa kamu mulai minggu ini, dengan satu spreadsheet dan satu log token.

Referensi

Biaya Token AI Coding: Cara Hitung dan Tekan Angkanya

Eksplorasi konten lain dari Oentoro

Berlangganan untuk dapatkan pos terbaru lewat email.

Tinggalkan Balasan

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Are you human? Please solve:Captcha


Kembali ke Atas