(Skenario berikut adalah kasus ilustratif dan fiktif. Tokoh utama, "A-Ren," adalah figur yang digunakan hanya untuk tujuan penjelasan — bukan pelanggan sungguhan.)

Pukul sebelas malam, A-Ren menatap tulisan merah di layarnya: “Batas penggunaan tercapai. Coba lagi dalam 5 jam.”

Dia memimpin sisi teknis tim developer lepas kecil, dan sedang di tengah memperbaiki bug kritis sebelum peluncuran. Dia menghitung — sesi ini baru berisi kurang dari dua puluh pesan, tidak ada yang berlebihan. Jadi kenapa dia sampai diblokir? Dia beralih ke browser dan mencari: “kenapa batas penggunaan Claude cepat sekali habis.”

Seorang Engineer Menghabiskan 3,77 Miliar Token dalam Sehari — Tanpa Mengetik Sepatah Kata pun

Hasil pencarian pertama berasal dari Nate B. Jones, seorang kreator konten AI yang dikenal dengan konten tutorial yang konsisten dan praktis. Dalam satu hari kerja di lingkungan Codex miliknya sendiri, pelacaknya mencatat 3,77 miliar token yang mengalir — 3,59 miliar di antaranya adalah “input yang dipakai ulang” (reused input), hampir 96%. Dia menganggap dirinya pengguna berat menurut ukuran apa pun — hari itu dia membuka 143 thread percakapan terpisah. Tapi bahkan dia mengakui: dia tidak pernah mengetik 3,77 miliar token. Tidak ada yang bisa.

A-Ren terdiam membaca itu. Kalau ketikan seorang power user saja hanya seujung kuku dari totalnya, ke mana perginya 96% yang hilang itu?

Setiap Pesan Menagih Ulang Sembilan Giliran Sebelumnya

Jawabannya tersembunyi dalam cara percakapan LLM berpura-pura punya memori: setiap kali kamu menekan Enter, seluruh riwayat percakapan dikemas ulang dan dikirim lagi dari awal. Biaya pesan pertamamu ya sebesar apa yang kamu ketik — sederhana. Tapi biaya pesan kedua adalah apa yang kamu ketik, ditambah jawaban sebelumnya, ditambah apa yang sudah kamu ketik sebelum itu. Sampai pesan kesepuluh, biayanya adalah pesan itu sendiri ditambah sembilan giliran konten yang sudah kamu bayar sebelumnya. Sampai pesan ketigapuluh, apa yang benar-benar kamu ketik kali ini hanya recehan kecil di tagihan — dan semua materi lama itulah “input yang dipakai ulang.”

Dan tidak akan ada yang memperbaiki ini untukmu secara proaktif. Penyedia model tidak akan melakukannya — sampai batas tertentu, penggunaan besar-besaran justru yang menopang bisnis mereka; mereka baru memperketat batas begitu benar-benar menabrak batas kapasitas komputasi. Dengan kata lain: menggunakan kuota yang diberikan dengan cerdas adalah tanggung jawabmu sendiri, bukan sesuatu yang akan diselesaikan otomatis oleh siapa pun.

A-Ren teringat kebiasaannya beberapa minggu terakhir: satu thread percakapan dibuka dari pagi sampai malam, mencampur tiga-empat tugas yang sama sekali tidak berhubungan, karena dia sayang untuk membuka yang baru — “toh sudah sejauh ini ngobrolnya.” Dia mulai sadar, keengganan ini mungkin justru sumber dari 96% itu.

Dia Mencocokkan Kebiasaannya Sendiri dan Menemukan Tiga Kesalahan yang Paling Boros

Nate B. Jones membagi cara menghemat token menjadi tiga tingkat. A-Ren memutuskan untuk mulai dari tingkat paling dasar — yang tidak perlu instal apa pun — dan mencocokkan kebiasaannya sendiri satu per satu.

Kebiasaan buruk pertama yang dia tangkap adalah sayang untuk membuka percakapan baru. Dia terbiasa menyelesaikan satu tugas dalam satu thread lalu langsung menanyakan pertanyaan yang sama sekali tidak berhubungan di thread yang sama, berpikir “AI sudah punya konteksnya, mulai baru berarti menjelaskan ulang semuanya.” Tapi kenyataannya justru sebaliknya: begitu tugas berganti, kamu harus membuka percakapan baru — ini adalah satu perubahan yang menurut pengujian Nate berdampak paling besar. Karena thread yang sedang berjalan menyeret input yang dipakai ulang dari semua giliran sebelumnya — bisa jadi lima puluh ribu, seratus ribu, bahkan lebih dari sejuta token bagasi lama — dan tugas baru sama sekali tidak butuh sebagian besar dari itu.

Kebiasaan buruk kedua adalah menjejalkan seluruh proses penalaran ke langkah berikutnya. A-Ren sering menyelesaikan satu putaran riset, mendapatkan sebuah laporan, lalu menyalin-tempel seluruh percakapan itu apa adanya ke tugas berikutnya, berpikir “lebih lengkap datanya lebih aman.” Tapi pendekatan Nate adalah: bawa hanya hasil yang benar-benar akan kamu pakai, jangan ikut membawa prosesnya, draf yang sudah dibuang, atau jejak penalaran model yang membawanya sampai ke sana. Satu laporan riset saja bisa menyeret sejuta token konten yang tidak relevan — sebagian besar hanyalah jalan memutar untuk sampai ke kesimpulan itu, yang sama sekali tidak dibutuhkan langkah selanjutnya.

Kebiasaan buruk ketiga paling mudah diabaikan: dia sering melempar satu PDF utuh atau belasan screenshot sekaligus ke model dan membiarkannya sendiri mencari bagian yang relevan, berpikir itu lebih praktis. Tapi membiarkan model mencari sendiri di dalam file besar adalah salah satu cara paling boros token — daripada menyerahkan seluruh file mentah, lebih baik baca sendiri dulu, ambil bagian-bagian pentingnya, atau ubah PDF menjadi teks polos lalu tempel hanya “versi paling ringan yang berguna.” Model secara teknis bisa melakukan kerja berat itu sendiri, tapi biayanya tidak terlihat: tidak ada bedanya di layar, tapi terasa di tagihan.

Titik Balik: Batas Sesungguhnya Bukan Seberapa Banyak Dia Mengetik, Tapi Biaya Tetap Tersembunyi dalam Konfigurasi

A-Ren mengira cukup dengan menjaga cara mengetik dan cara memecah pertanyaannya. Sampai dia membaca angka yang dipublikasikan Anthropic sendiri dan sadar masalahnya lebih dalam dari itu: sebuah konfigurasi umum yang terhubung ke beberapa layanan populer — GitHub, Slack, Sentry, Grafana — menghabiskan sekitar 55.000 token hanya untuk memuat “buku panduan” alat-alat itu (apa yang bisa dilakukan tiap alat, kapan menggunakannya, parameter apa yang dibutuhkan) ke dalam konteks model, sebelum model bahkan mulai melakukan apa pun.

Dengan kata lain, sebagian besar tagihan sama sekali tidak berhubungan dengan apa yang dia ketik atau apa yang dijawab model — makin banyak alat yang dia hubungkan “sekalian saja,” makin model harus membayar biaya tetap hanya untuk “mengenal” alat-alat itu, dan biaya itu dibayar ulang di setiap putaran. A-Ren tiba-tiba teringat: lingkungan Claude Code miliknya terhubung dengan tujuh atau delapan alat MCP, dan setidaknya setengahnya bahkan tidak dipakai dalam proyek ini.

Nate juga menyebutkan dua mekanisme yang sedang dibangun industri untuk menambal ini: “compaction” dari OpenAI memadatkan progres tugas panjang sehingga giliran berikutnya tidak perlu mengirim ulang semua detail; “context editing” dari Anthropic membersihkan hasil alat lama dan jejak penalaran sebelum permintaan berikutnya. Mekanisme ini membantu, tapi pada akhirnya tetap “versi mendekati,” bukan pelestarian sempurna seluruh konteks — kesimpulan A-Ren adalah: daripada sepenuhnya bergantung pada penyedia untuk membereskan semuanya, lebih baik membiasakan diri untuk tidak menumpuk meja kerja sejak awal.

Akhirnya: Sekarang Dia Hanya Menghubungkan Alat yang Benar-benar Dibutuhkan, dan Memulai dengan Bersih

Malam itu, A-Ren tidak benar-benar menunggu 5 jam penuh. Dia menutup thread yang sudah berjalan seharian, bercampur beberapa tugas yang tidak berhubungan, dan membuka jendela baru yang bersih — hanya menjelaskan bug yang ada di depannya. Dia juga memeriksa satu per satu alat MCP di proyeknya, memutuskan koneksi yang tidak diperlukan, dan hanya menyisakan dua-tiga alat yang benar-benar akan dipakai untuk tugas ini.

Yang ada di pikirannya sekarang bukan lagi “kapan batas ini reset,” melainkan “apakah meja kerjaku bersih sebelum membuka percakapan berikutnya.” Ini cara berpikir yang berbeda tentang penggunaan AI dibanding sebelumnya — dulu dia mengira masalahnya adalah “AI-nya kurang pintar” atau “kuotanya terlalu pelit,” sampai dia memahami apa sebenarnya 96% itu, dan sadar bahwa yang seharusnya selalu dia perhatikan adalah bagaimana dia membereskan setiap putaran percakapan.

Pertanyaan yang Sering Diajukan

Kenapa kuota saya cepat habis padahal tidak mengetik banyak?

Karena percakapan LLM tidak punya memori sungguhan — setiap kali kamu mengirim pesan baru, seluruh riwayat percakapan dikemas ulang dan dikirim penuh ke model. Ini disebut “input yang dipakai ulang.” Makin banyak giliran dalam sebuah percakapan, makin besar porsi input yang dipakai ulang, dan apa yang benar-benar kamu ketik kali ini jadi hanya sebagian kecil dari total — itulah kenapa kuota bisa cepat habis meski rasanya kamu belum mengetik banyak.

Kapan sebaiknya saya membuka percakapan baru dibanding melanjutkan thread yang sama?

Begitu jenis tugasnya berganti — misalnya kamu tadinya sedang debug lalu ingin menanyakan sesuatu yang sama sekali tidak berhubungan. Melanjutkan thread yang sama akan menyeret semua yang terkumpul dari giliran-giliran sebelumnya, dan kamu tetap membayarnya meski tugas baru tidak butuh sebagian besar dari itu.

Apakah menghubungkan banyak alat (MCP/plugin) membuat penggunaan AI lebih mahal?

Ya. Menurut data yang dipublikasikan Anthropic, konfigurasi umum yang terhubung ke beberapa server alat populer (seperti GitHub, Slack, Sentry, Grafana) bisa menghabiskan sekitar 55.000 token hanya untuk memuat deskripsi tiap alat ke dalam konteks model — sebelum model melakukan pekerjaan apa pun. Sebaiknya hanya hubungkan alat yang benar-benar dibutuhkan untuk tugas saat ini, bukan menghubungkan semuanya sekaligus.

Apakah ada bedanya melempar seluruh PDF atau screenshot ke AI dibanding merapikannya sendiri dulu?

Ada, dan bedanya tidak kecil. Membiarkan model membaca dan mencari sendiri di dalam file lengkap adalah cara yang relatif boros token; kalau kamu bisa mengambil sendiri bagian-bagian pentingnya dulu, atau mengubah file menjadi teks polos lalu menempel hanya yang benar-benar berguna, kamu bisa menurunkan biaya satu permintaan secara signifikan — dan penghematan ini terus berulang di setiap giliran berikutnya.

Apakah “Token Saver” dan “Ringer” yang disebut di artikel ini adalah produk AI Token King?

Bukan. Keduanya adalah alat pihak ketiga yang dikembangkan dan dipublikasikan secara independen oleh pembuat video aslinya, Nate B. Jones. Artikel ini hanya merangkum konsep desainnya seperti yang dijelaskan dalam video asli, dan tidak mewakili dukungan, jaminan, atau rekomendasi dari AI Token King atau perusahaan induknya. Jika kamu tertarik menggunakannya, silakan periksa sendiri dokumentasi resmi dan ketentuannya.

Catatan Sumber

Artikel ini diadaptasi dari video yang dipublikasikan pada 29 Juli 2026 oleh kanal YouTube AI News & Strategy Daily | Nate B Jones, “Paste This Into Claude, Never Hit a Token Limit Again”, disusun ulang dan ditulis ulang, bukan diterjemahkan kata per kata. “A-Ren” dalam artikel ini adalah figur ilustratif untuk tujuan penjelasan, bukan kasus pelanggan sungguhan. Referensi terhadap data publik Anthropic (definisi alat menghabiskan sekitar 55.000 token), mekanisme compaction percakapan dari OpenAI, dan mekanisme context editing dari Anthropic semuanya adalah informasi publik yang dikutip dalam video asli; artikel ini tidak memverifikasi secara independen dokumentasi teknis aslinya, jadi untuk angka yang presisi pembaca sebaiknya merujuk ke dokumentasi resmi masing-masing penyedia. Alat pihak ketiga yang disebutkan (Token Saver, Ringer) dikutip semata-mata untuk menjelaskan isi video asli dan bukan merupakan dukungan atau jaminan dari situs ini.

Ingin Tahu Berapa Banyak Penggunaan AI-mu yang Habis untuk “Input yang Dipakai Ulang”?

A-Ren belakangan sadar bahwa yang benar-benar membuatnya terblokir malam itu bukan satu pesan tertentu, melainkan tumpukan percakapan seharian yang tidak pernah dibereskan. Coba AI Token King gratis, dan lihat persis ke mana biaya setiap percakapan sebenarnya pergi, supaya kamu bisa menemukan apa yang benar-benar perlu dibereskan sebelum kuota habis, bukan sesudahnya.