(Skenario berikut adalah kasus fiktif ilustratif. Tokoh utama, "Wen Zixuan," adalah figur representatif untuk keperluan penjelasan, bukan pelanggan sungguhan.)
Bos Melempar Satu Kalimat di Grup
"Perusahaan sebelah sudah beli GPU sendiri buat jalanin AI. Kenapa kita masih bayar tagihan bulanan Claude?"
Wen Zixuan adalah kepala teknis di sebuah startup beranggotakan belasan orang, dan menatap kalimat yang baru saja dilempar bosnya ke grup, dia tidak langsung punya jawaban. Tagihan API Claude perusahaan mereka memang terus naik setiap bulan, dan belakangan ini internet dipenuhi klaim bahwa "satu Mac Studio saja bisa mengalahkan Claude." Bosnya menambahkan satu kalimat lagi: "Rapat anggaran minggu depan. Bawa perbandingan: beli hardware sendiri, atau tetap bayar API" — dan begitu saja, seluruh masalah ini jatuh ke pundaknya.
Cari Dulu Pengganti yang Bisa Benar-Benar Dihitung
Hal pertama yang membuat Wen Zixuan mentok saat mulai mencari tahu adalah: tidak ada yang benar-benar tahu berapa GPU yang dibutuhkan untuk menjalankan Claude Fable 5, karena Anthropic tidak pernah mempublikasikan jumlah parameter, arsitektur, atau bobotnya. Ada satu utas panjang di Reddit yang menebak-nebak berapa H100 yang dibutuhkan untuk menjalankan model sekelas Fable — ada yang menebak empat, ada yang menebak delapan B200, ada juga yang cuma bilang "kamu butuh satu rack penuh." Jawabannya berantakan, karena tidak ada yang benar-benar menghitungnya.
Dia akhirnya menemukan sebuah video yang menghitungnya menggunakan Kimi K3 sebagai pengganti, dan di situlah dia sadar: inilah satu-satunya cara untuk benar-benar menghitung sesuatu. Materi resmi Kimi K3 mempublikasikan 2,8 triliun parameter dan jendela konteks 1 juta token, dan materi peluncurannya langsung membandingkan diri dengan Fable 5 pada benchmark coding dan agent — meski blog resmi Kimi sendiri mengakui secara keseluruhan masih kalah dari model tertutup terkuat, dan skor benchmark bukan hal yang sama dengan benar-benar mengerjakan pekerjaan dengan baik. Intinya bukan mengklaim Kimi K3 bisa menggantikan Fable 5; intinya adalah Kimi K3 satu-satunya pengganti yang skalanya sekelas frontier sekaligus punya ukuran yang dipublikasikan secara transparan — yang membuatnya satu-satunya hal yang bisa benar-benar dihitung secara matematis.
Begitu Rumusnya Dibuka, Jawabannya Langsung Terlihat
Kimi K3 menyimpan bobotnya dalam format 4-bit bernama MXFP4. 2,8 triliun parameter dikali setengah byte menghasilkan sekitar 1,4 terabyte hanya untuk bobot mentahnya saja — dan itu belum termasuk perangkat lunak inferensi, konteks percakapan, atau margin keamanan apa pun. Itu adalah nilai lantai, bukan total biaya.
Wen Zixuan mencocokkan rumus itu dengan setiap opsi yang mampu dibeli perusahaannya, dan setiap kali mentok tembok. Dia pertama-tama mengecek Mac Studio spesifikasi tertinggi milik perusahaan — 512 GB memori terpadu, bahkan tidak sampai sepertiga dari nilai lantai, langsung gugur. Dia ingat ada rekan kerja yang bilang "empat H100 harusnya cukup" — dia hitung: masing-masing 80 GB, empat unit jadi 320 GB, malah lebih kecil dari Mac Studio, tetap tidak cukup. Naik lagi, DGX B200 dengan delapan GPU B200 punya 1,44 TB memori GPU — di atas kertas, akhirnya melewati nilai lantai — tapi setelah dikurangi bobot, tersisa kurang dari 40 GB yang bisa dipakai, dan jendela konteks, cache percakapan, serta perangkat lunak inferensi semuanya harus muat dalam 40 GB itu tanpa ruang bernapas. Dia terus naik dan menemukan DGX B300: delapan kartu, 2,3 TB, menyisakan hampir 900 GB setelah bobot — secara teori, akhirnya, bisa jalan. Kecuali rekomendasi resmi Kimi sendiri untuk "inferensi efisien" meminta 64 atau lebih akselerator — yang setara dengan delapan server, bukan satu.
Satu unit DGX B300 yang dijalankan penuh punya konsumsi daya resmi 14,5 kW; delapan unit sekaligus mendekati 116 kW belum termasuk pendinginan. Dia juga menemukan seseorang di utas itu yang bilang perusahaannya mengoperasikan puluhan B200, dan menyalakannya "terdengar seperti duduk di belakang pesawat Airbus A380." Dia membuat perkiraan kasar dengan harga sewa publik hari ini — delapan node seperti itu akan menghabiskan sekitar 313.000 hingga 577.000 dolar per bulan. Dia tahu ini hanya perkiraan orde besaran, bukan penawaran resmi, tapi sudah cukup untuk menunjukkan bahwa skalanya sama sekali berbeda dari yang dia bayangkan sebelumnya.
Dia Kira Sedang Menghitung Pembelian Sekali Bayar — Ternyata Sedang Menghitung Satu Pusat Data
Sampai di sini, Wen Zixuan sadar asumsi awalnya sepenuhnya salah. Dia mengira bosnya menginginkan "beli beberapa GPU, bayar sekali, tidak perlu lagi bayar tagihan API" — sebuah belanja modal satu kali. Tapi setelah rumusnya dibuka, ternyata setup mandiri yang mampu menjalankan model sekelas Fable sama sekali bukan pembelian hardware "sekali beli selesai" — melainkan operasional penuh sebuah pusat data: listrik, pendinginan, infrastruktur jaringan, dan orang yang mengawasi mesin-mesin itu 24 jam. Dan biaya bulanan itu satu tingkat lebih tinggi dari tagihan Claude yang sedang mereka bayar sekarang.
Yang lebih penting lagi, video itu menunjukkan bahwa utas Reddit sejak awal sudah salah bertanya: "100 pengguna" tidak sama dengan "100 permintaan bersamaan." Jika 100 karyawan masing-masing mengirim satu permintaan setiap 10 menit, dan setiap respons menyita sistem selama 30 detik, rata-rata jumlah permintaan yang benar-benar berjalan bersamaan ternyata hanya sekitar 5 — AI agent memang bisa membuat angka ini melonjak cepat, tapi ketika Wen Zixuan mengecek kembali penggunaan bersamaan sesungguhnya di timnya sendiri, ternyata jauh dari seberlebihan yang dia bayangkan.
Yang Dia Bawa ke Ruang Rapat Bukan Penawaran Harga, Tapi Sebuah Pertanyaan
Pada rapat anggaran minggu berikutnya, Wen Zixuan tidak datang membawa daftar pembelian delapan unit DGX B300 — itu terlalu terburu-buru. Seseorang dalam video yang pernah menjalankan layanan LLM untuk ribuan pengguna mengatakan satu kalimat yang dia catat: "Model yang cukup bagus dan bisa benar-benar diskalakan, mengalahkan supermodel yang cuma bisa melayani dua-tiga orang." Ini cocok dengan pola lain yang dia temukan — tim yang benar-benar pernah menjalankan model lokal sendiri hampir tidak pernah "sepenuhnya mandiri": pekerjaan yang privat atau berulang diserahkan ke model lokal kecil, sementara tugas tersulit tetap diserahkan ke Claude atau GPT.
Yang dibawa Wen Zixuan ke ruang rapat justru sebuah pertanyaan balik: "Apakah kita benar-benar tahu berapa banyak token dan berapa banyak permintaan bersamaan yang sebenarnya kita pakai setiap hari?" Sarannya adalah jangan buru-buru memutuskan mau mandiri atau tidak, tapi buka dulu penggunaan nyata tim — tugas mana yang volumenya besar tapi sederhana, tugas mana yang sedikit tapi berat — baru kemudian memutuskan apakah sepadan menukar biaya API dengan tanggung jawab operasional satu pusat data penuh.
Pertanyaan yang Sering Diajukan (FAQ)
T1: Apa itu "Kimi K3" yang disebut dalam artikel ini? Apa hubungannya dengan Claude Fable 5?
Kimi K3 adalah model bahasa besar dengan jumlah parameter yang dipublikasikan secara terbuka (2,8 triliun parameter, arsitektur mixture-of-experts, jendela konteks 1 juta token), dan materi peluncurannya langsung membandingkannya dengan Claude Fable 5 lewat benchmark. Karena Anthropic tidak pernah mempublikasikan jumlah parameter atau arsitektur Fable 5, artikel ini (dan video sumbernya) memakai Kimi K3 sebagai pengganti yang "sekelas skala tapi transparan spesifikasinya" untuk memperkirakan hardware yang dibutuhkan untuk deployment lokal — bukan klaim bahwa kemampuan keduanya setara.
T2: Apakah perusahaan biasa benar-benar perlu membeli GPU sendiri untuk menjalankan model AI kelas atas secara lokal?
Dalam kebanyakan kasus, tidak. Kesimpulan video sumber adalah tim yang benar-benar pernah menjalankan model lokal hampir tidak pernah "sepenuhnya mandiri" — model lokal kecil cocok untuk pekerjaan privat atau berulang (seperti pencarian dokumen, klasifikasi, atau coding rutin), sementara tugas tersulit tetap diserahkan ke layanan cloud seperti Claude atau GPT. Apakah mandiri itu sepadan tergantung pada penggunaan bersamaan sesungguhnya dan pola kerja, bukan sekadar dorongan untuk menghemat biaya.
T3: Apakah angka pembelian dan listrik dalam artikel ini (seperti 313.000–577.000 dolar per bulan) adalah penawaran harga yang presisi?
Bukan. Angka-angka ini adalah perkiraan kasar orde besaran yang dihitung sendiri oleh pembuat video sumber berdasarkan harga sewa hardware dan spesifikasi yang dipublikasikan secara umum — bukan penawaran resmi, juga bukan harga resmi dari Anthropic, Nvidia, atau penyedia cloud mana pun. Biaya sesungguhnya bisa sangat berbeda tergantung wilayah, vendor, dan syarat kontrak; pembaca yang menilai situasinya sendiri sebaiknya meminta penawaran harga yang sesungguhnya.
T4: Apa bedanya "100 pengguna" dengan "100 permintaan bersamaan"? Mengapa perbedaan ini penting sekali?
"Jumlah pengguna" adalah berapa banyak orang yang berpotensi memakai sistem; "permintaan bersamaan" adalah berapa banyak permintaan yang benar-benar harus diproses sistem pada satu momen tertentu — dan keduanya bisa berbeda jauh. Contoh dalam artikel: jika 100 karyawan mengirim permintaan secara merata dan tersebar, jumlah yang berjalan bersamaan bisa serendah sekitar 5, jauh di bawah angka intuitif "100." Perbedaan ini langsung menentukan berapa banyak hardware yang benar-benar perlu dibeli, dan ini adalah bagian dari artikel ini yang paling mudah disalahpahami — sekaligus paling sering menyebabkan pembelian berlebihan.
T5: Daripada menebak-nebak spesifikasi hardware, bagaimana seharusnya perusahaan memutuskan apakah akan memindahkan pekerjaan AI ke infrastruktur lokal?
Saran dari video sumber adalah: jangan buru-buru membuat pesanan pembelian — sewa hardware selama beberapa minggu dan lihat bagaimana respons pengguna sesungguhnya, yang jauh lebih berarti daripada lembar spesifikasi atau grafik benchmark mana pun. Dan sebelum menyewa untuk uji coba pun, langkah pertama yang lebih mendasar adalah melihat dengan jelas pola penggunaan token dan permintaan bersamaan tim kamu yang sesungguhnya — kamu perlu tahu berapa banyak yang benar-benar kamu pakai, dan di mana, sebelum berhak membicarakan apakah menukar biaya itu dengan tanggung jawab operasional satu pusat data penuh itu sepadan.
Catatan Sumber: Artikel ini diadaptasi dari video yang dipublikasikan kanal YouTube Kai, berjudul "What Would It Cost to Run Claude Fable 5 Locally?", ditulis ulang dalam bentuk naratif dan bukan terjemahan kata demi kata. Tokoh utama dalam artikel ini, "Wen Zixuan," adalah figur representatif untuk keperluan penjelasan, bukan kasus pelanggan sungguhan; latar belakang dan situasi perusahaannya adalah rekonstruksi ilustratif. Semua angka spesifik dalam artikel (konversi memori, spesifikasi GPU, konsumsi daya, perkiraan biaya sewa) adalah perkiraan orde besaran yang dihitung sendiri oleh pembuat video sumber berdasarkan spesifikasi yang dipublikasikan secara umum, bukan data yang diverifikasi atau diaudit secara independen oleh situs ini atau pihak ketiga mana pun, dan bukan harga resmi. Pembaca sebaiknya mengacu pada spesifikasi hardware sesungguhnya dan penawaran harga dari vendor saat menilai situasi mereka sendiri.
Mulai Sekarang
Baik kamu tetap memakai API atau mulai mempertimbangkan self-hosting, hal pertama yang sebenarnya perlu dicari tahu bukan "berapa banyak GPU yang harus dibeli," melainkan "berapa banyak yang sebenarnya kita pakai sekarang." Daripada menebak-nebak solusi untuk masalah yang belum benar-benar didiagnosis, lebih baik buka dulu penggunaan token sesungguhnya dari setiap model dan setiap tugas. Coba AI Token King gratis hari ini, dan biarkan kami membantu timmu memetakan penggunaan sesungguhnya, supaya keputusan diambil berdasarkan data — bukan berdasarkan kalimat seperti "perusahaan sebelah sudah melakukannya."
