Pada suatu malam di bulan September, sang host program The Code Report di kanal YouTube Fireship duduk menghadapi tagihan bulanannya dan mulai menghitung.

Cursor, 20 dolar sebulan. Claude Max, 100 dolar. GPT Pro, 100 dolar lagi. Gemini Ultra, tambah 100 dolar lagi. Totalnya pas 320 dolar โ€” itu pun belum termasuk langganan suara di 11 Labs, DeepSeek, serta sederet API key yang ia daftarkan dua tahun lalu dan lupa dimatikan. Dengan nada bercanda, ia menyebut "kecanduan AI"-nya ini begitu mahal sampai memaksanya berhenti minum alkohol dan meditasi Zen; ia bahkan menyindir bahwa penjualan alkohol di Amerika Serikat sedang berada di titik terendah dalam sejarah, dan "Big AI" yang harus disalahkan. Tentu saja ini hanya gurauan berlebihan, bukan data ekonomi sungguhan โ€” tapi perasaan "tumpukan langganan yang saking banyaknya sampai tidak sanggup dihitung lagi" mungkin terasa akrab bagi banyak developer yang setiap hari berpindah-pindah antar tool AI.

Yang benar-benar membuatnya berhenti sejenak bukan satu tagihan tertentu yang mahal, melainkan momen ketika keempat langganan itu dijajarkan sekaligus โ€” tidak ada orang yang sejak awal berniat menghabiskan 320 dolar, semuanya menumpuk sedikit demi sedikit sampai suatu hari tagihan itu terbuka dan angka itu muncul begitu saja. Dari titik itulah videonya dimulai: daripada terus menumpuk langganan, ia memutuskan memindahkan seluruh alur kerja AI-nya ke server miliknya sendiri, lalu menyusun ulang tumpukan AI yang "lebih murah sekaligus lebih produktif" memakai proyek-proyek gratis dan open source. Berikut lima tool yang benar-benar ia rangkai menjadi satu sistem, beserta masalah spesifik yang diselesaikan masing-masing.

Supaya Prompt Tidak Bocor Keluar, Mulai dari Ollama

Pertanyaan pertama dalam menyusun tumpukan AI apa pun adalah: model-nya mau ditaruh di mana? Jawaban default kebanyakan orang adalah mengirim kode rahasia mereka ke perusahaan bernilai triliunan dolar, lalu berharap data itu dijaga dengan aman. Ollama menawarkan jalan lain: memindahkan model itu sepenuhnya ke mesin sendiri.

Sang host menyebutnya "seperti Docker untuk large language model" โ€” sebuah command-line interface sederhana ditambah API yang memungkinkan siapa pun mengunduh dan menjalankan berbagai model open-weight, termasuk model-model buatan Tiongkok maupun model open source lainnya. Menjalankan model secara lokal punya keuntungan langsung: prompt tidak pernah bocor keluar, biaya inferensi nol, dan bahkan ketika kartu kredit ditolak sekalipun, model tetap bisa jalan seperti biasa.

Namun ada satu batas yang realistis: perangkat keras kebanyakan orang masih jauh dari cukup untuk menjalankan model kelas terdepan. Model kecil hampir bisa jalan di mesin mana pun, tetapi untuk menjalankan model sekelas frontier, dibutuhkan perangkat setingkat pusat data mini. Bagi developer yang masih ingin menghasilkan kode kelas atas, inilah masalah berikutnya yang harus dipecahkan.

Ketika Kuota Langganan Habis: Lapisan Routing yang Otomatis Pindah Jalur

Karena perangkat lokal tidak sanggup menjalankan model paling kuat, mau tidak mau tetap harus terhubung ke layanan online. Di sinilah sang host memperkenalkan solusi self-hosted yang ia sebut "Nine Router" (ejaan ini mengikuti transkrip asli video; nama produk resminya belum dapat dipastikan) โ€” sebuah lapisan perantara yang duduk di antara tool AI dan berbagai penyedia model, lalu menyatukan semuanya lewat satu endpoint lokal.

Masalah yang diselesaikannya sangat konkret: daripada harus bolak-balik mengganti sembilan API key berbeda, cukup satu pintu saja โ€” sistem ini menyamar sebagai proxy yang kompatibel dengan format OpenAI, dan semua tool cukup diarahkan ke localhost. Yang membuat sang host benar-benar terkesan adalah desain "fallback tiers"-nya: lapisan pertama memakai langganan yang memang sudah dibayar, misalnya Claude Max; lapisan kedua memakai model pay-as-you-go yang murah sebagai cadangan; lapisan ketiga berisi semua jalur gratis, seperti model-model Tiongkok atau kredit uji coba cloud. Begitu kuota lapisan pertama habis, sistem otomatis berpindah ke lapisan berikutnya tanpa perlu campur tangan manual. Selain itu, lapisan ini juga mencatat pemakaian dan mengompres output tool untuk mengurangi konsumsi token โ€” dengan kata lain, ia sekaligus mengerjakan dua hal: mencegah tagihan membengkak dan mencegah kuota cepat habis.

Tersangka Sebenarnya di Balik Tagihan: Token yang Terbuang Sia-sia

Jika konsumsi token harian masih tetap mengejutkan, masalah berikutnya yang disorot sang host adalah "kompresi konteks" โ€” ia memakai perumpamaan yang sangat membumi: hanya ingin menyuruh AI meletakkan satu div ke tengah halaman, tapi untuk melakukan itu, model harus lebih dulu membaca lima puluh ribu baris isi file package.json, menghabiskan sumber daya komputasi setara satu kolam renang ukuran Olimpiade, dan baru di akhir menyadari bahwa yang sebenarnya dibutuhkan hanyalah instalasi Tailwind CSS.

Tool bernama Headroom yang ia perkenalkan dibuat khusus untuk masalah ini: ia duduk di antara aplikasi dan penyedia model, lalu mengompres output tool, file log, dan berbagai isi yang tidak perlu lainnya sebelum konten itu benar-benar dikirim ke model dan berubah menjadi token input yang dikenakan biaya. Bagian yang cukup cerdas dari desainnya adalah sifatnya yang "reversible" โ€” konten yang sudah dikompres sebelum dikirim tetap disimpan sebagai cache di mesin lokal, sehingga jika suatu saat model benar-benar membutuhkannya kembali, konten itu masih bisa diambil, tidak hilang selamanya hanya karena sudah dikompres.

Setelah Semua Tool Terangkai, Harus Dijalankan di Mana?

Sampai di sini, sang host menghadapi pertanyaan yang sangat praktis: setelah semua tool ini digabungkan, di mana semuanya harus dijalankan? Dalam video, ia menyebut sponsor Hostinger yang menyediakan virtual private server dengan katalog aplikasi Docker bawaan, sehingga semua proyek open source yang dibahas sebelumnya bisa dipasang hanya dengan satu klik, dan semuanya bisa berjalan saling terhubung di mesin yang sama. Bagian ini merupakan segmen sponsor dalam video; evaluasi dan perbandingan harga sebaiknya dicek sendiri oleh pembaca, dan artikel ini tidak mengulang kode kupon maupun tautan promosinya.

Setelah Infrastruktur Siap, Saatnya Aplikasi yang Benar-Benar Dipakai: Dify

Semua yang dibahas sejauh ini masih berupa infrastruktur. Untuk benar-benar membangun "sesuatu yang bisa dipakai", sang host memilih Dify โ€” sebuah visual builder yang memungkinkan penyusunan alur kerja dengan menyeret node di kanvas, menggantikan cara lama yang mengandalkan prompt panjang untuk menuliskan seluruh logika. Ia memberi contoh dengan nada bercanda: sebuah aplikasi pencocokan kuda bernama "Horse Tinder" โ€” data profil setiap kuda dikirim ke Dify, alur visual mengambil kandidat yang cocok dari database, lalu large language model menuliskan penjelasan kecocokannya, dan seluruh alur kerja itu langsung diekspos sebagai API sehingga aplikasi front-end tinggal memanggilnya setiap kali pengguna melakukan swipe. Contoh ini jelas gaya humor khas sang host; intinya bukan soal aplikasi pencocokan kuda itu sendiri, melainkan fakta bahwa "satu alur kerja bisa langsung berubah menjadi satu API yang bisa dipanggil".

Langkah Terakhir: Mengganti Diri Sendiri Juga

Di penutup video, sang host berkata setengah bercanda bahwa "menulis kode sendiri" sudah mulai terasa ketinggalan zaman sejak kuartal kedua 2026 โ€” sebab kini ada OpenHands. Ini adalah agen coding otonom open source yang tercatat sebagai salah satu tool dengan performa terbaik di SWE-bench Verified, sebuah benchmark yang menguji kemampuan model memperbaiki isu-isu nyata di GitHub. Daripada memperbaiki bug sendiri, cukup buka satu GitHub issue dan biarkan OpenHands yang mengerjakannya.

Pada dasarnya, tool ini memberikan semacam pusat komando yang memungkinkan siapa pun menjalankan sekumpulan agen AI di server sendiri, yang selalu aktif dan bekerja di latar belakang. Karena seluruh lingkungan berjalan di virtual private server milik sendiri, model yang dipakai bisa berupa OpenAI atau Anthropic, atau langsung memakai model Ollama lokal yang sudah dipasang sebelumnya โ€” inilah titik balik sesungguhnya dari seluruh video ini: bermula dari keinginan "tidak mau menambah satu langganan lagi", berakhir menjadi "seluruh alur pengembangan sepenuhnya di tangan sendiri, dan model bisa diganti kapan saja".

Langganan atau Self-Host, Pertanyaannya Bukan "Mana yang Lebih Keren"

Setelah menelusuri kelima tool ini, terlihat jelas bahwa masalah yang sebenarnya diselesaikan sang host bukan sekadar "open source lebih murah" โ€” melainkan pertanyaan "sebenarnya uang dan prompt saya mengalir ke mana". Inilah hal yang baru disadari kebanyakan orang setelah menumpuk langganan demi langganan hingga suatu hari tiba-tiba menyadarinya. Jalur self-host memang membutuhkan waktu untuk mengurus server dan menghadapi keterbatasan perangkat keras โ€” bukan sesuatu yang gratis bagi semua orang โ€” tetapi imbalannya adalah kejelasan penuh atas setiap panggilan dan setiap uang yang dikeluarkan.

Apa pun jalur yang dipilih, logikanya tetap sama: harus lebih dulu melihat jelas pemakaian model sendiri sebelum bisa membuat keputusan. Inilah sebabnya belakangan ini yang semakin banyak dibicarakan bukan hanya "self-host open source" itu sendiri, tetapi juga pendekatan seperti AI Token King yang menyatukan pemakaian dan tagihan dari berbagai model ke dalam satu tampilan โ€” keduanya menyelesaikan masalah yang tidak sepenuhnya sama (yang satu menekan biaya per panggilan, yang lain lebih dulu memperjelas ke mana saja uang mengalir), tetapi keduanya berujung pada titik awal yang sama: harus punya catatan yang bisa dipahami dulu, baru bisa membahas jalur mana yang mau diambil.

Pertanyaan yang Sering Diajukan (FAQ)

Q1: Kalau tidak punya GPU lokal yang kuat, apakah tetap bisa memakai Ollama? Bisa. Dalam video disebutkan bahwa model-model kecil hampir bisa berjalan di mesin mana pun; hanya untuk menjalankan model besar sekelas frontier yang dibutuhkan perangkat setingkat pusat data mini. Kebanyakan orang bisa mulai dari model kecil terlebih dahulu, baru mempertimbangkan investasi perangkat keras sesuai kebutuhan.

Q2: Apakah membangun sendiri seluruh tumpukan AI benar-benar lebih murah dibanding berlangganan? Video ini menampilkan pengalaman dan pertimbangan pribadi sang host setelah membatalkan empat langganan dan beralih ke self-host, tanpa memberikan angka perbandingan biaya yang konkret. Untung-ruginya sangat bergantung pada pemakaian aktual, kemampuan mengurus server, dan investasi perangkat keras masing-masing orang โ€” sebaiknya dievaluasi sesuai kondisi sendiri, bukan langsung mengikuti kesimpulan orang lain.

Q3: Apa maksud "fallback tiers" pada Nine Router? Berdasarkan penjelasan dalam video, penyedia model dibagi menjadi tiga lapisan: lapisan pertama adalah langganan yang sudah dibayar (misalnya Claude Max), lapisan kedua adalah model pay-as-you-go yang murah, dan lapisan ketiga adalah berbagai jalur gratis. Ketika kuota lapisan sebelumnya habis, sistem otomatis berpindah ke lapisan berikutnya tanpa perlu campur tangan manual.

Q4: Apa bedanya tool visual workflow seperti Dify dengan menulis prompt langsung? Perbedaannya ada pada cara penyajian dan pemeliharaan: Dify memungkinkan penyusunan langkah-langkah seperti akses data, pemanggilan model, dan format output dengan cara menyeret node, lalu seluruh alur bisa langsung diekspos sebagai satu API โ€” bukan menumpuk semua logika ke dalam satu prompt panjang. Pendekatan ini lebih mudah dipelihara untuk skenario yang butuh pemanggilan berulang atau melayani permintaan dari luar.

Q5: Apakah agen pengembangan otonom seperti OpenHands bisa sepenuhnya menggantikan engineer manusia? Video menggambarkannya sebagai salah satu agen coding otonom dengan performa terbaik di benchmark SWE-bench Verified, mampu menangani GitHub issue secara otomatis dan bekerja terus-menerus di latar belakang โ€” tetapi tidak diklaim bisa sepenuhnya menggantikan peran penilaian dan pengawasan manusia. Untuk penerapan sesungguhnya, tetap disarankan mempertahankan tinjauan manual.

Pernyataan Sumber

Artikel ini ditulis ulang berdasarkan video dari kanal YouTube Fireship yang tayang pada 7 September 2026 berjudul "5 open source tools that replaced my $320/mo AI stack..." (jumlah tayangan tercatat 1.247.954 saat artikel ini disusun), tautan asli: https://www.youtube.com/watch?v=Y5rSSvXfL4g. Artikel ini disusun ulang berdasarkan transkrip bahasa Inggris asli, bukan terjemahan kalimat demi kalimat; nama tool, angka biaya, dan konteks yang disebutkan mengikuti isi transkrip asli tanpa menambahkan angka yang tidak disebutkan di sana. Istilah "Nine Router" dalam video merupakan ejaan hasil transkripsi suara otomatis (ASR); nama produk resmi dan ejaan pastinya perlu diverifikasi lebih lanjut sebelum dianggap final. Bagian mengenai penjualan alkohol di Amerika Serikat dan pengeluaran AI merupakan gurauan berlebihan dari sang host dalam video asli, bukan pernyataan data ekonomi dari situs ini.

Bacaan Lanjutan

Untuk pembahasan lebih lanjut, situs ini juga memiliki artikel tentang biaya self-hosting model AI kelas frontier, penjelasan tentang gateway routing model seperti OpenRouter, dampak prompt caching terhadap tagihan AI, serta kisah seputar tagihan AI yang mengejutkan sebagai cermin pola pemakaian.

Coba Sekarang

Baik memutuskan membangun sendiri kelima tool ini maupun sekadar ingin lebih dulu memahami ke mana saja tagihan AI bulanan mengalir, langkah pertamanya selalu sama: punya satu catatan yang bisa dipahami. Coba gratis AI Token King di https://aitokenking.com.tw/home, dan satukan pemakaian serta biaya yang selama ini tersebar di berbagai akun ke dalam satu tempat untuk direkonsiliasi.