Kamu menempelkan prompt yang sangat panjang di terminal. Isinya meminta model membuat situs front-end lengkap: TypeScript, data tiruan, mode gelap, aksesibilitas, unit test, dan model harus menjalankan perintah sendiri untuk memeriksa hasilnya. Kamu menekan Enter, penggunaan GPU di keempat mesin langsung melonjak ke 100%, bodi mesin perlahan menghangat, tetapi tidak ada satu kata pun yang muncul di layar. Cukup lama.

Ini bukan kerusakan. Inilah wajah paling jujur dari menjalankan model raksasa secara lokal: mesinnya sibuk, dan kamu hanya bisa menunggu.

Adegan ini berasal dari video uji coba YouTuber Alex Ziskind. Ia memberikan satu tugas pengembangan front-end yang sama kepada dua pihak sekaligus: klaster empat Mac Studio rakitannya sendiri yang menjalankan Kimi K3 open source, dan Supercomputer dari platform cloud Abacus AI. Hasilnya, kedua sisi sama-sama selesai. Bedanya ada pada waktu, uang, dan apa yang bersedia kamu titipkan ke pihak lain.

Ronde kedua dari duel lokal vs cloud

Latar belakangnya begini. Pada ronde sebelumnya, sisi lokal hanya memakai satu Mac Studio 512 GB, lalu ada komentar yang menantang bahwa itu bukan setup lokal yang sebenarnya. Maka kali ini ia mendorong spesifikasinya sampai batas.

Modelnya Kimi K3. Di video disebut berukuran 2,8 triliun parameter, dengan berkas asli sekitar 1,56 TB, sehingga tidak muat di satu Mac Studio. Perangkat kerasnya empat Mac Studio, masing-masing dengan memori terpadu 512 GB, total 2 TB, saling terhubung lewat Thunderbolt 5 secara berpasangan (enam kabel), lalu model dipecah ke keempat mesin dengan RDMA dan MLX distributed.

Yang benar-benar dijalankan adalah versi terkuantisasi yang lebih kecil, dengan bobot sekitar 817 GB, tetapi tanpa pruning, sehingga seluruh 896 expert tetap aktif. Jumlah mesinnya empat karena tensor parallelism membagi dimensi model secara merata, jadi jumlahnya hanya bisa 1, 2, 4, atau 8 mesin. Tiga mesin tidak bisa dipakai.

Ada satu detail yang mudah terlewat. Angka 817 GB tampak cukup untuk dua mesin, tetapi menurut penjelasan penulis video, ia memberi konteks yang sangat panjang sehingga ruang yang dibutuhkan jauh melebihi bobot model itu sendiri, dan dua mesin tidak cukup. Layar video menunjukkan keempat mesin saat berjalan memakai sekitar 208, hampir 200, 177, dan 215 GB.

Sisi cloud: bukan jendela chat, melainkan komputer yang tidak pernah dimatikan

Daya tarik lawannya, Abacus Supercomputer, adalah bahwa ia sebenarnya mesin virtual cloud yang selalu menyala, bukan sekadar kotak percakapan. Menurut pengenalan di video, ia mengintegrasikan tugas terjadwal, database, penyimpanan, GitHub, dan SSH, serta memungkinkan pergantian lebih dari 100 model dari satu pintu, mulai dari GPT, Claude, Grok sampai DeepSeek, GLM, dan Kimi K3, dengan RouteLLM yang memilih model sesuai situasi.

Sisi ini memakai Opus 5 (high) dan GPT-5.6 Sol. Perlu dicatat bahwa kedua sisi tidak memakai model yang sama, jadi yang diadu adalah solusi lokal secara utuh melawan solusi cloud secara utuh, bukan adu model murni.

Satu hal lagi yang harus diungkapkan: video ini menyebut dirinya konten bersponsor Abacus AI. Penulisnya sendiri mengingatkan di tengah video agar tidak terlalu bersemangat karena ini video bersponsor. Membaca perbandingan semacam ini akan lebih tepat bila kamu menganggapnya sebagai satu kasus yang punya sudut pandang, tetapi proses demonstrasinya bisa diperiksa.

Prompt yang sama, dua jenis penantian

Kedua sisi menerima prompt yang sama: membuat front-end untuk sebuah bursa komputasi silikon, dengan TypeScript dan data tiruan, lengkap dengan mode gelap, interaksi mikro, aksesibilitas, dan unit test, serta meminta model memverifikasi hasilnya sendiri. Penulis juga mengatakan ini pertama kalinya ia benar-benar menjalankan prompt tersebut.

Menurut demonstrasi penulis, sisi cloud bergerak cepat: HTML segera dihasilkan, proyek Next.js dibangun di dalam mesin virtual, lalu dijalankan di mesin virtual itu dan hasilnya bisa langsung dilihat. Reaksi penulis, hasilnya cukup bagus, dengan dasbor, filter langsung beranimasi, penelusuran inventaris, panel perbandingan, dan fitur reservasi, semuanya dari satu prompt (tanpa backend).

Sisi lokal berirama lain. Angka yang diukur penulis adalah sekitar 238 token per detik untuk pemrosesan prompt (prefill) dan sekitar 14,7 token per detik untuk generasi. Ia menjelaskan bahwa kekuatan Mac ada pada bandwidth memori yang tinggi dan generasi yang lancar setelah prompt diproses, tetapi tahap prefill untuk prompt panjang tidak sekuat GPU Nvidia. Gabungan kedua angka itu berarti makin panjang prompt, makin besar kesabaran yang kamu perlukan.

Titik balik: bukan tidak bisa, tetapi kamu harus meninggalkan kursi dulu

Awalnya penulis mengira sisi lokal rusak karena sudah lama menunggu tanpa ada keluaran. Ia lalu mencoba prompt pendek "hi" dan model menjawab. Ia kemudian meminta halaman web sederhana dengan kotak teks dan tombol, dan itu selesai dalam sekitar 3 menit dengan 147 baris kode; ia menggambarkan hasilnya cukup bagus.

Maka ia menghentikan rekaman, memasukkan ulang prompt lengkap, lalu pergi minum kopi. Sekitar 4 jam kemudian, saat kembali, sebuah aplikasi lengkap sudah ada: filter, perbandingan, grafik, penjadwalan, dan mode terang dan gelap semuanya berfungsi.

Jadi jawaban atas pertanyaan apakah lokal bisa mengerjakannya adalah ya. Namun kesimpulan penulis: aplikasi yang sama butuh sekitar 15 menit di cloud dan sekitar 4 jam di lokal. Selisih itulah label harga yang sebenarnya.

Cara menghitung: beli putus vs langganan bulanan

Perbandingan biaya di video layak dibedah. Soal perangkat keras, setiap Mac Studio berharga sekitar 16.000 dolar AS, dan penulis menduga sekarang sudah tidak dijual lagi (kalimat aslinya "I think"), sehingga harganya hanya akan makin tinggi. Setelah dibeli, perangkat itu milikmu dan bisa dipakai sesukamu.

Soal cloud, Abacus dimulai dari 10 dolar AS per bulan, dengan bulan pertama 7 dolar AS. Menurut penulis, bila dihitung hanya dari iuran bulanan, butuh waktu sangat lama sebelum totalnya menyamai biaya perangkat keras. Untuk routing, paket cloud memungkinkan router kustom yang mengalihkan pekerjaan ringan ke model murah dan menyimpan model mahal untuk tugas sulit.

Semua angka ini diucapkan di video dan tidak kami verifikasi secara independen, jadi untuk harga yang sebenarnya, rujuklah pengumuman resmi. Yang lebih penting adalah apa yang tidak ikut dihitung: biaya menunggu 4 jam, listrik, dan waktu perawatan. Yang dihemat adalah iuran bulanan, yang ditukar adalah waktu dan beban pengelolaan, dan hitungan ini tidak punya jawaban baku.

Bagi tim yang rutin memakai API, ini pilihan yang sejenis dengan yang kamu hadapi saat menghitung tagihan Token: model mahal menangani soal sulit, model murah menangani pekerjaan kecil.

Kapan sebaiknya tetap di lokal?

Kesimpulan penulis sendiri cukup menahan diri, bahkan ia menyebutnya bukan kata-kata yang ingin didengar sponsor: kalau kamu ingin kualitas tinggi, kecepatan, dan hosting yang beres sekali jalan, cloud menang; tetapi kalau data tidak boleh keluar dari kantor, atau kamu memang suka menjalankannya sendiri, klaster tetap punya alasan untuk ada. Menurutnya, dua pasar itu sama-sama ada, dan ini bukan pilihan salah satu.

Cara kerjanya sendiri adalah memakai agent untuk membuat berbagai alat kecil sekali pakai. Kebutuhan seperti itu menuntut kecepatan dan bisa langsung jalan, dan bagi dia cloud pas untuk itu. Ini juga mengingatkan pembaca untuk lebih dulu memahami seperti apa tugasmu, baru memutuskan sumber daya ditaruh di mana.

Pertanyaan umum (FAQ)

P1: Apakah AI lokal dan AI cloud di video dibandingkan dengan model yang sama? Tidak. Sisi lokal menjalankan Kimi K3, sedangkan sisi cloud memakai Opus 5 (high) dan GPT-5.6 Sol. Yang dibandingkan adalah kecepatan penyelesaian dan hasil dari solusi secara keseluruhan, bukan peringkat kemampuan satu model.

P2: Apakah menjalankan model besar secara lokal pasti lebih lambat? Tergantung perangkat keras dan tugasnya. Kondisi di video ini adalah model super besar dan prompt super panjang, dengan kecepatan prefill terukur sekitar 238 token per detik, sehingga terasa sangat lambat. Penulis juga menjelaskan bahwa Mac relatif lancar pada tahap generasi setelah prompt diproses. Dengan model kecil atau prompt pendek, kesimpulannya bisa sama sekali berbeda.

P3: Bisakah 4 jam vs 15 menit dianggap selisih kecepatan yang berlaku umum? Tidak disarankan. Ini satu kali uji, penulis sendiri mengatakan itu pertama kalinya ia menjalankan prompt tersebut, dan 4 jam adalah perkiraan waktu saat ia kembali setelah meninggalkan kursi. Anggap saja sebagai pengamatan pada situasi ini, bukan hasil benchmark.

P4: Mengapa empat Mac Studio, bukan tiga? Penulis menjelaskan bahwa tensor parallelism menyebar dimensi model ke setiap node, dan dimensi itu harus bisa dibagi rata, sehingga jumlah mesin hanya bisa 1, 2, 4, atau 8.

Pernyataan sumber: Artikel ini adalah penulisan ulang dan rangkuman, bukan terjemahan kalimat demi kalimat. Isinya disusun ulang berdasarkan subtitle video YouTube berikut. Semua spesifikasi perangkat keras, kecepatan, durasi, dan harga adalah ucapan penulis video yang tidak kami uji ulang secara independen; subtitle dihasilkan otomatis sehingga sebagian ejaan nama model mungkin keliru. Video ini menyebut dirinya konten bersponsor Abacus AI, dan deskripsi kemampuan produk cloud merupakan klaim sponsor dan penulis. Judul video: I Gave Local AI and the Cloud the Exact Same Job. Kanal: Alex Ziskind. Tautan: https://www.youtube.com/watch?v=ujs0_cpAnaw. Tanggal rilis: 2026-08-31.

Bacaan lanjutan: Di situs kami telah terbit artikel terkait tentang uji coba Opus 4.8 vs Fable 5 yang membangun aplikasi yang sama dengan perintah yang sama dan selisih kemampuan serta biaya Token keduanya, tentang perbandingan GPT-6 Astra vs Fable 5.1 pada 15 tugas kerja nyata, tentang mengapa AI Token begitu mahal jika dibedah dari cara kerja autoregresif di balik Coding Agent, dan tentang lima tips yang terbukti efektif untuk menekan biaya Token pada AI Coding dengan contoh Claude Fable 5.

Sebelum menekan Enter berikutnya

Kembali ke layar di awal tadi. Sekarang kamu tahu bahwa empat mesin yang penuh beban tanpa keluaran sama sekali tidak berarti rusak, dan tidak berarti modelnya lebih bodoh. Itu hanya berarti kamu memilih menukar waktu dengan kendali.

Pertanyaan yang sebenarnya perlu diajukan sebelum menekan Enter adalah ini: pekerjaan ini harus diserahkan dalam hitungan menit, atau boleh dibiarkan berjalan sepanjang sore? Bolehkah data keluar dari lingkunganmu? Apakah langkah yang sulit dan langkah yang mudah layak ditangani oleh model yang sama?

Kalau kamu masih ragu apakah pekerjaan ini sebaiknya di lokal atau di cloud, pilih satu tugas nyata milikmu, jalankan sekali lewat satu key AI Token King yang sama, catat Token yang benar-benar terpakai, lalu hitung kembali biayanya. Coba AI Token King gratis di aitokenking.com.tw/home