Hari Sam Altman Bilang Model Baru “Hemat 54% Token”, A-Jie Hampir Ganti Model Lagi

A-Jie (tokoh ilustratif, seorang tech lead di tim freelance yang melayani klien luar negeri — bukan pelanggan nyata) suka membaca berita teknologi saat jeda kopi sore. Hari itu ia melihat cuplikan wawancara CNBC Television dengan judul: model terbaru OpenAI menggunakan 54% lebih sedikit token pada “agentic coding” (jenis alur kerja di mana AI merencanakan langkahnya sendiri, menulis kode, dan menjalankan pengujian) dibandingkan model lain. Di layar, Sam Altman mengatakannya kepada pembawa acara seolah itu kemajuan yang paling wajar di dunia.

Jari A-Jie berhenti di layar. Ia tidak langsung meneruskannya ke kanal tim. Ia teringat tiga bulan lalu — vendor model lain pernah mengklaim “peningkatan efisiensi besar”, dan ia langsung mengganti seluruh alur kerja agent tanpa berpikir dua kali. Tagihan akhir bulan tidak turun — malah naik. Pelajaran yang ia dapat sederhana: “penghematan” yang disebutkan orang lain belum tentu penghematan yang benar-benar akan kamu rasakan.

Apa Sebenarnya Maksud Pernyataan CNBC Itu

Menurut cuplikan wawancara CNBC Television ini, Sam Altman mengatakan kepada pembawa acara bahwa model terbaru OpenAI menggunakan 54% lebih sedikit token dibanding model lain pada tugas agentic coding. Dengan kata lain, “efisiensi token” naik 54% — tetapi istilah itu sendiri bisa berarti banyak hal berbeda.

Ada satu detail yang awalnya tidak disadari A-Jie: “dibandingkan dengan apa” ternyata tidak konsisten antara berbagai media yang melaporkan wawancara yang sama. URL halaman video CNBC sendiri bertuliskan “than Anthropic's latest” (lebih efisien dibanding model terbaru Anthropic), sementara beberapa media teknologi melaporkan bahwa angka ini berasal dari benchmark bernama ExploitBench — model baru OpenAI setara dengan model pesaing namun hanya menggunakan sekitar sepertiga token output-nya. Dengan kata lain, ini kemungkinan besar adalah perbandingan langsung dengan pesaing, bukan lompatan generasi dari model OpenAI sebelumnya sendiri. Ini adalah kutipan langsung dari wawancara, dan cuplikan CNBC sendiri tidak menjelaskan lebih lanjut bagaimana angka ini dihitung — apakah itu penurunan total token untuk menyelesaikan tugas yang sama, lebih sedikit putaran “coba lagi–perbaiki”, atau perbandingan dengan model pesaing tertentu pada benchmark tertentu. Cuplikan itu tidak menjelaskannya.

A-Jie tahu betul agentic coding berbeda dari obrolan biasa: model harus merencanakan langkahnya sendiri, menulis kode, menjalankan pengujian, dan memperbaiki saat ada kesalahan — satu tugas bisa berputar belasan kali sebelum selesai. Inilah sebabnya “menghemat token” begitu menggoda dalam konteks agentic coding — karena setiap putaran menghabiskan biaya, jadi secara teori, semakin sedikit putaran, semakin terasa penurunan tagihannya.

Satu Persentase, Banyak Kemungkinan Makna

Sebelum meneruskan berita itu ke kanal internal, A-Jie melakukan satu hal dulu: ia menguraikan “54% lebih hemat” menjadi beberapa kemungkinan bentuk sebenarnya.

Kemungkinan pertama, model itu sendiri “lebih sedikit bicara” — menghasilkan lebih sedikit token untuk menyelesaikan tugas yang sama. Kemungkinan kedua, kemampuan perencanaannya membaik, mengambil lebih sedikit jalan yang salah — lebih sedikit putaran “coba, gagal, ulangi” yang berarti total token lebih sedikit. Kemungkinan ketiga, benchmark resmi menggunakan sekumpulan tugas tertentu, dan hasilnya bisa sangat berbeda pada proyek tim A-Jie yang berantakan, lintas banyak file, dan nyata. Kemungkinan keempat baru terpikir oleh A-Jie setelah menggali lebih jauh: angka 54% ini mungkin sama sekali bukan perbandingan dengan generasi sebelumnya milik OpenAI sendiri — melainkan perbandingan dengan model perusahaan lain. Jika ini angka dari “mengalahkan pesaing” dan bukan “lompatan generasi milik sendiri”, jawaban atas pertanyaan “apakah tagihan saya benar-benar akan turun kalau ganti model” bisa sangat berbeda — dan mungkin sama sekali tidak berhubungan dengan model yang saat ini digunakan tim A-Jie.

Jenis-jenis “penghematan” ini akan memengaruhi tagihan nyata tim A-Jie dengan sangat berbeda, dan cuplikan CNBC itu sendiri tidak pernah menjawab yang mana. Inilah tepatnya yang ingin ditekankan artikel ini: klaim apa pun bahwa “Model X menghemat N% dibanding Model Y” — tanpa menjelaskan dasar pengukurannya (kumpulan tugas yang sama, metode penagihan yang sama, benchmark resmi atau pengujian independen pihak ketiga) — sebaiknya hanya dianggap sebagai “arah yang layak diperhatikan”, bukan “angka yang pasti akan kamu hemat”.

Titik Balik: Ia Sadar Tidak Punya “Garis Dasar” untuk Dibandingkan

A-Jie awalnya ingin langsung bertanya kepada engineer: “Kalau kita ganti ke model baru ini, berapa banyak yang bisa kita hemat?” Tapi sebelum selesai bertanya, ia menyadari sesuatu yang lebih mendasar — timnya ternyata belum pernah benar-benar mengukur berapa banyak token yang dihabiskan alur kerja agentic coding mereka saat ini untuk menyelesaikan satu tugas khas. Pelajaran dari kejadian sebelumnya bukanlah “model baru itu kurang bagus”, melainkan mereka tidak punya angka nyata “sebelum ganti” untuk dibandingkan. Mereka hanya bisa menebak apakah ada penghematan, dan baru menyadarinya setelah tagihan naik — bahwa mereka sama sekali tidak menghemat apa-apa.

Saat itulah ia sadar pertanyaan yang sebenarnya bukan “apakah 54% dari Sam Altman itu akurat”, melainkan: jika kamu bahkan tidak punya garis dasar penggunaanmu sendiri, persentase resmi apa pun sebenarnya hanyalah angka tanpa titik acuan.

Kali Ini Ia Tidak Terburu-buru Ganti — Ia Melakukan Hal Lain Dulu

Kali ini, A-Jie tidak langsung memindahkan alur kerja agent-nya. Ia lebih dulu meminta timnya mencatat penggunaan token dari tugas-tugas khas yang mereka jalankan dalam dua minggu terakhir — jenis tugas yang pasti melibatkan perencanaan, penulisan, dan pengujian berulang ala agentic coding — memaparkan model, jenis tugas, jumlah putaran hingga selesai, dan total token untuk masing-masing. Setelah garis dasar itu kokoh, tidak peduli vendor mana yang mengklaim “lebih hemat X%” berikutnya, mereka punya angka nyata untuk dibandingkan, bukan sekadar mengambil keputusan berdasarkan satu judul berita.

Bagi tim freelance atau developer kecil, ini sebenarnya langkah pertama yang seharusnya dilakukan sebelum mempercayai klaim “peningkatan efisiensi” apa pun: jangan percaya persentasenya dulu, lihat dulu penggunaanmu sendiri saat ini. Baru setelah itu kamu punya dasar untuk menilai apakah “penghematan” yang disebut orang lain benar-benar penghematan bagimu.

FAQ

Apakah klaim Sam Altman soal “hemat 54% token” adalah angka resmi yang dijamin? Dibandingkan dengan apa?

Bukan angka yang dijamin resmi. Ini adalah pernyataan lisan Sam Altman dalam wawancara CNBC Television — bukan dokumen harga resmi OpenAI atau laporan benchmark formal. Bahkan “dibandingkan dengan apa” pun tidak sepenuhnya jelas: berbagai media melaporkan wawancara yang sama dengan penekanan berbeda — sebagian menekankan perbandingan dengan model lama OpenAI sendiri, sementara URL halaman video CNBC sendiri justru menuliskan perbandingan dengan model terbaru Anthropic (“than Anthropic's latest”), dan laporan lain menyebut angka itu berasal dari benchmark ExploitBench, membandingkan penggunaan token dengan model pesaing saat performa setara. Artikel ini secara konsisten menandai angka tersebut sebagai “dilaporkan oleh CNBC”, dan dasar pengukurannya yang akurat masih menunggu verifikasi fakta terhadap informasi publik resmi OpenAI. Pembaca sebaiknya tidak langsung menganggapnya sebagai persentase biaya yang akan mereka hemat sendiri.

Apa itu “agentic coding”, dan mengapa ia terutama menghabiskan token dengan cepat?

Istilah ini merujuk pada pola penggunaan di mana AI merencanakan langkahnya sendiri, menulis kode, menjalankan pengujian, lalu memperbaiki dan menjalankan ulang berdasarkan hasil — berbeda dari tanya jawab biasa, satu tugas sering membutuhkan banyak putaran berulang, dan setiap putaran mengonsumsi token, sehingga penggunaan kumulatifnya cenderung jauh lebih tinggi dari perkiraan.

Ketika perusahaan melihat berita tentang model yang “lebih hemat token”, bagaimana seharusnya menilai apakah perlu ganti model?

Mulailah dengan memastikan dasar pengukuran klaim tersebut (benchmark resmi, pengujian independen, atau kutipan wawancara seperti ini), lalu lakukan uji skala kecil terhadap garis dasar penggunaan nyata timmu sendiri — bukan langsung mengganti semuanya berdasarkan satu judul berita. Ini menghindari terulangnya kesenjangan antara “klaim hemat” dan “tagihan yang sebenarnya tidak turun”.

Tim kami saat ini belum mencatat garis dasar penggunaan token, harus mulai dari mana?

Mulailah dari beberapa jenis tugas yang paling sering dijalankan. Catat model yang digunakan, jenis tugas, jumlah putaran hingga selesai, dan total token. Setelah mengumpulkan data selama dua hingga tiga minggu, kamu akan punya angka nyata untuk dibandingkan dengan perbandingan model atau klaim vendor apa pun di masa depan — bukan sekadar menilai berdasarkan kesan.

Keterangan Sumber

Artikel ini diadaptasi dari video yang dipublikasikan kanal YouTube CNBC Television pada 9 Juli 2026, “OpenAI's newest AI model is 54% more token efficient on agentic coding, Sam Altman tells CNBC”, disusun ulang dan ditulis kembali, bukan diterjemahkan secara harfiah. Berdasarkan tinjauan fakta, wawancara yang sama juga diliput oleh laporan CNBC.com dan beberapa media teknologi (seperti TechStartups), dan deskripsi mereka tentang “54% ini dibandingkan dengan apa” tidak sepenuhnya konsisten; artikel ini menyajikan ketidakkonsistenan itu secara jujur di bagian isi dan FAQ, alih-alih memaksakan satu kesimpulan tunggal kepada pembaca. “A-Jie” dalam artikel ini adalah tokoh ilustratif untuk keperluan penjelasan, bukan kasus pelanggan nyata. Semua pernyataan dalam artikel ini mengenai “hemat 54% token” merupakan kutipan dari apa yang dikatakan Sam Altman dalam wawancara CNBC dan laporan media lainnya, bukan dokumen harga atau jaminan performa resmi OpenAI, dan tidak merupakan janji penghematan biaya apa pun. Pembaca sebaiknya mengevaluasi data pengukuran nyata mereka sendiri saat menilai potensi manfaatnya.

Ambil Tindakan

Jangan buru-buru percaya judul berita berikutnya yang mengklaim “lebih hemat X%”. Coba AI Token King secara gratis, dan kami akan membantumu memaparkan penggunaan token nyata dari GPT, Claude, Gemini, dan model lainnya pada tugas agentic coding secara berdampingan, sehingga kamu bisa membangun garis dasarmu sendiri terlebih dahulu — dan membandingkan klaim efisiensi apa pun di masa depan dengan angka nyata, bukan sekadar mengganti model berdasarkan perasaan.