Bạn dán vào terminal một câu lệnh rất dài, yêu cầu mô hình dựng một website front-end hoàn chỉnh: TypeScript, dữ liệu giả, chế độ tối, khả năng truy cập, unit test, và còn phải tự chạy lệnh để kiểm tra kết quả. Bạn nhấn Enter, mức sử dụng GPU của cả bốn máy cùng vọt lên 100%, thân máy dần nóng lên, nhưng mãi vẫn chưa có chữ nào xuất hiện trên màn hình.
Đây không phải lỗi. Đây là bộ mặt thật của việc chạy mô hình cực lớn ở máy mình: máy thì bận rộn, còn bạn chỉ có thể chờ.
Cảnh này đến từ một video thử nghiệm của YouTuber Alex Ziskind. Anh giao cùng một nhiệm vụ phát triển front-end cho cụm bốn Mac Studio do chính anh dựng (chạy Kimi K3 mã nguồn mở) và cho Supercomputer của nền tảng đám mây Abacus AI. Kết quả là cả hai bên đều làm xong. Khác biệt nằm ở thời gian, tiền bạc, và việc bạn chịu giao cho người khác giữ cái gì.
Đây là hiệp hai của cuộc đối đầu local vs cloud
Trước hết là bối cảnh. Tác giả từng làm một vòng so sánh trước đó, khi phía local chỉ có một chiếc Mac Studio 512 GB, và bị người xem bình luận rằng đó chưa phải cấu hình local đúng nghĩa. Vì vậy lần này anh đẩy cấu hình lên mức tối đa.
Về mô hình, đó là Kimi K3, được video nêu là có 2,8 nghìn tỷ tham số, tệp gốc khoảng 1,56 TB, một chiếc Mac Studio không thể chứa nổi. Về phần cứng, anh dùng bốn Mac Studio, mỗi máy 512 GB bộ nhớ hợp nhất, tổng cộng 2 TB, nối với nhau từng đôi bằng Thunderbolt 5 (sáu sợi cáp), rồi dùng RDMA và MLX distributed để chia mô hình ra bốn máy. Thứ thực sự được chạy là phiên bản lượng tử hóa đã thu nhỏ, trọng số khoảng 817 GB, nhưng không cắt tỉa, cả 896 expert đều được bật. Còn vì sao là bốn máy: tensor parallelism phải chia đều các chiều của mô hình, nên số máy chỉ có thể là 1, 2, 4 hoặc 8, ba máy thì không chạy được.
Có một chi tiết dễ bị bỏ qua. 817 GB nghe như hai máy là đủ chỗ, nhưng tác giả chỉ ra rằng anh cấp ngữ cảnh rất dài, cần nhiều dung lượng hơn hẳn riêng phần trọng số, nên hai máy là không đủ. Hình ảnh trong video cho thấy lúc đang chạy, bốn máy dùng lần lượt khoảng 208, gần 200, 177 và 215 GB.
Phía đám mây: không phải khung chat, mà là một chiếc máy tính không bao giờ tắt
Điểm bán hàng của đối thủ, Abacus Supercomputer, là nó thực chất là một máy ảo đám mây chạy liên tục chứ không chỉ là một ô hội thoại. Theo phần giới thiệu trong video, nó tích hợp tác vụ theo lịch, cơ sở dữ liệu, lưu trữ, GitHub và SSH, và cho phép chuyển qua lại hơn 100 mô hình ngay tại một cổng vào, từ GPT, Claude, Grok đến DeepSeek, GLM, Kimi K3, với RouteLLM chọn mô hình theo từng tình huống.
Phía này dùng Opus 5 (high) và GPT-5.6 Sol. Cần lưu ý rằng hai bên không dùng cùng một mô hình, nên cuộc so sánh này đặt toàn bộ giải pháp local cạnh toàn bộ giải pháp đám mây, chứ không phải là một cuộc đọ sức thuần túy giữa các mô hình.
Ngoài ra cần nói rõ: video tự nhận là nội dung được Abacus AI tài trợ. Chính tác giả cũng tự nhắc trong video rằng không thể quá hào hứng vì đây là video có tài trợ. Khi đọc những so sánh kiểu này, hãy coi nó là một trường hợp có lập trường rõ ràng nhưng quá trình trình diễn có thể kiểm chứng, như vậy sẽ chính xác hơn.
Cùng một câu lệnh, hai kiểu chờ
Hai bên nhận cùng một câu lệnh: dựng front-end cho một sàn giao dịch năng lực tính toán silicon, dùng TypeScript và dữ liệu giả, có chế độ tối, vi tương tác, khả năng truy cập và unit test, đồng thời yêu cầu mô hình tự kiểm chứng. Tác giả cho biết đây là lần đầu anh thực sự chạy câu lệnh này.
Theo phần trình diễn của tác giả, phía đám mây tiến triển rất nhanh: chẳng bao lâu đã ra HTML, dựng một dự án Next.js trong máy ảo, rồi khởi chạy ngay trên máy ảo là thấy sản phẩm. Phản ứng của tác giả là thành phẩm khá đẹp, có bảng điều khiển, bộ lọc thời gian thực kèm hiệu ứng chuyển động, trình duyệt kho hàng, bảng so sánh và chức năng đặt trước, tất cả hoàn thành chỉ với một câu lệnh (không nối backend).
Phía local thì nhịp độ khác hẳn. Các số liệu tác giả đo được là xử lý câu lệnh (prefill) khoảng 238 tokens mỗi giây và sinh văn bản khoảng 14,7 tokens mỗi giây. Anh giải thích rằng thế mạnh của Mac là băng thông bộ nhớ cao, nên khi đã xử lý xong thì việc sinh khá mượt, nhưng ở giai đoạn prefill với câu lệnh dài thì không bằng GPU Nvidia. Hai con số này cộng lại có nghĩa là câu lệnh càng dài, bạn càng cần kiên nhẫn.
Bước ngoặt: không phải không làm được, mà là bạn phải rời chỗ ngồi trước
Lúc đầu tác giả tưởng phía local bị hỏng, vì chờ rất lâu mà không thấy đầu ra. Anh chuyển sang thử câu ngắn "hi" và mô hình có phản hồi. Sau đó anh yêu cầu làm một trang web đơn giản có ô nhập chữ và nút bấm, mất khoảng 3 phút, 147 dòng là xong, và anh nhận xét thành phẩm khá đẹp.
Thế là anh dừng quay, ném lại toàn bộ câu lệnh đầy đủ vào, rồi đi uống cà phê. Khoảng 4 giờ sau quay lại, một ứng dụng hoàn chỉnh đã xuất hiện, có lọc, so sánh, biểu đồ, lập lịch và chế độ sáng tối.
Vậy câu trả lời cho câu hỏi liệu local có làm được không là có. Nhưng kết luận của tác giả là: cùng một ứng dụng, đám mây mất khoảng 15 phút, local mất khoảng 4 giờ. Khoảng chênh đó mới là nhãn giá thực sự. Cần nhớ đây là một lần chạy duy nhất, 4 giờ là con số ước chừng khi tác giả rời chỗ rồi quay lại xem, không phải thời gian bấm giờ chính xác.
Tính sổ thế nào: mua đứt hay trả theo tháng
Phần đối chiếu chi phí trong video đáng được tách ra xem từng khoản. Về phần cứng, mỗi chiếc Mac Studio khoảng 16.000 đô la, tác giả đoán hiện đã ngừng bán (nguyên văn là anh nghĩ vậy), nên giá chỉ có thể cao hơn. Mua đứt rồi thì thuộc về bạn, muốn dùng thế nào cũng được. Về đám mây, Abacus khởi điểm 10 đô la mỗi tháng, tháng đầu 7 đô la. Cách nói của tác giả là chỉ tính theo phí tháng thì phải rất rất lâu mới đuổi kịp chi phí phần cứng. Về định tuyến, gói đám mây cho phép dùng bộ định tuyến tùy chỉnh, đẩy việc đơn giản sang mô hình rẻ, giữ mô hình đắt cho nhiệm vụ khó.
Những con số này đều do tác giả nói miệng trong video, chúng tôi chưa độc lập kiểm chứng, giá thực tế vui lòng lấy theo thông báo chính thức. Quan trọng hơn là những thứ video không tính vào: chi phí chờ 4 giờ, tiền điện và thời gian vận hành. Cái bạn tiết kiệm được là phí đăng ký hằng tháng, cái bạn đổi lấy là thời gian và gánh nặng quản lý, và khoản này không có đáp án chuẩn.
Với những nhóm thường xuyên dùng API, đây cũng là kiểu lựa chọn giống như khi bạn tính hóa đơn Token hằng ngày: mô hình đắt lo việc khó, mô hình rẻ lo việc vặt.
Khi nào nên giữ AI ở máy mình?
Kết luận của chính tác giả khá kiềm chế, thậm chí anh tự nhận đó không phải điều nhà tài trợ muốn nghe: nếu bạn muốn chất lượng cao, tốc độ nhanh và được lưu trữ một lần là xong, giải pháp đám mây thắng. Nhưng nếu dữ liệu không thể rời khỏi văn phòng, hoặc đơn giản là bạn thích tự chạy, cụm máy vẫn có lý do tồn tại. Anh cho rằng cả hai thị trường đều tồn tại, không phải chọn một trong hai.
Cách làm việc của chính anh là dùng agent để tạo đủ loại công cụ nhỏ dùng một lần, loại nhu cầu cần nhanh và chạy được ngay, và với anh thì đám mây vừa khớp. Điều này cũng nhắc người đọc rằng hãy xác định công việc của mình trông như thế nào trước, rồi mới quyết định đặt tài nguyên ở đâu.
Câu hỏi thường gặp
Câu 1: Trong video, AI local và AI đám mây có được so sánh bằng cùng một mô hình không? Không. Phía local chạy Kimi K3, phía đám mây dùng Opus 5 (high) và GPT-5.6 Sol. Thứ được so sánh là tốc độ hoàn thành và thành phẩm của cả giải pháp, không phải xếp hạng năng lực của một mô hình riêng lẻ.
Câu 2: Chạy mô hình lớn ở local có chắc chắn chậm hơn không? Tùy phần cứng và nhiệm vụ. Điều kiện của video này là mô hình cực lớn và câu lệnh cực dài, tốc độ prefill đo được khoảng 238 tokens mỗi giây nên đặc biệt chậm. Tác giả cũng giải thích rằng Mac tương đối mượt ở giai đoạn sinh văn bản sau khi xử lý xong câu lệnh. Nếu đổi sang mô hình nhỏ hoặc câu lệnh ngắn, kết luận có thể hoàn toàn khác.
Câu 3: 4 giờ so với 15 phút có thể coi là mức chênh tốc độ phổ quát không? Không nên. Đây là một lần thử duy nhất, tác giả cũng nói đây là lần đầu chạy câu lệnh này, và 4 giờ là thời gian ước chừng khi anh rời chỗ rồi quay lại xem. Hãy coi đó là một quan sát trong tình huống này, đừng coi là bài đo hiệu năng chuẩn.
Câu 4: Vì sao là bốn Mac Studio mà không phải ba? Tác giả giải thích rằng tensor parallelism chia các chiều của mô hình ra các nút, các chiều đó phải chia đều được, nên số máy chỉ có thể là 1, 2, 4 hoặc 8.
Tuyên bố nguồn dữ liệu
Bài viết này là bản biên soạn lại và tổng hợp, không phải dịch từng câu. Nội dung được sắp xếp lại dựa trên phụ đề của video YouTube dưới đây. Mọi thông số phần cứng, tốc độ, thời gian và giá đều là lời kể của tác giả video, chúng tôi chưa tự đo lại và chưa độc lập kiểm chứng. Phụ đề do hệ thống tự tạo nên một số tên mô hình có thể bị ghi sai chính tả. Video tự nhận là nội dung được Abacus AI tài trợ, phần mô tả khả năng sản phẩm đám mây thuộc về lời tự giới thiệu của bên tài trợ và tác giả. Tiêu đề video: I Gave Local AI and the Cloud the Exact Same Job. Kênh: Alex Ziskind. Liên kết: https://www.youtube.com/watch?v=ujs0_cpAnaw. Ngày đăng: 2026-08-31.
Đọc thêm
Trên trang của chúng tôi còn có bốn bài liên quan: một bài thử nghiệm Opus 4.8 và Fable 5 cùng dựng một ứng dụng với cùng bộ lệnh để xem năng lực và chi phí Token chênh nhau bao nhiêu, một bài so sánh GPT-6 Astra và Fable 5.1 qua 15 tác vụ công việc thực tế, một bài giải thích vì sao AI Token đắt khi tách cơ chế tự hồi quy ra xem Coding Agent đốt tiền ra sao, và một bài về 5 mẹo đã thử nghiệm để giảm chi phí Token khi lập trình với AI.
Lần tới trước khi bạn nhấn Enter
Quay lại màn hình lúc mở đầu. Lần này bạn đã biết rằng bốn máy cùng chạy hết công suất mà không có đầu ra không có nghĩa là hỏng, cũng không có nghĩa là nó kém thông minh, mà chỉ có nghĩa là bạn đã chọn đổi thời gian lấy quyền kiểm soát.
Điều đáng hỏi trước khi nhấn Enter là: công việc này cần giao trong vài phút, hay có thể cứ để chạy cả buổi chiều? Dữ liệu có được phép rời khỏi nơi của bạn không? Bước khó và bước dễ có đáng được xử lý bằng cùng một mô hình không?
Nếu bạn còn phân vân nên đặt công việc này ở local hay đám mây, hãy chọn một nhiệm vụ thật của mình, chạy một lần qua cùng một key của AI Token King, ghi lại lượng Token thực tế đã dùng, rồi quay lại tính sổ. Dùng thử miễn phí AI Token King tại aitokenking.com.tw/home.
