(Tình huống dưới đây là một trường hợp minh họa, hư cấu. Nhân vật chính, "A-Ren", là một hình mẫu được dùng chỉ để giải thích — không phải khách hàng có thật.)

Mười một giờ đêm, A-Ren nhìn chằm chằm vào dòng chữ đỏ trên màn hình: “Đã đạt giới hạn sử dụng. Vui lòng thử lại sau 5 giờ.”

Anh phụ trách mảng kỹ thuật của một nhóm phát triển dự án nhỏ, và đang giữa chừng sửa một lỗi nghiêm trọng trước khi ra mắt sản phẩm. Anh đếm lại — phiên này mới chỉ chưa đến hai mươi tin nhắn, không có gì quá đáng. Vậy tại sao anh lại bị chặn? Anh chuyển sang trình duyệt và tìm kiếm: “vì sao giới hạn sử dụng của Claude hết nhanh vậy.”

Một Kỹ Sư Đốt 3,77 Tỷ Token Trong Một Ngày — Mà Không Gõ Nổi Một Chữ

Kết quả tìm kiếm đầu tiên đến từ Nate B. Jones, một nhà sáng tạo nội dung AI nổi tiếng với các video hướng dẫn thực tế, đều đặn. Trong một ngày làm việc trong môi trường Codex của riêng mình, công cụ theo dõi của anh ghi nhận 3,77 tỷ token đã lưu chuyển — trong đó 3,59 tỷ là “dữ liệu đầu vào tái sử dụng” (reused input), gần 96%. Anh tự nhận mình là người dùng nặng ký theo mọi tiêu chuẩn — hôm đó anh mở tới 143 luồng hội thoại riêng biệt. Nhưng ngay cả anh cũng thừa nhận: anh chưa bao giờ gõ 3,77 tỷ token. Không ai làm được điều đó.

A-Ren sững người khi đọc đến đó. Nếu ngay cả chữ mà một người dùng nặng ký tự gõ cũng chỉ là một con số lẻ không đáng kể, thì 96% biến mất kia thực sự đi đâu?

Mỗi Tin Nhắn Đều Tính Phí Lại Chín Lượt Trước Đó

Câu trả lời nằm ở cách các cuộc hội thoại LLM giả vờ có trí nhớ: mỗi lần bạn nhấn Enter, toàn bộ lịch sử hội thoại lại được đóng gói và gửi lại từ đầu. Chi phí của tin nhắn đầu tiên đúng bằng những gì bạn gõ — rất đơn giản. Nhưng chi phí của tin nhắn thứ hai là những gì bạn gõ, cộng với câu trả lời trước đó, cộng với những gì bạn đã gõ trước nữa. Đến tin nhắn thứ mười, chi phí là chính tin nhắn đó cộng với chín lượt nội dung bạn đã trả tiền từ trước. Đến tin nhắn thứ ba mươi, thứ bạn thực sự gõ lần này chỉ là một con số lẻ không đáng kể trên hóa đơn — và toàn bộ tài liệu cũ đó chính là “dữ liệu đầu vào tái sử dụng.”

Và sẽ không có ai chủ động sửa việc này giúp bạn. Các nhà cung cấp mô hình sẽ không làm vậy — ở một mức độ nào đó, việc dùng nhiều chính là điều duy trì hoạt động kinh doanh của họ; họ chỉ thắt chặt giới hạn khi thực sự chạm trần năng lực tính toán. Nói cách khác: dùng hạn mức được cấp một cách khôn ngoan là trách nhiệm của chính bạn, không phải điều ai đó sẽ tự động giải quyết giúp bạn.

A-Ren nhớ lại thói quen của mình mấy tuần gần đây: một luồng hội thoại mở từ sáng đến tối, xen lẫn ba bốn tác vụ hoàn toàn không liên quan, vì anh không nỡ mở luồng mới — “thôi thì đã nói đến đây rồi.” Anh bắt đầu nhận ra sự tiếc rẻ này có thể chính là nguồn gốc của 96% đó.

Anh Đối Chiếu Từng Thói Quen Của Mình Và Phát Hiện Ba Sai Lầm Tốn Kém Nhất

Nate B. Jones chia các cách tiết kiệm token thành ba cấp độ. A-Ren quyết định bắt đầu từ cấp độ cơ bản nhất — cấp không cần cài đặt gì cả — và đối chiếu từng thói quen của mình với nó.

Thói quen xấu đầu tiên anh phát hiện là tiếc rẻ không muốn mở hội thoại mới. Anh quen làm xong một tác vụ trong một luồng rồi lập tức hỏi tiếp một câu hoàn toàn không liên quan trong cùng luồng đó, nghĩ rằng “AI đã có ngữ cảnh rồi, mở mới lại phải giải thích lại từ đầu.” Nhưng thực tế lại ngược lại: hễ tác vụ thay đổi, hãy mở một hội thoại mới — đây là thay đổi duy nhất mà theo thử nghiệm của Nate tạo ra khác biệt lớn nhất. Vì một luồng đang chạy sẽ kéo theo dữ liệu đầu vào tái sử dụng của tất cả các lượt trước đó — có thể là năm mươi nghìn, một trăm nghìn, thậm chí hơn một triệu token hành lý cũ — mà tác vụ mới lại không cần đến phần lớn số đó.

Thói quen xấu thứ hai là nhồi toàn bộ quá trình suy luận vào bước tiếp theo. A-Ren thường làm xong một vòng nghiên cứu, có được một báo cáo, rồi sao chép nguyên cả cuộc hội thoại đó sang tác vụ tiếp theo, nghĩ rằng “có đủ dữ liệu thì an toàn hơn.” Nhưng cách làm của Nate là: chỉ mang theo kết quả bạn thực sự sẽ dùng, không mang theo cả quá trình, các bản nháp đã bị loại bỏ, hay dấu vết suy luận của mô hình đã dẫn đến kết quả đó. Chỉ một báo cáo nghiên cứu thôi cũng có thể kéo theo cả triệu token nội dung không liên quan — phần lớn chỉ là những đường vòng để đi đến kết luận đó, mà bước tiếp theo hoàn toàn không cần.

Thói quen xấu thứ ba dễ bị bỏ qua nhất: anh thường ném nguyên một file PDF hoặc hàng chục ảnh chụp màn hình cho mô hình cùng lúc rồi để nó tự tìm phần liên quan, nghĩ rằng như vậy tiện hơn. Nhưng để mô hình tự tìm kiếm bên trong một file lớn là một trong những cách tốn token nhất — thay vì đưa nguyên file gốc, tốt hơn là tự đọc trước, rút ra những đoạn quan trọng, hoặc chuyển PDF thành văn bản thuần rồi chỉ dán “phiên bản nhẹ nhất, hữu ích nhất.” Về mặt kỹ thuật mô hình vẫn làm được việc nặng đó, nhưng cái giá lại vô hình: trên màn hình không thấy khác biệt, nhưng hóa đơn thì có.

Bước Ngoặt: Trần Thực Sự Không Phải Là Anh Gõ Bao Nhiêu Chữ, Mà Là Một Khoản Chi Phí Cố Định Ẩn Trong Cấu Hình

A-Ren từng nghĩ chỉ cần quản lý cách gõ chữ và cách chia nhỏ câu hỏi là đủ. Cho đến khi anh đọc một con số do chính Anthropic công bố và nhận ra vấn đề còn sâu hơn thế: một cấu hình điển hình kết nối với vài dịch vụ phổ biến — GitHub, Slack, Sentry, Grafana — đốt khoảng 55.000 token chỉ để nạp “sách hướng dẫn” của các công cụ đó (mỗi công cụ làm được gì, khi nào nên dùng, cần tham số gì) vào ngữ cảnh của mô hình, trước cả khi mô hình bắt đầu làm bất cứ việc gì.

Nói cách khác, một phần lớn hóa đơn hoàn toàn không liên quan đến việc anh gõ gì hay mô hình trả lời gì — càng kết nối “tiện tay” nhiều công cụ, mô hình càng phải trả một khoản phí cố định chỉ để “làm quen” với chúng, và khoản phí đó bị trả lại từ đầu ở mỗi lượt. A-Ren bỗng nhớ ra: môi trường Claude Code của anh có bảy tám công cụ MCP được kết nối, mà ít nhất một nửa trong số đó dự án này còn chẳng dùng đến.

Nate cũng nhắc đến hai cơ chế mà ngành đang xây dựng để vá lỗ hổng này: “nén” (compaction) của OpenAI cô đọng tiến độ của các tác vụ dài để các lượt sau không cần gửi lại toàn bộ chi tiết; “chỉnh sửa ngữ cảnh” (context editing) của Anthropic dọn sạch kết quả công cụ cũ và dấu vết suy luận trước yêu cầu tiếp theo. Những cơ chế này có ích, nhưng suy cho cùng vẫn chỉ là “phiên bản gần đúng,” không phải bảo toàn hoàn hảo toàn bộ ngữ cảnh — kết luận của A-Ren là: thay vì hoàn toàn trông chờ nhà cung cấp dọn dẹp giúp mình, tốt hơn nên tập thói quen không chất đầy bàn làm việc ngay từ đầu.

Kết Thúc: Giờ Anh Chỉ Kết Nối Những Công Cụ Thực Sự Cần Và Bắt Đầu Lại Từ Đầu

Đêm đó, A-Ren không thực sự chờ đủ 5 giờ. Anh đóng luồng hội thoại đã chạy cả ngày, xen lẫn nhiều tác vụ không liên quan, và mở một cửa sổ sạch sẽ mới — chỉ mô tả đúng lỗi trước mắt. Anh cũng rà lại từng công cụ MCP trong dự án, ngắt kết nối những công cụ không cần, chỉ giữ lại hai ba công cụ thực sự sẽ dùng cho tác vụ này.

Điều anh nghĩ đến bây giờ không còn là “bao giờ giới hạn này được gỡ,” mà là “bàn làm việc của mình có sạch trước khi mở cuộc hội thoại tiếp theo không.” Đây là cách nghĩ khác hẳn về việc dùng AI so với trước đây — anh từng cho rằng vấn đề là “AI chưa đủ thông minh” hoặc “hạn mức quá keo kiệt,” cho đến khi hiểu ra 96% đó thực chất là gì, và nhận ra điều anh đáng lẽ phải để mắt suốt từ đầu chính là cách anh dọn dẹp mỗi lượt hội thoại.

Câu Hỏi Thường Gặp

Vì sao tôi chưa gõ nhiều mà hạn mức sử dụng AI đã hết rất nhanh?

Vì các cuộc hội thoại LLM không có trí nhớ thật sự — mỗi lần bạn gửi tin nhắn mới, toàn bộ lịch sử hội thoại lại được đóng gói và gửi đầy đủ cho mô hình. Phần này được gọi là “dữ liệu đầu vào tái sử dụng.” Hội thoại càng nhiều lượt, tỷ lệ dữ liệu tái sử dụng càng cao, và thứ bạn thực sự gõ lần này chỉ chiếm một phần nhỏ trong tổng số — đó là lý do hạn mức có thể hết nhanh dù cảm giác bạn chưa gõ được bao nhiêu.

Khi nào nên mở một cuộc hội thoại mới thay vì tiếp tục luồng hiện tại?

Ngay khi tính chất công việc thay đổi — ví dụ bạn đang sửa lỗi và giờ muốn hỏi một điều hoàn toàn không liên quan. Tiếp tục cùng một luồng sẽ kéo theo toàn bộ những gì tích lũy từ các lượt trước, và bạn vẫn phải trả tiền cho chúng dù tác vụ mới không cần đến phần lớn nội dung đó.

Kết nối nhiều công cụ (MCP/plugin) có khiến việc dùng AI đắt hơn không?

Có. Theo dữ liệu Anthropic công bố, một cấu hình điển hình kết nối với vài máy chủ công cụ phổ biến (như GitHub, Slack, Sentry, Grafana) có thể tốn khoảng 55.000 token chỉ để nạp mô tả của từng công cụ vào ngữ cảnh của mô hình — trước khi mô hình làm bất kỳ công việc thực sự nào. Tốt nhất chỉ nên kết nối những công cụ thực sự cần cho tác vụ hiện tại, thay vì kết nối tất cả cùng lúc.

Việc đưa nguyên một file PDF hoặc ảnh chụp màn hình cho AI so với tự sắp xếp trước có khác gì không?

Có khác, và khác biệt không hề nhỏ. Để mô hình tự đọc và tìm kiếm trong toàn bộ file là cách tương đối tốn token; nếu bạn có thể tự rút ra những đoạn quan trọng trước, hoặc chuyển file thành văn bản thuần rồi chỉ dán phần thực sự hữu ích, bạn có thể giảm đáng kể chi phí của một yêu cầu — và khoản tiết kiệm này lặp lại ở mỗi lượt sau đó.

“Token Saver” và “Ringer” được nhắc trong bài này có phải sản phẩm của AI Token King không?

Không. Cả hai đều là công cụ của bên thứ ba, do chính tác giả video gốc Nate B. Jones tự phát triển và công bố ở nơi khác. Bài viết này chỉ tóm tắt lại ý tưởng thiết kế của chúng theo như mô tả trong video gốc, không đại diện cho sự chứng thực, bảo đảm hay giới thiệu từ AI Token King hoặc công ty mẹ. Nếu bạn quan tâm sử dụng, vui lòng tự kiểm chứng tài liệu chính thức và điều khoản của công cụ đó.

Ghi Chú Nguồn

Bài viết này được chuyển thể từ video đăng ngày 29 tháng 7 năm 2026 trên kênh YouTube AI News & Strategy Daily | Nate B Jones, “Paste This Into Claude, Never Hit a Token Limit Again”, được tổ chức lại và viết lại, không dịch nguyên văn từng chữ. “A-Ren” trong bài viết này là một hình mẫu minh họa để giải thích, không phải một trường hợp khách hàng có thật. Các thông tin tham chiếu đến dữ liệu công khai của Anthropic (định nghĩa công cụ tiêu tốn khoảng 55.000 token), cơ chế nén hội thoại của OpenAI, và cơ chế chỉnh sửa ngữ cảnh của Anthropic đều là thông tin công khai được trích dẫn trong video gốc; bài viết này chưa tự kiểm chứng độc lập tài liệu kỹ thuật gốc, nên độc giả cần số liệu chính xác xin tham khảo tài liệu chính thức của từng nhà cung cấp. Các công cụ bên thứ ba được nhắc đến (Token Saver, Ringer) chỉ nhằm giải thích nội dung video gốc, không cấu thành sự chứng thực hay bảo đảm từ trang này.

Bạn Có Muốn Biết Bao Nhiêu Phần Trong Lượng Sử Dụng AI Của Mình Đang Chảy Vào “Dữ Liệu Tái Sử Dụng”?

Sau này A-Ren mới nhận ra, thứ thực sự chặn anh đêm đó không phải một tin nhắn cụ thể nào, mà là cả một ngày hội thoại bừa bộn chưa từng được dọn dẹp. Dùng thử AI Token King miễn phí, và xem chính xác chi phí của mỗi cuộc hội thoại thực sự chảy về đâu, để bạn tìm ra điều thực sự cần dọn dẹp trước khi hết hạn mức, chứ không phải sau đó.