Đã đến lúc tính toán các Token của bạn như một chủ cửa hàng tạp hóa truyền thống.

Tác giả bài viết, nguồn: 0x9999in1, ME News

Tóm tắt ngắn

• Sự bùng nổ về công suất tính toán cuối cùng cũng dẫn đến hóa đơn tăng vọt. Thời kỳ蜜月 của các đế chế trợ cấp chính thức kết thúc, Token đã trở thành tiền tệ cứng trong thời đại số, mỗi đơn vị công suất tính toán đều đã được định giá đắt đỏ.
• Sự lãng phí đang tràn lan và đáng báo động. Những từ hướng dẫn dư thừa, sự tràn ngập rác từ RAG (tạo có tăng cường truy vấn) mất kiểm soát, cùng các tác nhân bị kẹt trong vòng lặp vô hạn đang âm thầm và nhanh chóng cạn kiệt dòng tiền của doanh nghiệp.
• Việc tự cứu bằng cách tối ưu hóa kỹ thuật đang trở nên cấp thiết. Bộ nhớ ngữ nghĩa (Semantic Cache), nén lời nhắc (Prompt Compression) và định tuyến mô hình (Model Routing) không còn là những tính năng bổ sung không cần thiết, mà là ba bí quyết sống còn.
• Khung nền Agent tiên tiến đã định rõ hướng đi. Các tác nhân đại diện như OpenClaw và Hermes đang thể hiện “kinh tế Token” thực sự thông qua quản lý ngữ cảnh chính xác và đầu ra có cấu trúc trong các cảnh giới có hạn về sức mạnh tính toán như thiết bị di động.
• Liều thuốc cuối cùng là sự thức tỉnh của tư duy ROI (tỷ suất hoàn vốn). Từ bỏ cách tiếp cận thô bạo, chuyển sang vận hành tinh vi. Việc tăng giá tính toán không phải là ngày tận thế của ngành, mà là một cuộc sàng lọc khốc liệt, chỉ để lại những người chơi thực sự biết tôn trọng chi phí.

Ảo tưởng tan biến: Khi hóa đơn tính toán trở thành mệnh lệnh tử thần

The wind has stopped.

Hai năm qua, chúng ta đã sống trong một ảo giác được các nhà tư bản và những ông lớn dệt nên. Trong ảo giác này, sức tính toán dường như là nước máy. Chỉ cần vặn vòi, các mô hình lớn sẽ liên tục nhả ra những từ ngữ hoa mỹ, mã phức tạp và những câu trả lời dường như biết tất cả.

Chúng ta tiêu pha hoang phí. Chúng ta vô tư nhét những tài liệu dài hàng vạn chữ vào Prompt. Chúng ta để các mô hình hàng tỷ tham số hàng đầu thực hiện những việc vặt vô lý như “viết hoa chữ cái đầu của đoạn văn này”.

Tại sao? Vì giá rẻ. Vì OpenAI, Anthropic và những công ty khác đang dùng tiền của nhà đầu tư để trả thay chúng ta.

Nhưng bây giờ, giấc mơ đã tan biến.

Tính toán toàn diện tăng giá. Đây không phải là lời đe dọa quá đáng, mà là hiện thực lạnh lùng đang diễn ra. Cuộc cạnh tranh dành cho chip NVIDIA H100 đã từ cuộc cạnh tranh thương mại trở thành một cuộc博弈 ở cấp độ địa chính trị. Lượng điện tiêu thụ của trung tâm dữ liệu đang tiến gần đến giới hạn của lưới điện. Mỗi lần gọi API đều ẩn sau đó là sự cháy bỏng của các tấm silicon và tiếng rít của tháp làm mát.

Các ông lớn đã không còn làm từ thiện nữa. Mặc dù đơn vị tính phí của API vẫn là con số nhỏ bé “1K Tokens”, nhưng khi quy mô doanh nghiệp của bạn bắt đầu mở rộng, khi số lần gọi API hàng ngày vượt qua hàng triệu, hàng chục triệu lần, con số đó sẽ không còn là chuyện nhỏ nữa.

Đó là thác nước. Đó là máy hút máu. Đó là cơn ác mộng khiến CFO của bất kỳ công ty khởi nghiệp nào thức giấc giữa đêm khuya.

Token, đơn vị nguyên tử cơ bản nhất của thời đại mô hình lớn, chính thức được coi ngang hàng với đô la Mỹ và nhân dân tệ. Một chữ trị giá ngàn vàng không còn là phép ẩn dụ phóng đại, mà là báo cáo tài chính bằng tiền thật.

Sau khi giá năng lực tính toán tăng, làm thế nào để tiết kiệm Token?

Đây không chỉ là một vấn đề kỹ thuật khó khăn. Đây là vấn đề sinh tử liệu mô hình kinh doanh có thể vận hành được hay không.

Góc khuất: Token của bạn thực sự đã bị mất đi như thế nào?

Để cầm máu, trước tiên phải tìm ra vết thương.

Nhiều người hoàn toàn không có khái niệm về việc tiêu hao Token. Họ nhìn vào hóa đơn tăng vọt hàng tháng, như thể đang nhìn một cuốn sách cổ không thể hiểu được. Thực tế, sự thất thoát Token thường xảy ra ở những góc khuất nhỏ bé nhất mà ít ai để ý.

Bạn có lịch sự khi nói chuyện với AI không?

Xin chào, bạn có thể giúp tôi một chút không? Cảm ơn bạn rất nhiều, tôi cần bạn đóng vai một chuyên gia marketing giàu kinh nghiệm…

Dừng lại. Ngừng lại.

Là con người, bạn là một quý ông. Nhưng trong kinh tế học token, bạn là một kẻ hoang phí.

Mô hình lớn không có cảm xúc. Nó không cần bạn nói “xin vui lòng” hay “cảm ơn”. Nó không cần những lời xã giao vô nghĩa không mang lại thông tin bổ sung. Mỗi chữ, mỗi dấu câu, thậm chí mỗi khoảng trống đều là Token. Đều đang được tính phí.

Điều đáng sợ hơn là những lời vô nghĩa do khung tạo ra. Nhiều nhà phát triển khi xây dựng ứng dụng, để đảm bảo tính ổn định của đầu ra, sẽ sử dụng các hệ thống nhắc nhở (System Prompt) cực kỳ dài dòng, lặp lại chồng chéo. “Bạn phải tuân thủ mười nguyên tắc sau đây...” “Nếu bạn không biết, hãy trả lời là không biết, đừng bịa đặt...”

Những lời này có hữu ích không? Có. Nhưng nếu mỗi cuộc hội thoại, mỗi vòng tương tác đa vòng đều phải tính lại hàng nghìn token này, thì sự lãng phí là đáng kinh ngạc. Cửa sổ ngữ cảnh không phải là chiếc tủ lưu trữ miễn phí, mà là khu tài chính Manhattan đắt đỏ nhất.

RAG (Retrieval-Augmented Generation) được mệnh danh là giải pháp thần kỳ để giải quyết hiện tượng ảo giác trong các mô hình lớn.

Nhưng trong thực tế, RAG thường là một thảm họa.

RAG lý tưởng: Truy xuất chính xác ba câu liên quan nhất, cung cấp cho mô hình để đưa ra câu trả lời hoàn hảo.

RAG thực tế: Người dùng đặt câu hỏi, cơ sở dữ liệu vector vét sạch, trực tiếp ném mười tài liệu PDF dài hàng vạn chữ có thứ hạng cao nhất vào mặt mô hình.

“Hãy tự tìm câu trả lời đi.” Người phát triển nghĩ.

Đây không chỉ là lười biếng. Đây là tội ác đối với sức mạnh tính toán.

Việc cung cấp quá nhiều thông tin nền không liên quan không chỉ làm nhiễu cơ chế chú ý của mô hình (gây ra hiện tượng “Lost in the Middle”), mà còn tiêu tốn một lượng Token khổng lồ. Bạn tưởng mình chỉ hỏi một câu hỏi đơn giản, nhưng thực tế bạn đã khiến mô hình đọc hết nửa thư viện. Và chi phí đọc này, chính là bạn phải trả.

Đắt hơn RAG là các Agent (đối tượng thông minh) mất kiểm soát.

Việc trao cho AI khả năng lập kế hoạch, suy nghĩ và sử dụng công cụ hiện đang là xu hướng tuyệt đối. Mô hình ReAct (suy luận và hành động) khiến AI trông giống như một con người đang làm việc.

Tôi cần tra cứu thời tiết hôm nay.

Call the weather API.

Quá trình lấy dữ liệu không thành công.

Thought: Vừa rồi thất bại, tôi sẽ thử lại một lần nữa.

Call the weather API.

Bạn đã nhận ra chưa? Nếu API đột ngột ngừng hoạt động hoặc logic của Agent rơi vào bế tắc, nó sẽ quay vòng liên tục trong vòng lặp này. Mỗi vòng “suy nghĩ” và “hành động” đều tiêu tốn một lượng Token đầu ra cực kỳ đắt đỏ.

Và giá của Token đầu ra thường cao gấp nhiều lần giá của Token đầu vào.

Một Agent không có cơ chế cắt đứt và giới hạn số lần lặp tối đa sẽ là một hố đen nuốt Token. Nó có thể làm bạn hết hạn mức thẻ tín dụng ngay cả khi bạn đang ngủ.

Gạt xương chữa độc: Hướng dẫn tự cứu bằng kỹ thuật cứng cỏi

Phàn nàn về việc tăng giá là vô ích. Những người quan sát chín chắn chỉ tập trung vào cách ứng phó.

Khi việc tích lũy sức mạnh tính toán một cách thô bạo trở thành quá khứ, năng lực kỹ thuật tinh vi mới trở thành hàng rào bảo vệ duy nhất. Làm thế nào để tiết kiệm? Hãy vắt kiệt từng giá trị của mỗi Token, như vắt hết giọt nước cuối cùng trong chiếc khăn tắm.

Đây là cách tiết kiệm tiền trực tiếp và mạnh mẽ nhất.

Bản chất của con người là máy lặp lại, các câu hỏi của người dùng thường rất giống nhau. Những câu hỏi như “Làm thế nào để đặt lại mật khẩu?” hoặc “Làm thế nào để xuất hóa đơn?” có thể được hỏi hàng trăm, hàng nghìn lần mỗi ngày.

Nếu mỗi lần đều phải gọi GPT-4, thì giống như dùng đại bác để bắn muỗi.

Giới thiệu bộ nhớ đệm ngữ nghĩa. Khi người dùng đặt câu hỏi, trước tiên chuyển nó thành vector để thực hiện khớp độ tương đồng trong kho bộ nhớ đệm. Nếu trước đây đã có người hỏi câu hỏi tương tự (ví dụ: “Làm thế nào nếu quên mật khẩu?”) và độ khớp rất cao, hãy trả về ngay câu trả lời trong bộ nhớ đệm.

Không thông qua mô hình lớn. Không tiêu tốn bất kỳ Token nào. Độ trễ giảm từ cấp độ giây xuống cấp độ miligiây.

Đây không còn đơn thuần là tiết kiệm tiền, mà là sự áp đảo về trải nghiệm.

Since lengthy context is the original sin, compress them.

Đây không phải là yêu cầu bạn xóa câu chữ thủ công, mà là dựa vào thuật toán. Hiện nay, ngành công nghiệp đã xuất hiện nhiều kỹ thuật nén lời nhắc dựa trên entropy thông tin. Những công cụ này có thể phân tích xem trong một đoạn văn bản dài, những từ nào là thiết yếu để mô hình lớn hiểu ngữ nghĩa, và những từ nào là từ dừng không cần thiết hoặc thông tin thừa.

Chúng có thể nén một đoạn văn bản 1000 Token xuống còn 300 Token mà vẫn giữ nguyên ngữ nghĩa cốt lõi (hoặc chỉ bị mất mát tối thiểu).

Để máy nói chuyện với máy. Dùng một loại “văn bản sao Hỏa” mà con người thấy lúng túng, thậm chí không có ngữ pháp, để trò chuyện với mô hình lớn. Vì cơ chế tự chú ý của mô hình lớn đủ mạnh để hiểu.

Bạn đã tiết kiệm 70% phí đường bộ.

Đây là khâu hiện tại đòi hỏi kỹ năng cao nhất của các kiến trúc sư.

Đừng một cách mù quáng giao tất cả nhiệm vụ cho mô hình đắt nhất, mạnh nhất nhất. Đừng dùng dao mổ trâu để giết gà.

Bên trong một ứng dụng AI xuất sắc, nên là một ma trận hợp tác giữa nhiều mô hình. Chúng ta cần một “bộ định tuyến (Router)” để phân phối.

• Trích xuất thực thể đơn giản, chuyển đổi định dạng, dịch đa ngôn ngữ? Chuyển trực tiếp cho các mô hình nhỏ mã nguồn mở được triển khai tại chỗ (như Llama 3 8B) hoặc API cực kỳ rẻ tiền (như Claude 3 Haiku). Chi phí gần như không đáng kể.
• Cần suy luận logic sâu sắc, viết mã phức tạp, lập kế hoạch nhiều bước? Lúc đó mới dùng đến những “vũ khí hạng nặng” như GPT-4o hoặc Claude 3.5 Sonnet.

Giống như một công ty vận hành hiệu quả. Những vấn đề mà bộ phận lễ tân có thể xử lý, tuyệt đối không làm phiền CEO. Sau khi giá tính toán tăng toàn diện, ai có thể thực hiện cơ chế định tuyến này trơn tru và chính xác nhất, chi phí tổng thể Token của người đó sẽ giảm xuống bằng một phần mười so với đối thủ.

Khám phá tiên phong: Xem xét “kinh tế token” của Agent qua OpenClaw và Hermes

Nền tảng công nghệ thực sự đã ngửi thấy mùi máu của việc tăng giá năng lực tính toán.

Khi chúng ta hướng ánh mắt đến hệ sinh thái Agent tiên tiến nhất hiện nay—đặc biệt là những khung công tác đang nỗ lực phá vỡ sự ràng buộc của sức mạnh tính toán trên đám mây để tiến vào phía biên và thiết bị di động—bạn sẽ nhận ra một cuộc chiến tối ưu hóa Token cực kỳ khốc liệt đã bắt đầu.

Tại sao tôi lại đặc biệt đề cập đến tích hợp di động? Vì đây là sân chơi cuối cùng để kiểm tra hiệu suất của Token.

Trên máy tính để bàn hoặc trên đám mây, bạn có thể chấp nhận độ trễ vài giây và cửa sổ ngữ cảnh lớn. Nhưng trên điện thoại, khi chạy Agent trong các môi trường phần cứng bị hạn chế về tài nguyên, băng thông là điểm nghẽn, bộ nhớ là điểm nghẽn và pin cũng là điểm nghẽn.

Điều này buộc khung phải cực kỳ tiết kiệm.

Quan sát hành trình phát triển của OpenClaw, bạn sẽ nhận thấy nó kiểm soát việc sử dụng Token gần như đến mức ám ảnh. Khi thực hiện các nhiệm vụ phức tạp, OpenClaw không sử dụng phương pháp chồng dồn ngữ cảnh toàn bộ một cách thô bạo. Thay vào đó, nó phụ thuộc rất nhiều vào tối ưu hóa đầu ra có cấu trúc.

Nó nhận thức rằng để mô hình tự do phát huy sẽ tạo ra dòng token không thể kiểm soát. Bằng cách buộc mô hình xuất kết quả theo đúng JSON Schema nghiêm ngặt hoặc thậm chí là định dạng thân thiện với nhị phân ở cấp độ thấp hơn, OpenClaw đã loại bỏ đáng kể các ký tự dư thừa trong quá trình tạo. Nó không để AI “nói chuyện”, mà khiến AI trực tiếp “nộp biểu mẫu”.

Sự ràng buộc nghiêm ngặt đối với định dạng đầu ra, nhìn bề ngoài nhằm mục đích thuận tiện cho việc phân tích bởi các chương trình phía sau, nhưng trong bối cảnh nguồn lực tính toán khan hiếm hiện nay, nó vô tình thực hiện một thao tác “tiết kiệm dữ liệu” rất ấn tượng.

Xem lại các mô hình Hermes do Nous Research ra mắt và các ứng dụng Agent của chúng.

Nhiều mô hình mã nguồn mở khi thực hiện gọi hàm (Function Calling) thường phải thử và sai nhiều lần do khả năng hiểu hạn chế, tiêu tốn nhiều Token. Điểm tinh vi của Hermes nằm ở độ chính xác trong việc tuân theo chỉ lệnh (Instruction Following).

Chính xác, nghĩa là làm đúng ngay lần đầu. Làm đúng ngay lần đầu, chính là tiết kiệm lớn nhất.

Trong các tương tác nhiều vòng, khi cuộc hội thoại tiến sâu hơn, cửa sổ ngữ cảnh sẽ ngày càng lớn như một quả cầu tuyết lăn. Các người chơi cấp cao trong hệ sinh thái Hermes Agent đã từ bỏ hoàn toàn cách làm ngu ngốc là “giữ lại toàn bộ lịch sử”.

They introduced a dynamic memory mechanism.

• Bộ nhớ làm việc (Working Memory): Chỉ giữ lại 3-5 vòng hội thoại trực tiếp gần nhất, duy trì sự nhanh nhẹn.
• Trí nhớ dài hạn (Long-term Memory): Khi vượt quá giới hạn cửa sổ, kích hoạt một mô hình nền nhẹ nhàng để tóm tắt cuộc trò chuyện trước đó thành vài câu điểm chính, lưu vào kho vector.

Cuộc hội thoại cũ đã bị xóa, nhưng kiến thức vẫn được giữ lại.

Họ không đang xả rác, mà đang thực hiện các ca phẫu thuật loại bỏ và khâu nối ký ức một cách chính xác. Việc quản lý ngữ cảnh tinh vi này không chỉ phá vỡ giới hạn vật lý về độ dài Token, mà còn mang lại sự sụt giảm đột ngột về chi phí tính toán ở cấp độ vĩ mô.

Dù là cấu trúc kiểm soát của OpenClaw hay quản lý bộ nhớ động của Hermes, cả hai đều đang làm nổi bật một xu hướng: trong tương lai, các Agent sẽ không còn cạnh tranh về số lượng công cụ có thể gọi, mà là ai có thể hoàn thành nhiệm vụ phức tạp nhất dưới ngân sách Token cực kỳ hạn chế.

Đây là nhảy múa với gông cùm. Người nhảy tốt nhất sẽ chiến thắng thế hệ tiếp theo.

Sự nhảy vọt trong tư duy: Từ tư duy tiêu dùng đến tư duy đầu tư (Sự thức tỉnh về ROI)

Bóc bỏ lớp vỏ của tất cả các thuật ngữ kỹ thuật, hãy quay trở lại bản chất của kinh doanh.

Việc tăng giá toàn diện về sức mạnh tính toán đã mang đến sự thay đổi lớn nhất, không phải là ép các kỹ sư thức khuya sửa mã nguồn. Nó mang đến sự cập nhật bắt buộc đối với tư duy của toàn bộ ngành AI.

Trong thời đại giá rẻ, chúng ta đối xử với Token theo tư duy “tiêu dùng”.

Giống như đi siêu thị, thấy hàng giảm giá là bỏ vào giỏ. Chúng ta không quan tâm chức năng này có thực sự cần đến mô hình lớn hay không, chúng ta chỉ quan tâm “nó trông thật tuyệt”.

Nhiều doanh nghiệp kết nối bừa bãi LLM vào hệ thống nội bộ, cấp tài khoản cho mỗi nhân viên, thậm chí còn để AI tạo thực đơn nhà ăn. Kết quả là khi hóa đơn cuối tháng ra đời, họ đều sững sờ.

Bây giờ, chúng ta phải chuyển sang tư duy “đầu tư cấp độ tín nhiệm”.

Mỗi lần tiêu tốn Token đều là một khoản đầu tư. Có đầu tư, thì phải tính ROI (tỷ suất hoàn vốn).

Số Token này đã được chi tiêu, nó mang lại cho tôi điều gì?

Có phải đã nâng cao tỷ lệ đóng vòng ticket của bộ phận hỗ trợ khách hàng?

Có phải đã rút ngắn thời gian sửa lỗi của lập trình viên?

Hay chỉ đổi được một câu vô nghĩa của người dùng: “Ha ha, AI này thật hài hước”?

Nếu một tính năng, khi sử dụng engine quy tắc hoặc máy học truyền thống chỉ tốn 0,1 nhân dân tệ, nhưng khi tích hợp mô hình lớn lại tốn 1 nhân dân tệ phí Token, trong khi tỷ lệ chuyển đổi tăng lên chỉ 2% không đáng kể.

Vậy thì cắt bỏ nó. Cắt bỏ nó ngay lập tức.

Không còn theo đuổi những lời quảng cáo AI “lớn và toàn diện”, mà chuyển sang tập trung vào những đòn đánh chính xác “nhỏ nhưng tinh tế”. Việc tái cấu trúc quy trình kinh doanh phải được xây dựng trên nền tảng cực kỳ nhạy cảm với chi phí tính toán.

Chúng ta cần học cách nói “không” với các phòng ban kinh doanh. Khi họ yêu cầu: “Liệu AI có thể đọc hết 100.000 báo cáo nghiên cứu này và đưa ra tóm tắt cho tôi không?”, bạn hãy hỏi lại: “Lợi ích kinh doanh của bạn có bù đắp được chi phí API hàng chục triệu Token không?”

Tính toán. Chi tiêu tiết kiệm. Hãy tính toán Token của bạn như một chủ cửa hàng tạp hóa truyền thống.

Điều này nghe chẳng giống cyberpunk chút nào. Nó rất lạc hậu.

Nhưng đây chính là con đường tất yếu mà AI phải trải qua để trở nên trưởng thành.

Kết luận: Cảnh tượng sau khi thủy triều rút

Sự cuồng nhiệt của xu hướng luôn ngắn ngủi, định luật hấp dẫn của thương mại cuối cùng sẽ phát huy tác dụng.

Việc tăng giá toàn diện về công suất tính toán, thay vì là một cuộc khủng hoảng, còn mang tính chất một sự thanh lọc đã đến muộn. Nó một cách thô bạo đâm thủng bong bóng được thổi phồng bởi các khoản trợ cấp vô hạn, kéo tất cả mọi người trở về với hiện thực lạnh lẽo.

Nhưng điều này không phải là điều xấu.

Nó buộc chúng ta từ bỏ sự mê tín mù quáng vào “sức mạnh có thể tạo ra kỳ tích”, và tái khẳng định sự tôn trọng đối với hiệu quả kỹ thuật. Nó loại bỏ những người chơi “lớp vỏ” chỉ biết viết vài câu Prompt rồi đi lừa đảo khắp nơi, để lại sân khấu cho những đội ngũ cốt lõi thực sự hiểu rõ kiến trúc nền tảng, hiểu rõ định tuyến mô hình và biết cách tối ưu hóa sức mạnh tính toán ở giới hạn thiết bị di động.

Khi mọi thứ đã lắng xuống, những doanh nghiệp vẫn có thể tồn tại và phát triển tốt chắc chắn không phải là những người sở hữu mô hình đắt nhất.

Những người vẫn bình thản trước những con số Token nhảy liên tục trên bảng điều khiển, tin tưởng rằng mình kiếm được nhiều hơn mình chi tiêu.

Sau tất cả, khi thủy triều rút xuống, chúng ta mới biết ai đang tắm trần. Và lần này, thủy triều rút xuống là lợi nhuận từ sức mạnh tính toán.

Chỉ những người coi từng giọt Token như vàng để rèn luyện mới có thể khoác lên mình bộ áo giáp thật sự.

Nguồn trích dẫn:

1. Nvidia Corporation. (2025). Data Center Compute Constraints and Global Supply Chain Outlook. Investor Relations Report.
2. Anthropic. (2025). Bộ nhớ đệm lệnh nhắc và kinh tế cửa sổ ngữ cảnh trong Claude Managed Agents. Tài liệu API của Anthropic.
3. OpenAI. (2025). Best Practices for Token Optimization and RAG Implementations. OpenAI Developer Platform.
4. Nous Research. (2025). Hermes Agent Framework: Efficient Context Management for Edge Computing. Nous Research Technical Blog.
5. OpenClaw Community. (2026). Integration di động và các chiến lược token không chất thải trong các quy trình làm việc agentic sâu. Kho lưu trữ GitHub / Bản trắng kỹ thuật.
6. Bloomberg. (2026). The End of the AI Subsidy Era: How Datacenter Energy Caps are Restructuring Cloud Pricing. Bloomberg Technology.