Giảm chi phí API LLM 2026: tier, cache và thuế ngôn ngữ

Hoá đơn API tháng này nhảy vọt trong khi số request gần như đứng yên. Bạn mở dashboard, thấy toàn bộ traffic vẫn đi qua một model duy nhất — model đắt nhất trong nhà, cho cả việc phân loại ticket lẫn việc viết code.

Hai khảo sát vừa công bố cho bạn ba đòn bẩy đo được để cắt con số đó: chọn đúng tier, bật cache, và biết prompt tiếng Việt của bạn thực sự tốn bao nhiêu token.

Khoảng cách giữa các tier giờ là 100 lần

Một khảo sát giá niêm yết chính thức của 66 model production (phát hành từ 4/2024 đến 9/2026, thuộc tám nhà phát triển, số liệu xác minh ngày 5/10/2026) cho thấy mức chênh lệch đã giãn ra rất rộng. Trong nhóm model mới nhất, giá output trải từ 50 USD xuống 0,50 USD cho mỗi 1 triệu token — đúng 100 lần.

Cụ thể ở đỉnh: GPT-6 Astra và Claude Fable 5.1 cùng niêm yết 50 USD/1M token output. Khảo sát gọi đây là "flagship premium": GPT-6 Astra (9/2026) đắt gấp 6,25 lần GPT-4.1 (4/2025, 8 USD) — flagship rẻ nhất trong tập dữ liệu.

Điều đáng chú ý cho việc chọn model hằng ngày nằm ở tier giữa, nơi giá không leo thang theo thế hệ:

Model (mới nhất mỗi tier)	Output (USD/1M token)
GPT-6 Astra / Claude Fable 5.1	50
Claude Opus 5.5	20
Kimi K3	15
GPT-6.1 Sol / Claude Sonnet 5.5	10
Grok 4.7	6
Claude Haiku 4.5	5
Gemini 3.8 Flash	3,75
DeepSeek V4 Pro	1,98
DeepSeek V4.1 Flash	0,60
GPT-6 Luna	0,50

Tier workhorse đứng yên qua nhiều thế hệ: GPT-6.1 Sol (9/2026) niêm yết 2 USD input và 10 USD output — cùng mức output với GPT-5 (8/2025). Anthropic còn hạ giá: Sonnet 4.6 (2/2026) ở 15 USD, còn Sonnet 5 và Sonnet 5.5 ở 10 USD; Claude Opus 5.5 ở 4/20 USD, thấp hơn mọi thế hệ Opus trước đó vốn ở 5/25 USD.

Hành động: tách luồng theo tier. Phân loại, trích xuất, tóm tắt ngắn đẩy xuống nhóm 0,50–3,75 USD; sinh code và reasoning nhiều bước giữ ở nhóm 10–20 USD; chỉ gọi tier 50 USD cho đúng những việc bạn đã thử và thất bại ở tier dưới. Lưu ý khảo sát nói rõ: đây là so sánh giá niêm yết, không phải so sánh năng lực.

Cache là đòn bẩy lớn nhất, và nó nằm trong kiến trúc prompt

Trên phần lớn model hiện hành, input đã cache rẻ hơn input tươi 10 đến 50 lần. Mức giảm giá theo khảo sát: OpenAI 50% trên GPT-4o mini (2024), 75% trên GPT-4.1, 90% trên GPT-5, 95% trên GPT-6.1 Sol. Anthropic niêm yết 90% từ Claude Opus 4.5 đến Opus 5, 95% trên Opus 5.5 và Sonnet 5.5, 97,5% trên Claude Fable 5.1. DeepSeek V4.1 Flash ở mức 98% — 0,003 USD so với 0,15 USD cho input tươi.

Con số dễ hình dung nhất: trên GPT-6.1 Sol, một context 100.000 token tốn 0,20 USD nếu là input tươi, và 0,01 USD nếu đã cache.

Điều này quyết định cách bạn xếp prompt. Phần tĩnh — system prompt, tài liệu sản phẩm, schema, few-shot — phải nằm ở đầu và giữ nguyên byte-for-byte giữa các request. Mọi thứ thay đổi theo lượt (tên người dùng, timestamp, câu hỏi) đẩy xuống cuối. Một biến động nhỏ ở đầu prompt là đủ để trả giá tươi cho toàn bộ phần còn lại. Vài nhà cung cấp giảm ít hơn — Grok 4.7 ở 75%, MiniMax M3 80%, Kimi K2.6 83% — nên hãy kiểm tra mức của chính model bạn gọi.

Output đắt gấp 3–8 lần input, nên output quyết định hoá đơn

Tỷ lệ giá output/input thay đổi theo thế hệ: họ GPT-5 (8/2025–2/2026) ở mức 8x, GPT-5.4 và GPT-5.5 ở 6x, họ GPT-6 ở 5x. Mọi model Anthropic trong tập dữ liệu đều ở 5x, Gemini 3.6–3.8 Flash cũng vậy, còn DeepSeek dùng 3–4x và Grok 4.7 dùng 3x.

Hệ quả thực tế: workload sinh văn bản dài, sinh code hoặc reasoning nhiều bước là nhóm nhạy cảm nhất với giá. Đặt trần max_tokens theo từng endpoint, yêu cầu output có cấu trúc thay vì văn xuôi, và cắt phần "giải thích thêm" ở những route mà không ai đọc phần đó.

Thuế ngôn ngữ: chưa ai đo tiếng Việt, đây là cách bạn tự đo

Bạn trả tiền theo token, không theo từ — và tokenizer được xây chủ yếu từ văn bản tiếng Anh, nên cùng một nội dung ở ngôn ngữ khác bị cắt thành nhiều mảnh hơn. Một phép đo vừa công bố lấy một system prompt chatbot hỗ trợ dài 192 từ tiếng Anh (224 token), dịch sang năm ngôn ngữ, rồi đếm bằng thư viện tiktoken 0.14.0 (ngày 15/10/2026) trên hai encoding:

Ngôn ngữ	o200k_base (mới)	cl100k_base (cũ)
Tiếng Anh	224 · 1,00x	224 · 1,00x
Tiếng Tây Ban Nha	276 · 1,23x	324 · 1,45x
Tiếng Đức	304 · 1,36x	383 · 1,71x
Tiếng Nga	298 · 1,33x	505 · 2,25x
Tiếng Nhật	378 · 1,69x	542 · 2,42x
Tiếng Hindi	368 · 1,64x	1.182 · 5,28x

Hai điều rút ra. Thứ nhất, tokenizer mới thu hẹp khoảng cách rất mạnh: tiếng Hindi từ 5,28x xuống 1,64x, tiếng Nga từ 2,25x xuống 1,33x, trong khi tiếng Anh giữ nguyên 224 token ở cả hai encoding. Thứ hai, số ký tự không phải là chỉ báo chi phí: tiếng Nhật có ít ký tự nhất (566 so với 1.125 của tiếng Anh) nhưng tốn nhiều token nhất.

Tiếng Việt không nằm trong phép đo này, và tác giả cũng nói rõ giới hạn: chỉ một văn bản 192 từ do chính tác giả dịch, và chỉ đo tokenizer của OpenAI — Anthropic và Google dùng tokenizer riêng, cần đếm riêng. Vậy nên đừng mượn con số của ngôn ngữ khác cho dự án của bạn. Hãy chạy đoạn này trên chính system prompt tiếng Việt đang chạy production (ví dụ minh hoạ):

import tiktoken
new = tiktoken.get_encoding("o200k_base")
old = tiktoken.get_encoding("cl100k_base")
for lang in ["en", "vi"]:
    text = open(f"{lang}.txt", encoding="utf-8").read()
    print(lang, len(new.encode(text)), len(old.encode(text)))

Tỷ số vi/en bạn nhận được chính là bội số cần nhân vào mọi ước tính chi phí và vào tốc độ lấp đầy context window.

Khi nào dịch system prompt sang tiếng Anh thì đáng công?

Đây là chỗ bài đo đưa ra câu trả lời ngược với trực giác. Với prompt 224 token, chuyển bản tiếng Nga sang tiếng Anh tiết kiệm 74 token mỗi lượt gọi — khoảng 22 triệu token một tháng, tương đương 16,65 USD. Không đáng để migrate. Nhưng với prompt 3.000 token (luật dài cộng tài liệu sản phẩm), cùng thao tác đó tiết kiệm khoảng 297 triệu token: 223 USD/tháng cho tiếng Nga và 434 USD cho tiếng Hindi.

Mẫu được khuyến nghị: để phần hướng dẫn bằng tiếng Anh, kèm một dòng duy nhất yêu cầu model trả lời đúng ngôn ngữ người dùng viết. Không dịch các few-shot example của câu trả lời — chính chúng dạy model cách viết trong ngôn ngữ đích. Và sau khi dịch, hãy test lại: các luật về giọng điệu và mức độ lịch sự dễ mất sắc thái.

Lưu ý một điểm cần đọc có phản biện: tác giả bài đo đồng thời bán lại các model này thấp hơn giá niêm yết 10–25%, và lấy chính dịch vụ của mình làm ví dụ tính tiền. Phần phương pháp đếm token thì kiểm chứng được — bạn chạy lại script là ra; phần so sánh giá bán lại thì nên xem là tuyên bố của nhà cung cấp.

Làm theo thứ tự này

1. Chạy tiktoken trên system prompt tiếng Việt của bạn, lấy tỷ số vi/en thật.
2. Kiểm tra mức giảm giá cache của đúng model bạn đang gọi, rồi sắp xếp lại prompt: tĩnh trước, động sau.
3. Liệt kê các route theo khối lượng output, không phải theo số request — output mới là nơi tiền đi.
4. Hạ tier cho những route đơn giản nhất và đo lại chất lượng, vì khảo sát giá không nói gì về năng lực.

Thứ đáng theo dõi tiếp: tier workhorse đã đứng yên ở mức 10 USD qua nhiều thế hệ trong khi tier đỉnh tăng lên 50 USD. Nếu xu hướng đó giữ nguyên, quyết định đắt nhất của bạn trong năm 2027 sẽ không phải là chọn nhà cung cấp nào, mà là bao nhiêu phần trăm traffic thực sự cần chạm tới tier đỉnh.