
Đặt proxy trước API LLM: cache ngữ nghĩa và fallback 4 tầng
Cache theo hash chỉ hit dưới 4%. Dựng proxy ba tầng trước mọi lời gọi LLM: cache ngữ nghĩa, chuỗi fallback LiteLLM và circuit breaker theo tenant.

Cache theo hash chỉ hit dưới 4%. Dựng proxy ba tầng trước mọi lời gọi LLM: cache ngữ nghĩa, chuỗi fallback LiteLLM và circuit breaker theo tenant.

Chặn GPTBot nhưng giữ trích dẫn: phân biệt bot train và bot search, block robots.txt mẫu copy được, kèm 3 bước kiểm tra lại.

Đếm token Claude bằng tiktoken lệch trung vị 14% trên một corpus 600 chunk. Sai số chỉ lộ ra khi prompt lấp đầy cửa sổ 200K, và luôn lệch một chiều.

Bản đồ đổi tên field-by-field giữa Anthropic SDK và OpenAI Responses API, chỗ duy nhất phải viết lại, và quy trình đo chi phí thật trước khi cắt over.

Cursor, Intercom, Replit và Perplexity tự train model chuyên biệt trên dữ liệu production thật của họ. Ba điều kiện khiến hướng đi này hoàn vốn.

OpenAI công bố GPT-6.1 Sol với giá bằng một phần năm GPT-6 Astra. Năm bước đo đạc cần làm trước khi đổi model cho coding agent của team bạn.

Ghim SHA không chặn được Plugin4Shell trên bốn coding agent, còn rmcp dưới 1.4.0 dính DNS rebinding điểm 8.8. Hai việc cần làm ngay hôm nay.

tiktoken không biết từ vựng của Claude nên đếm thiếu trung vị 17,4% trên 4.200 request. Cách sửa bằng count_tokens và ba cái bẫy khi lên production.

Astra và Fable 5.1 cùng giá $10/$50 mỗi 1M token. Khác biệt thật nằm ở giá cache, tốc độ output và việc ai là bên đứng ra đo benchmark trong launch week.

Thông báo của OpenAI ghi Sora API sẽ ngừng ngày 24/09/2026. Bốn bước inventory, export asset, dựng adapter và dual-run cần chạy trước mốc đó.

Từ vụ Codex chạy rm -rf trong issue #6801 đến benchmark LoopArena: cách gắn quyền shell và network của coding agent vào từng giai đoạn chạy.

Bộ thước ba câu hỏi để chia component nào giao cho LLM, component nào giữ code deterministic, và vì sao chính đường ranh đó phải là static lookup.