ai-workflows

Phiên càng dài, mỗi request càng mang nhiều token hơn. Cách đọc log để đo đường cong chi phí của chính bạn, và số liệu thật về cache ngữ nghĩa.

Widget mã nguồn mở đưa ba hạn mức usage của Claude ra desktop, kèm số đo cho thấy request cuối phiên cõng gấp 3,9 lần token so với đầu phiên.

Nhận dạng giọng nói chạy local không có nghĩa là cả workflow dictation chạy local. Đây là quy trình kiểm tra từng chặng trên Mac trước khi đọc dữ liệu nhạy cảm.

Nói prompt cho Cursor và Claude Code nhanh hơn gõ, nhưng audio và transcript có thể rời máy. Workflow và checklist riêng tư nên chạy trước khi bật mic.

Quy trình ba tầng retrieval, context, generation giúp xác định lỗi ứng dụng LLM nằm ở đâu trước khi bạn tốn tiền đổi model hay chạy fine-tuning.

Pipeline 31,4 GB đẩy Mac 48 GB vào swap ngay ở bước VAE decode. Vì sao model CPU offload không cứu được, và cách nạp từng model theo đúng stage.

Google AI Edge Foresight phiên âm và tóm tắt cuộc họp ngay trên máy Mac Apple Silicon, miễn phí, dữ liệu không rời khỏi máy. Giới hạn và chi phí on-device.

Sửa prompt xong ship luôn rồi vỡ ba thứ khác? Một eval harness chỉ dùng stdlib Python biến prompt thành thứ test được và chặn regression ngay ở CI.

Hai thí nghiệm RAG công bố tuần này: chunker cắt cố định rơi giữa câu 98% số lần, còn một column comment thì bị đếm ba lần trên bốn kênh xếp hạng.

2.114 lần chạy headless, 41 lần báo thành công nhưng không làm gì cả. Năm nguyên nhân đo được và bốn luật guard để job cron fail cho ra fail.

Nvidia mở beta PAIR, tool miễn phí gộp máy trong cùng mạng để chạy inference local với Ollama. Yêu cầu GPU, bảo mật mTLS và con số 165 TFLOPs.

Chạy model rẻ trước, chấm output bằng gate cấu trúc, chỉ escalate khi trượt: cách một team cắt 71% hóa đơn LLM và cái giá phải trả ở p95, p99.