Agent AI nằm chờ vẫn tốn tiền: Google tính lại khoản đó

Agent của bạn chạy ba ngày liền, nhưng phần lớn thời gian nó chỉ ngồi chờ: chờ người duyệt bản nháp, chờ API bên thứ ba trả dữ liệu, chờ một tool chạy xong. Hoá đơn cloud thì vẫn tính đủ từng giờ.

Google Cloud vừa đưa ra Agent Compute Engine để nhắm thẳng vào khoảng chờ đó. Theo bài phân tích, dịch vụ này cho phép tạm dừng agent đang rảnh và khởi động lại tức thì mà vẫn giữ nguyên trạng thái thực thi cùng ngữ cảnh môi trường.

Cơ chế: microVM thay vì container

Nguồn mô tả Google dùng microVM cách ly ở mức phần cứng để đóng băng agent ở đúng trạng thái hiện tại, và khi cần thì agent chạy tiếp từ chỗ đã dừng. Cách này giảm thời gian boot và lượng tài nguyên so với máy ảo truyền thống — vốn phải dựng lại toàn bộ môi trường và nạp lại context từ đầu mỗi lần khởi động.

Điểm đáng chú ý thứ hai là bảo mật. Container dùng chung kernel của hệ điều hành host, nên một agent bị chiếm quyền có thể tạo lỗ hổng lan rộng. Mỗi microVM chạy kernel riêng, tạo ranh giới cách ly chặt hơn hẳn. Với agent thực thi code do AI sinh ra hoặc xử lý input từ nguồn không tin cậy, khác biệt này không nhỏ.

Khoản tiết kiệm phụ thuộc vào agent của bạn, không phải vào dịch vụ

Bài viết nói thẳng điều mà trang marketing thường bỏ qua: agent chạy liên tục hoặc nặng tính toán gần như không hưởng lợi gì từ cơ chế tạm dừng. Nếu agent chỉ chờ vài giây giữa các tác vụ, chi phí quản lý việc suspend có thể lớn hơn phần tiết kiệm được.

Trước khi đổi kiến trúc, việc cần làm là đo: agent nào của bạn thực sự giữ trạng thái trong thời gian dài, và tổng thời gian idle chiếm bao nhiêu phần trăm vòng đời của nó. Đó là con số quyết định, không phải lời hứa của nhà cung cấp.

Còn một khoản chi phí ẩn: tạm dừng agent giúp tiết kiệm CPU và bộ nhớ, nhưng bạn vẫn trả tiền lưu trạng thái của agent đó trên disk. Nguồn lưu ý rằng khi scale lên hàng nghìn môi trường, phí lưu trữ cộng dồn nhanh, và trong một số trường hợp chi phí lưu trạng thái ở mức hiệu năng cao có thể ngang với chi phí cứ để compute chạy.

Hai cái bẫy kỹ thuật

Idempotency không còn là tuỳ chọn. Nếu agent bị tạm dừng sau khi đã gửi yêu cầu thanh toán nhưng trước khi nhận xác nhận, nó có thể tỉnh dậy trong trạng thái không chắc chắn và xử lý thanh toán lần thứ hai. Mọi hành động agent thực hiện phải an toàn khi lặp lại. Nguồn nhận xét phần lớn code agent hiện nay không được viết ở mức chặt chẽ đó — và đây chính là phần công việc mà đội của bạn phải làm trước, không phải Google.

Environment drift. Một môi trường agent sống qua nhiều chu kỳ suspend–resume trong vài tuần sẽ dần lệch khỏi cấu hình gốc: file thay đổi, dependency tạm tích tụ, version không còn nhất quán. Kết quả là một môi trường "snowflake" rất khó tái hiện bug hoặc audit bảo mật. Cách chặn là đặt chính sách hết hạn: định kỳ buộc agent dựng lại môi trường từ image sạch.

Nên theo dõi gì

Nguồn ghi dịch vụ đang ở giai đoạn sớm và chưa đạt preview rộng, nên người dùng đầu đang đặt cược vào lộ trình tương lai hơn là một sản phẩm đã được kiểm chứng. Công cụ debug một máy ảo đang bị tạm dừng cũng chưa hoàn chỉnh — lỗi chỉ xuất hiện sau khi resume sẽ khó chẩn đoán.

Việc làm được ngay, không cần chờ dịch vụ mở: đo tỉ lệ idle của agent đang chạy và rà lại các lời gọi API bên ngoài xem đã idempotent chưa. Cả hai đều có giá trị kể cả khi bạn không bao giờ dùng tới Agent Compute Engine.