Bỏ qua để vào nội dung chính
Agent đọc dữ liệu cũ: replication lag và 4 cách chặn

Agent đọc dữ liệu cũ: replication lag và 4 cách chặn

Bởi Benjamin Hayes
16 thg 11, 20267 phút đọc

Agent giao đơn khách vừa huỷ không phải vì model bịa, mà vì tool đọc từ read replica chưa kịp cập nhật. Bốn lớp phòng thủ nên đặt ở tầng dữ liệu.

Khách hàng huỷ đơn. Một giây sau, agent kiểm tra trạng thái đơn, thấy active, và đẩy đơn đó đi giao. Bạn mở log, thấy model "bịa", rồi ngồi sửa prompt — trong khi lỗi nằm ở tầng dữ liệu: tool của agent đọc từ một read replica bất đồng bộ chưa kịp áp dụng lệnh huỷ.

Bài viết của Abivarma R S — Senior Data Scientist & AI Engineer tại IBM — gọi đúng tên vấn đề này: model suy luận hoàn toàn đúng, chỉ là trên một dòng dữ liệu đã cũ. Dưới đây là cách phân biệt hai loại lỗi đó và bốn thứ nên đặt vào tầng dữ liệu trước khi đụng tới prompt.

Vì sao độ trễ replica hiện ra như lỗi suy luận

Với replication bất đồng bộ, primary xác nhận ghi trước rồi mới chuyển sang replica. Cho tới khi replica áp dụng xong, đọc ở đó vẫn trả về giá trị cũ. Theo bài viết, AWS nói độ trễ replica của Aurora thường dưới 100 ms khá xa, nhưng nó tăng lên khi tải ghi nặng.

Hai điều quan trọng hơn con số thông thường đó, và đây là phần đáng dán lên tường: độ trễ không bao giờ bằng 0, và không có gì bảo đảm một giới hạn trên. Mọi thiết kế dựa trên giả định "chắc chỉ vài chục mili giây" là một giả định không ai ký tên bảo lãnh.

Việc đẩy traffic của agent, RAG và tool sang replica tự nó là một cách hợp lý để bảo vệ primary. Nó ổn với dashboard. Nhưng với bất cứ thứ gì đọc một dòng rồi hành động dựa trên dòng đó, đây là cái bẫy — và lý do nằm ở chỗ con người với agent phản ứng khác nhau: người nhìn dashboard cũ sẽ kiểm tra lại, còn agent thì cứ thế làm.

Ba bất thường ánh xạ thẳng vào agent

Bài viết dẫn cuốn Designing Data-Intensive Applications của Kleppmann để gọi tên các bất thường mà replication bất đồng bộ gây ra, và chỉ ra ba cái ánh xạ thẳng sang agent:

  • read-your-writes — thay đổi bạn vừa ghi biến mất khi đọc lại.
  • monotonic reads — hai bước chạm hai replica khác nhau, và thời gian chạy ngược.
  • consistent prefix reads — một khiếu nại xuất hiện trước cả hoá đơn của nó.

Có một điểm tinh tế mà bài viết nói là hay làm người ta vấp. Read-your-writes là lời hứa dành cho chính client đã ghi. Khi khách hàng huỷ đơn còn một dispatch agent riêng biệt mới là bên đọc, thì một bản vá gắn theo user sẽ không giúp được gì — hai bên là hai client khác nhau.

Điều này đáng kiểm tra với các đội dựng agent trên hệ thống giao vận, thanh toán hay đặt chỗ, nơi luồng "một service ghi, một agent khác đọc rồi hành động" rất dễ xuất hiện.

Bốn thứ nên đặt vào tầng dữ liệu

1. Định tuyến theo rủi ro, ghim theo thực thể

Đọc phục vụ phân tích cứ để trên replica. Đọc nào dẫn tới một hành động thì đi thẳng vào primary, ít nhất trong một khoảng ngắn sau khi thực thể đó thay đổi. Điểm then chốt: ghim theo order ID, không phải theo user — đúng với lập luận read-your-writes ở trên. Bài viết cũng nói rõ cửa sổ 10 giây chỉ là một heuristic, không phải một giới hạn.

2. Chờ theo vị trí log

Cách chặt hơn là lấy LSN trên primary sau khi ghi, rồi bắt replica xác nhận đã replay tới vị trí đó trước khi đọc. Theo bài viết, PostgreSQL 19 thêm WAIT FOR LSN — rất mới và còn ở giai đoạn release candidate — còn MySQL có WAIT_FOR_EXECUTED_GTID_SET. Khi hết thời gian chờ, code của bạn đọc primary.

3. Mang theo thông tin độ tươi, và ép buộc bằng code

Tool trả về LSN nguồn, thời điểm đọc, và việc nó có chạm primary hay không. Gateway từ chối các lần đọc cũ. Câu đáng nhớ nhất trong bài: một quy tắc đặt trong system prompt là một lời đề nghị, không phải một cơ chế ép buộc. Nếu tính đúng đắn của nghiệp vụ phụ thuộc vào nó, nó phải nằm trong code.

4. Để chính lệnh ghi kiểm tra lại trạng thái

Bước cuối cùng làm hành động trở thành có điều kiện: UPDATE ... WHERE status = 'active'. Trả về 0 dòng nghĩa là đừng giao hàng. Đây là lớp phòng thủ rẻ nhất trong cả bốn, vì nó không cần thêm hạ tầng nào.

Cái bẫy đừng rơi vào

Bài viết cảnh báo một cách làm giả bước chờ LSN mà thoạt nhìn có vẻ thông minh: thêm điều kiện WHERE pg_last_wal_replay_lsn() >= ... vào truy vấn. Vấn đề là nó trả về 0 dòng, và agent kết luận rằng đơn hàng không tồn tại.

Đó là kiểu lỗi tệ hơn lỗi ban đầu. Dữ liệu cũ làm agent hành động sai; truy vấn rỗng làm agent khẳng định một điều sai hoàn toàn khác, với đầy đủ tự tin, và lần này log sẽ trông như một ca hallucinate thật.

Vì sao log của agent không xác nhận được điều gì

Khi debug loại lỗi này, câu hỏi thực tế là: tool đã đọc đúng cái gì, ở thời điểm nào. Một bài viết khác trên Dev.to lập luận rằng log thường không trả lời được câu đó, và lý do mang tính cấu trúc: người kể chuyện chính là thứ đang bị quan sát. Một bước agent bỏ qua có thể không xuất hiện trong log; một bước thất bại có thể được ghi lại là đã xong.

Bài đó chia thành ba lớp — log, telemetry, và bản ghi bằng chứng do tầng thực thi tạo ra — rồi đề xuất một phép thử gọn: một người ngoài có dựng lại được lần chạy này không? Cần tới tài khoản của bạn, cửa sổ lưu trữ của nhà cung cấp, hoặc lời bạn nói, thì đó là theo dõi, không phải observability.

Cần nói thẳng: tác giả bài đó là người làm sản phẩm trong chính lĩnh vực này và bài có kèm bảng giá, nên hãy đọc phần khuyến nghị công cụ với sự dè dặt tương ứng. Bản thân bài cũng tự giới hạn: một bản ghi chỉ chứng minh kết quả đã lưu không bị sửa sau khi lưu, chứ không chứng minh kết quả đó đúng. Áp vào bài toán replication lag, điều đó vừa đủ dùng — bạn chỉ cần biết tool đã đọc được gì, chứ không cần ai chứng thực rằng dữ liệu đó đúng.

Những gì cách làm này không giải quyết

Bài viết gốc tự đặt giới hạn, và nên giữ nguyên giới hạn đó: không có bước nào ở trên chứng nhận câu trả lời là đúng. Một lần đọc tươi mới từ nhầm bảng vẫn là một lần đọc sai. Ghim về primary làm tăng tải lên primary. Và một cache cũ nằm phía trước tất cả sẽ xoá sạch một nửa công sức.

Làm gì trước

Liệt kê các tool của agent và đánh dấu tool nào đọc một dòng rồi dẫn tới hành động — đó là danh sách duy nhất cần quan tâm, và nó thường ngắn. Với riêng danh sách đó, kiểm tra connection string xem có đang trỏ tới replica không, rồi thêm lớp phòng thủ số 4 trước vì nó rẻ nhất. Nếu hệ thống đã trả giá bằng một sự cố thật, mới tính tới bước chờ LSN. Và lần tới khi ai đó nói agent "hallucinate" về trạng thái một đơn hàng, hãy hỏi trước: lần đọc đó chạm primary hay replica?

Không spam, hủy đăng ký bất kỳ lúc nào.

Bài viết liên quan