Áp dụng người duyệt trong vòng lặp

Có hai cách đặt người duyệt sai. Một là không đặt ở đâu cả, chờ khách phàn nàn mới biết hệ thống sai. Hai là bắt người duyệt mọi thứ: người duyệt mệt, bấm "đồng ý" theo quán tính, và lớp kiểm tra chỉ còn trên giấy. Người duyệt trong vòng lặp (human-in-the-loop) chỉ có giá trị khi đặt đúng chỗ và có tiêu chí rõ.

Bài này giúp bạn trả lời: đặt người duyệt ở đâu, duyệt bao nhiêu, và khi nào chuyển việc cho người?

Ví dụ xuyên suốt: công ty tài chính tiêu dùng

Một công ty cho vay tiêu dùng dùng Claude cho ba việc:

1. Phân loại 40.000 email khách mỗi ngày để chuyển đúng bộ phận.
2. Đề xuất xử lý khiếu nại, gồm hoàn phí. Nhóm vận hành đề xuất: hoàn dưới 1 triệu đồng thì cho tự động, không cần người duyệt, "vì số tiền nhỏ, rủi ro thấp".
3. Sơ duyệt hồ sơ vay: đề xuất duyệt hay từ chối cho chuyên viên thẩm định.

Đặt người ở đâu

Hai câu hỏi cho mỗi điểm quyết định trong quy trình: ảnh hưởng lớn tới đâu nếu sai, và đảo ngược được không. Phân loại email sai thì chuyển lại được, ảnh hưởng nhỏ. Từ chối một hồ sơ vay ảnh hưởng tới tài chính của một người và khó đảo ngược.

Chính sách sử dụng của Anthropic (Usage Policy) có yêu cầu riêng cho khuyến nghị AI rủi ro cao: những gì ảnh hưởng tới sức khoẻ, quyền pháp lý, tài chính, sinh kế, nhà ở, giáo dục hay dịch vụ thiết yếu của một người, trong các lĩnh vực như pháp lý, y tế, tài chính, tín dụng, bảo hiểm, nhà ở, việc làm. Với loại này:

• Một người có chuyên môn phải xem xét thực chất khuyến nghị, và có quyền sửa hay thay đổi nó.
• Người nhận lời khuyên hay chịu quyết định phải được báo rõ là AI đã được dùng.
• Ngoại lệ: nơi luật cho phép, không bắt buộc người duyệt khi quyết định hoàn toàn có lợi cho người đó (như chi trả một yêu cầu bảo hiểm); duyệt một phần thì không tính là hoàn toàn có lợi.

Sơ duyệt hồ sơ vay rơi đúng vào nhóm này: chuyên viên phải xem xét thật và có quyền quyết định khác đề xuất.

Giao việc theo loại rủi ro, không theo số tiền

Khung AI Fluency do Anthropic cùng hai tác giả xây dựng gọi năng lực quyết định việc nào giao cho AI, việc nào tự làm là Delegation. Đề xuất "hoàn phí nhỏ thì tự động" dựa trên số tiền, nhưng rủi ro nằm ở loại quyết định: một khoản hoàn nhỏ vẫn có thể là gian lận lặp lại, hay một tiền lệ sai với hàng nghìn khách.

Lấy mẫu khi không duyệt hết

40.000 email mỗi ngày thì không ai duyệt hết. Cách đúng là lấy mẫu theo rủi ro: duyệt toàn bộ các kết quả độ tin cậy thấp hoặc thuộc loại ảnh hưởng lớn, cộng một mẫu ngẫu nhiên nhỏ từ các kết quả độ tin cậy cao, thông thường, để phát hiện lỗi mà model tự tin. Hướng dẫn kiểm duyệt nội dung của Anthropic có cách tương tự: chấm theo mức rủi ro rồi đưa mức cao tới người duyệt.

Tiêu chí chuyển người phải rõ

Chuyển cho người "khi thấy cần" thì mỗi lần mỗi khác. Tiêu chí tốt kiểm được, ví dụ:

• Điểm tin cậy dưới một ngưỡng đã định.
• Thuộc loại quyết định ảnh hưởng lớn (từ chối vay, hoàn phí trên một mức, khiếu nại có dấu hiệu pháp lý).
• Bộ phân loại nội dung gắn cờ mơ hồ hay nhạy cảm.
• Khách yêu cầu gặp người.

Câu luyện thi chấm sai các cách: không có tiêu chí, để model tự quyết từng lượt; chỉ chuyển sau khi khách đã khiếu nại; tuỳ ai đang rảnh.

Điểm duyệt trong agent

Với agent gọi tool, người duyệt là các lời hỏi cấp quyền. Bài viết của Anthropic về auto mode của Claude Code cho một con số đáng suy nghĩ: người dùng chấp nhận 93% lời hỏi quyền. Hỏi quá nhiều thì người ta ngừng đọc kỹ. Vì vậy phải chọn đúng chỗ hỏi:

Lưu ý trong docs Agent SDK: tool đã được tự duyệt (qua allowedTools hay chế độ quyền) sẽ không bao giờ tới canUseTool, nên việc kiểm bắt buộc ở mọi lời gọi thì đặt ở hook PreToolUse. Bài viết về auto mode cũng nói bộ phân loại không thay được người xem xét cẩn thận với hạ tầng quan trọng.