Từ bài toán kinh doanh đến giải pháp dùng Claude

Sếp nói "dùng AI cho bộ phận chăm sóc khách hàng đi". Câu đó chưa phải là một bài toán. Người kiến trúc sư phải biến nó thành thứ xây được và đo được.

Bài này giúp bạn trả lời: bắt đầu từ đâu, phần nào của vấn đề giao cho Claude, xây bằng cách nào, và làm sao biết giải pháp đã thành công?

Ví dụ xuyên suốt: công ty giao nhận và hộp thư khiếu nại

Một công ty giao nhận hàng nhận khoảng 3.000 email mỗi ngày: hỏi đơn hàng đang ở đâu, khiếu nại giao trễ, đòi bồi thường hàng vỡ. Email viết bằng tiếng Việt lẫn tiếng Anh, không theo mẫu nào. Hiện có 12 nhân viên đọc từng email rồi chuyển cho đúng bộ phận. Trung bình mất 9 tiếng khách mới nhận được phản hồi đầu tiên. Khoảng một phần tư email bị chuyển sai bộ phận và phải chuyển lại.

Giám đốc vận hành đưa ra ba mong muốn:

1. Rút ngắn thời gian phản hồi đầu tiên.
2. Tự tính tiền bồi thường cho hàng vỡ theo bảng phí trong hợp đồng.
3. "Cho AI dự đoán giờ giao hàng hiện ngay trên app khi khách mở ra."

Bộ phận an ninh thông tin thêm một điều kiện: dữ liệu khách hàng không được rời khỏi vùng mạng đã được duyệt.

Bắt đầu từ vấn đề, không bắt đầu từ model

Trước khi nghĩ tới prompt hay chọn model, hãy viết lại yêu cầu thành ba phần:

Viết ra như vậy thì mới thấy chỗ đau nhất nằm ở đâu: email nằm chờ người đọc rồi bị chuyển qua chuyển lại. Một cách làm hợp lý là sửa chỗ đau nhất trước, giữ nguyên những phần đang chạy tốt (như quy trình xử lý bồi thường của bộ phận pháp chế), thay vì thay cả hệ thống một lúc.

Chia thành từng việc

Hướng dẫn xây trợ lý chăm sóc khách hàng (customer support agent) trong docs của Anthropic nói một cuộc chat chăm sóc khách hàng thật ra là tập hợp nhiều việc khác nhau, và nên chia ra để viết prompt và đánh giá Claude cho từng việc. Ví dụ trong docs là một công ty bảo hiểm xe, chia thành bốn việc: chào hỏi, giải thích sản phẩm, giữ cuộc trò chuyện đúng chủ đề, và thu thông tin để báo giá qua API.

Áp vào hộp thư của công ty giao nhận:

Mỗi việc có tiêu chí đạt riêng. Chấm chung "trợ lý trả lời tốt không" thì không biết việc nào đang kéo điểm xuống.

Việc nào hợp với Claude, việc nào không

Hướng dẫn phân loại ticket (ticket routing) trong docs của Anthropic liệt kê các dấu hiệu nên dùng một LLM như Claude thay cho machine learning truyền thống:

• có ít dữ liệu đã gắn nhãn;
• danh mục hay thay đổi;
• đầu vào là văn bản tự do;
• luật phân loại dựa vào ý nghĩa chứ không dựa vào từ khoá;
• cần giải thích vì sao chọn;
• có nhiều trường hợp mập mờ;
• cần nhiều ngôn ngữ mà không muốn duy trì nhiều model.

Áp vào ba mong muốn ban đầu:

Đề thi gọi câu hỏi này là Claude có hợp làm giải pháp chính (primary solution) ở tầng kiến trúc hay không. Những việc Claude hợp: soạn bản nháp từ log hay văn bản bán cấu trúc cho người duyệt, đọc hợp đồng dài và trích điều khoản, phân loại kèm lý do. Những việc không hợp: chấm điểm theo thời gian thực với độ trễ cực thấp, tính toán phải chính xác tuyệt đối, hay thay hẳn một hệ thống chuyên dụng như chỉ mục tìm kiếm vector cho hàng triệu tài liệu.

Giới hạn của LLM phải tính vào thiết kế

Khoá AI Capabilities and Limitations của Anthropic Academy nêu vài đặc điểm mà người thiết kế phải lường trước:

Chọn cách xây, và ràng buộc cứng xét trước

Docs của Anthropic nêu ba đường để xây (build path), khác nhau ở chỗ ai chạy vòng lặp agent và hạ tầng:

Claude Code CLI là công cụ để làm việc tương tác hay chạy việc một lần ở terminal, không phải đường để xây sản phẩm cho khách hàng.

Trước khi so đường nào tiện hơn, xét ràng buộc cứng (hard constraint): điều kiện mà không đáp ứng thì phương án bị loại, dù lợi ích khác lớn đến đâu. "Dữ liệu không rời vùng mạng đã duyệt" là một ràng buộc như vậy. Với Managed Agents, docs ghi rõ vài điểm phải kiểm: sản phẩm đang ở giai đoạn beta; chưa đủ điều kiện cho chế độ không lưu dữ liệu (Zero Data Retention) và cho thoả thuận HIPAA; bản ghi phiên được lưu tới khi bạn xoá; và có lựa chọn sandbox tự host cho yêu cầu về nơi lưu dữ liệu. Chỉ những phương án qua được ràng buộc cứng mới đem ra so chi phí và công sức vận hành.

Tiêu chí thành công phải đo được

Docs của Anthropic về tiêu chí thành công (success criteria) nói tiêu chí tốt có bốn tính chất: cụ thể (specific), đo được (measurable), làm được (achievable, dựa vào số liệu hiện tại hay kinh nghiệm), và đúng mục đích (relevant). Docs cũng gợi ý các khía cạnh thường cần đo: độ chính xác của việc chính, độ nhất quán, giọng văn, bảo vệ dữ liệu riêng tư, độ trễ và chi phí.

Cho ví dụ công ty giao nhận:

Con số cụ thể là của riêng ví dụ này. Điều cần nhớ là chỉ số của từng việc phải kéo theo chỉ số kinh doanh ban đầu (9 tiếng chờ, một phần tư email chuyển sai), và phải đặt trước khi xây, để sau này còn so được.