Giới hạn context và Memory, khi nào bắt đầu lại, tóm tắt hay lưu lâu dài

Một cuộc chat lập kế hoạch kéo dài cả tuần thường bắt đầu rất tốt, rồi tới một lúc Claude quên ràng buộc đã chốt, lặp lại ý cũ, hay trả lời lệch yêu cầu. Đó không phải Claude "mệt", mà là chuyện context.

Bài này giúp bạn trả lời: context window gồm những gì, và khi nào nên tóm tắt, mở chat mới, hay lưu thông tin lâu dài?

Ví dụ xuyên suốt: hội nghị khách hàng ba ngày

Chị Vy là điều phối viên ở một công ty tổ chức sự kiện, đang lên kế hoạch hội nghị khách hàng ba ngày cho 400 khách. Chị dùng một cuộc chat duy nhất suốt hai tuần: chốt ngân sách, chọn khách sạn, lên lịch từng phiên, soạn thư mời. Tới lượt thứ 70, Claude đề xuất một khách sạn đã bị loại từ tuần trước và quên rằng ngân sách tiệc tối đã giảm.

Context window là gì

Context window là lượng chữ có giới hạn mà model xét cùng lúc khi trả lời. Nó gồm: lịch sử cuộc chat, tài liệu bạn đính kèm, tin nhắn hiện tại, và cả phần chỉ dẫn, tài liệu của Project hay công cụ đang bật. Nó không phải một nút chỉnh được, cũng không phải "trí nhớ" kéo dài qua mọi cuộc chat.

Trang hỗ trợ của Claude phân biệt hai loại giới hạn:

Chat dài tự thu gọn

Trên gói trả phí, khi bật code execution, Claude tự quản lý context: khi cuộc chat gần chạm giới hạn, Claude tóm tắt các tin nhắn cũ để có chỗ cho nội dung mới, nên phần lớn cuộc chat tiếp tục được. Lịch sử đầy đủ vẫn được giữ để Claude tham chiếu. Đổi lại, cuộc chat dài kiểu này dùng hết hạn mức nhanh hơn.

Vì vậy, với một buổi brainstorm dùng một lần, không cần giữ gì về sau, khi gần chạm giới hạn thì cứ để cuộc chat chạy tiếp và tự thu gọn. Chia ra bốn cuộc chat, dừng lại mở chat mới, hay dựng hẳn một Project đều là thêm việc không cần.

Chat dài bị trôi: tóm tắt trước

Tự thu gọn giúp cuộc chat không bị dừng, nhưng không bảo đảm Claude nhớ đúng từng quyết định. Khi kết quả bắt đầu lệch như cuộc chat của chị Vy, việc thử đầu tiên là tóm tắt trạng thái hiện tại rồi làm tiếp với một prompt tập trung:

Trước khi làm tiếp, đây là trạng thái đã chốt:
- Ngân sách tổng 1,2 tỉ; tiệc tối đã giảm còn 180 triệu.
- Khách sạn: chọn Sông Hàn; đã loại Bãi Biển Xanh và Hoa Sen.
- Lịch: ngày 1 hội thảo, ngày 2 tham quan, ngày 3 tổng kết.
Việc tiếp theo: soạn lịch chi tiết ngày 2, theo đúng các điểm trên.

Khi nào mở chat mới

Mở chat mới khi:

• Bắt đầu một việc không liên quan. Nhồi nhiều việc vào một cuộc chat làm context đầy những thứ không cần, và trang hỗ trợ về hạn mức liệt kê độ dài cuộc chat là một trong những thứ làm tốn hạn mức.
• Cuộc chat đã trôi tới mức tóm tắt không cứu được, và công việc còn kéo dài.

Chuyển từ cuộc chat dài sang phiên mới theo thứ tự:

Trang "Usage limit best practices" khuyên lên kế hoạch trước khi chat, đưa sẵn bối cảnh ngay từ đầu, gom các câu hỏi liên quan vào một tin nhắn, và dùng Project cho tài liệu dùng nhiều lần (nội dung Project được lưu đệm nên dùng lại tốn ít hạn mức hơn). Ghép lại thành thói quen giúp làm được nhiều hơn trong hạn mức mà không giảm chất lượng: quyết định mình cần gì trước khi bắt đầu → đưa yêu cầu và tài liệu liên quan vào ngay tin nhắn đầu → hỏi tiếp dựa trên tin nhắn đầu đó → việc mới không liên quan thì mở chat mới.

Công cụ và connector cũng chiếm context. Trang hỗ trợ khuyên để ý số công cụ đang bật. Đang soạn thảo đơn giản mà vẫn bật nhiều connector không dùng tới thì tắt chúng đi, khi cần thì bật lại; không cần xoá hẳn khỏi tài khoản.

Lưu lâu dài: Project, Memory hay không lưu gì

Memory bật sẵn trên gói Free, Pro, Max, Ultra; trên gói Team và Enterprise thì chủ tổ chức quyết định có cho dùng không. Khi làm trong một Project, Claude dùng memory của Project đó cùng memory chung của bạn, nhưng không dùng memory của Project khác. Muốn một cuộc chat không dùng memory mà vẫn lưu trong lịch sử, tắt Memory ở menu "+" trước khi gửi tin đầu tiên.

Trên gói trả phí, Project còn tự chuyển sang chế độ tìm trong tài liệu (RAG) khi tài liệu gần chạm giới hạn context, nên chứa được nhiều gấp tới 10 lần mà Claude chỉ nạp phần liên quan.

1. Việc mới không liên quan?Mở chat mới
2. Chat dài bắt đầu trôi khỏi yêu cầu?Tóm tắt trạng thái, làm tiếp với prompt tập trung
3. Brainstorm dùng một lần sắp chạm giới hạn?Cứ để chat tự thu gọn
4. Tài liệu cần dùng qua nhiều cuộc chat?Đưa vào Project
5. Còn lạiThông tin về bạn dùng lại thường xuyên: để Memory ghi nhớ