Memory Management: Kiến trúc Quản lý Bộ nhớ Ngắn hạn và Dài hạn cho AI Agent

Một trong những hạn chế cố hữu của các mô hình ngôn ngữ lớn (LLM) là tính chất không trạng thái (stateless): mỗi lần gọi API là một lần mô hình "quên sạch" mọi điều đã thảo luận trước đó.

Để xây dựng các tác tử AI có khả năng đồng hành lâu dài cùng người dùng, tự học hỏi từ các tương tác trong quá khứ và duy trì tính nhất quán xuyên suốt nhiều phiên làm việc, Memory Management (Quản trị bộ nhớ) là hệ thống kiến trúc không thể thiếu.

1. Phân tầng Bộ nhớ trong Hệ thống AI Agent#

Lấy cảm hứng từ khoa học nhận thức của con người, bộ nhớ của Agent được chia thành các tầng rõ rệt:

1. Working Memory (Bộ nhớ làm việc / Ngắn hạn):
   • Tương đương với bộ nhớ RAM: lưu trữ các lượt hội thoại gần nhất và kết quả thực thi công cụ tức thời đang nằm trực tiếp trong cửa sổ ngữ cảnh (context window).
2. Episodic Memory (Bộ nhớ sự kiện / Trải nghiệm):
   • Lưu trữ lịch sử các sự kiện cụ thể đã diễn ra theo dòng thời gian (Who, What, When). Giúp Agent nhớ lại: "Tuần trước người dùng đã phàn nàn về lỗi giao diện trên Safari".
3. Semantic Memory (Bộ nhớ ngữ nghĩa / Tri thức thế giới):
   • Lưu trữ các sự thật, định nghĩa và kiến thức khái quát được trừu tượng hóa từ nhiều trải nghiệm (ví dụ sở thích của người dùng, quy tắc mã nguồn của dự án).
4. Parametric Memory (Bộ nhớ tham số):
   • Toàn bộ tri thức đã được đóng băng bên trong các trọng số nơ-ron của mô hình trong quá trình pre-training.

2. Các kỹ thuật Quản trị Bộ nhớ Tiên tiến#

2.1. Generative Agents Memory Stream (Mô hình Stanford Smallville)#

• Agent duy trì một dòng thời gian liên tục chứa tất cả các quan sát (Observations).
• Khi cần đưa ra quyết định, Agent truy xuất các ký ức dựa trên điểm số trọng số tổng hợp từ 3 yếu tố: $$\text{Score} = \alpha \cdot \text{Độ mới (Recency)} + \beta \cdot \text{Độ quan trọng (Importance)} + \gamma \cdot \text{Độ liên quan (Relevance)}$$
• Định kỳ, Agent kích hoạt tiến trình phản tư (Reflection): tự đặt câu hỏi về các quan sát gần đây để đúc kết thành các kết luận cấp cao hơn và ghi ngược lại vào dòng ký ức.

2.2. Temporal Knowledge Graph Memory (Đồ thị tri thức hai chiều thời gian)#

• Vấn đề: Con người có thể thay đổi sở thích hoặc chức vụ theo thời gian. Ví dụ năm 2024 người dùng thích Java, nhưng năm 2026 đã chuyển hẳn sang Rust. Nếu lưu dạng vector thông thường, Agent sẽ bị mâu thuẫn giữa hai sự thật này.
• Giải pháp: Lưu trữ tri thức dưới dạng đồ thị tri thức có gắn nhãn thời gian kép (Bi-temporal validity):
  • Thời điểm sự thật bắt đầu có hiệu lực (valid_time).
  • Thời điểm sự thật bị vô hiệu hóa (invalid_time).
  • Khi có thông tin mới, hệ thống không xóa thông tin cũ mà cập nhật nhãn hết hạn, đảm bảo Agent luôn trả lời đúng theo ngữ cảnh lịch sử.

2.3. Memory Decay & Forgetting Policies (Chính sách Quên có chủ đích)#

• Bộ nhớ phình to vô hạn sẽ làm suy giảm nghiêm trọng độ chính xác của mô hình và tăng chi phí lưu trữ.
• Chính sách lãng quên chủ động:
  • Áp dụng hàm suy giảm theo luật Ebbinghaus: Ký ức không được truy cập sẽ giảm dần độ ưu tiên và tự động bị dọn dẹp (TTL - Time to Live).
  • Tuân thủ quy định pháp lý về quyền được lãng quên (GDPR Article 17) đối với dữ liệu cá nhân nhạy cảm.