LangChain Trao Quyền Quản Lý Bộ Nhớ Cho AI Agents

Terrill Dicki

12 tháng 3, 2026 01:55

SDK Deep Agents của LangChain giờ đây cho phép các mô hình AI quyết định khi nào nén cửa sổ ngữ cảnh của chúng, giảm thiểu sự can thiệp thủ công trong các quy trình làm việc của agent kéo dài.

LangChain đã phát hành bản cập nhật cho SDK Deep Agents của mình, trao quyền cho các mô hình AI tự quản lý bộ nhớ của chính chúng. Tính năng mới này, được công bố ngày 11 tháng 3 năm 2026, cho phép các agent tự động kích hoạt việc nén ngữ cảnh thay vì dựa vào ngưỡng token cố định hoặc lệnh thủ công của người dùng.

Thay đổi này giải quyết một vấn đề kéo dài trong phát triển agent: cửa sổ ngữ cảnh bị đầy vào những thời điểm không thuận tiện. Các hệ thống hiện tại thường nén bộ nhớ khi đạt 85% giới hạn ngữ cảnh của mô hình — điều này có thể xảy ra giữa chừng khi đang chỉnh sửa lại hoặc trong một phiên gỡ lỗi phức tạp. Thời điểm không phù hợp dẫn đến mất ngữ cảnh và gián đoạn quy trình làm việc.

Tại sao thời điểm lại quan trọng

Nén ngữ cảnh không phải là điều mới mẻ. Kỹ thuật này thay thế các tin nhắn cũ bằng các tóm tắt ngắn gọn hơn để giữ cho agent nằm trong giới hạn token của chúng. Nhưng việc nén đúng thời điểm quan trọng như thế nào còn quan trọng hơn việc nén hay không.

Việc triển khai của LangChain xác định một số thời điểm tối ưu để nén: khi kết thúc nhiệm vụ, khi người dùng chuyển đổi trọng tâm, sau khi rút ra kết luận từ các ngữ cảnh nghiên cứu lớn, hoặc trước khi bắt đầu chỉnh sửa nhiều tệp dài. Agent về cơ bản học cách dọn dẹp trước khi bắt đầu công việc bừa bộn thay vì hoảng loạn khi hết chỗ.

Nghiên cứu của Factory AI công bố vào tháng 12 năm 2024 ủng hộ phương pháp này. Phân tích của họ cho thấy việc tóm tắt có cấu trúc — duy trì liên tục ngữ cảnh thay vì cắt ngắn dữ dội — là yếu tố then chốt cho các nhiệm vụ phức tạp của agent như gỡ lỗi. Các agent giữ được cấu trúc quy trình làm việc đã vượt trội hơn rõ rệt so với các phương pháp cắt ngắn đơn giản.

Triển khai kỹ thuật

Công cụ này được cung cấp dưới dạng middleware cho SDK Deep Agents (Python) và tích hợp với CLI hiện có. Các nhà phát triển thêm nó vào cấu hình agent của họ:

Hệ thống giữ lại 10% ngữ cảnh hiện có dưới dạng các tin nhắn gần đây nhất trong khi tóm tắt tất cả phần còn lại. LangChain đã xây dựng một lớp an toàn — toàn bộ lịch sử hội thoại vẫn tồn tại trong hệ thống tệp ảo của agent, cho phép phục hồi nếu việc nén gặp sự cố.

Kiểm thử nội bộ cho thấy các agent khá thận trọng khi kích hoạt nén. LangChain đã xác nhận tính năng này qua benchmark Terminal-bench-2 của họ và các bộ đánh giá tùy chỉnh sử dụng các trace của LangSmith. Khi các agent tự nén một cách tự chủ, họ luôn chọn những thời điểm giúp cải thiện tính liên tục của quy trình làm việc.

Bức tranh lớn hơn

Phiên bản này phản ánh một xu hướng lớn hơn trong triết lý kiến trúc agent. LangChain rõ ràng đề cập đến “bài học đắng” của Richard Sutton — quan sát rằng các phương pháp tổng quát dựa trên tính toán thường vượt trội hơn các phương pháp tinh chỉnh thủ công theo thời gian.

Thay vì các nhà phát triển phải cài đặt tỉ mỉ khi nào các agent nên quản lý bộ nhớ, khung công tác này ủy thác quyết định đó cho chính mô hình. Đó là một cược rằng khả năng lý luận của các mô hình như GPT-5.4 đã đạt đến mức có thể đưa ra các quyết định vận hành này một cách đáng tin cậy.

Đối với các nhà phát triển xây dựng các agent dài hạn hoặc tương tác, tính năng này có thể bật/tắt qua SDK và có sẵn qua lệnh /compact trong CLI. Tác động thực tế: giảm thiểu gián đoạn trong quy trình làm việc và ít phải hướng dẫn thủ công về giới hạn ngữ cảnh mà phần lớn người dùng cuối cũng không hiểu rõ.

Nguồn hình ảnh: Shutterstock