Một nhóm nhà nghiên cứu đã công bố Sleep framework – một phương pháp học liên tục cho các LLM, cho phép mô hình tích hợp kiến thức mới và cải thiện khả năng suy luận mà không gặp hiện tượng “catastrophic forgetting”. Ý tưởng được lấy cảm hứng từ quá trình ngủ và ghi nhớ của con người.
Khung này chia quá trình hoạt động thành hai giai đoạn: Consolidation (củng cố) và Dreaming (mơ). Trong giai đoạn Consolidation, các token ngắn hạn được chuyển vào bộ nhớ dài hạn được mở rộng bằng cấu trúc Mixture‑of‑Experts (MoE). Giai đoạn Dreaming tạo ra các ví dụ tự sinh và sử dụng reinforcement learning để tự cải thiện mô hình, giống như việc não người mô phỏng các kịch bản trong giấc ngủ REM.
Kết quả thực nghiệm cho thấy mô hình áp dụng Sleep framework có thể duy trì kiến thức lên đến 10 triệu token và cải thiện độ chính xác trong các bài toán suy luận phức tạp. Điều này mở ra khả năng triển khai LLM trong môi trường thực tế, nơi dữ liệu mới liên tục xuất hiện và mô hình cần cập nhật mà không phải tái huấn luyện toàn bộ.
Với việc tích hợp Sleep framework, cộng đồng AI Việt Nam có thể phát triển các giải pháp LLM linh hoạt hơn, giảm chi phí đào tạo lại và nâng cao khả năng đáp ứng nhanh với thông tin mới. Đây có thể là một bước đột phá trong việc đưa AI vào các ứng dụng doanh nghiệp và dịch vụ công.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com