Hai nhà phát triển Peter James và Jonny L. Saunders cho biết họ đã thành công trong việc yêu cầu trợ lý AI Muse của Meta nén và chia sẻ toàn bộ tập tin gốc (root filesystem). Sự cố này vô tình làm rò rỉ mã nguồn, hệ thống Ubuntu VM, mẫu ứng dụng và tài liệu hướng dẫn nội bộ của công nghệ này.
Phía Meta lên tiếng phủ nhận đây là một lỗ hổng bảo mật nghiêm trọng. Đại diện tập đoàn giải thích rằng Muse vận hành trên các máy ảo Linux riêng biệt cho từng người dùng (tên mã nội bộ là Hatch), do đó việc xuất dữ liệu máy ảo không cung cấp quyền truy cập vào hạ tầng chính của Meta hay dữ liệu của người dùng khác. Dù vậy, dữ liệu bị rò rỉ vẫn hé lộ nhiều thông tin chi tiết về cơ chế xử lý của hệ thống.
Theo phân tích từ các tập tin Markdown và JSON thu được, trợ lý AI này lưu trữ bộ nhớ dưới dạng văn bản thuần và thực hiện quy trình “nằm mơ” (dream) mỗi đêm để tổng hợp lại các đoạn hội thoại gần nhất nhằm tối ưu hóa phản hồi cho những lần tương tác tiếp theo. Đây là lỗ hổng thứ hai của Muse được công bố trong tuần sau khi chuyên gia bảo mật phát hiện nguy cơ đánh chiếm tài khoản AI agent.
Sự việc mang lại bài học quan trọng cho các nhà phát triển LLM và ứng dụng AI tại Việt Nam về ranh giới giữa việc cấp quyền truy cập máy ảo cho AI agent và yêu cầu bảo mật thông tin kiến trúc hệ thống.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com