Vào ngày 8 tháng 9 năm 2026, Cloudflare công bố một sự cố về tính riêng tư trong mô hình GLM‑5.3 Workers AI (được triển khai tại @cf/zai-org/glm-5.3). Sự cố bắt đầu từ ngày 27 tháng 8 và kéo dài tới ngày 9 tháng 9, trong khoảng thời gian này 155 phản hồi dài hơn 681.280 token đã lộ dữ liệu của các yêu cầu trước đó.
Nguyên nhân gốc rễ là sự không khớp giữa cửa sổ ngữ cảnh 1.048.576 token của mô hình và kích thước bộ nhớ KV cache chỉ hỗ trợ 681.280 token trên GPU prefill. Khi một prompt vượt quá giới hạn, engine SGLang đánh dấu yêu cầu là “bị từ chối” nhưng thay vì trả lỗi, nó tạo một placeholder một token và tiếp tục chuyển KV cache sang node decode. Node decode sau đó tiếp tục sinh ra phản hồi dựa trên các trang cache còn lại, dẫn đến việc nội dung của các phiên trước bị trộn lẫn.
Cloudflare đã ngay lập tức tắt mô hình, sửa cấu hình để KV cache đủ dung lượng, và áp dụng bản vá cho SGLang. Sau khi kiểm tra lại toàn bộ pipeline, mô hình được đưa lại trực tuyến vào ngày 9 tháng 9. Công ty khẳng định không có bằng chứng nào cho thấy ai đã cố ý khai thác lỗi này.
Vụ việc nhắc nhở cộng đồng AI Việt Nam cần chú ý đến việc kiểm tra giới hạn token và cấu hình bộ nhớ khi triển khai các mô hình LLM lớn, đặc biệt là trong môi trường đa người dùng. Sự phản hồi nhanh của Cloudflare cũng là ví dụ tiêu biểu cho quy trình bảo mật và disclosure phối hợp.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com