Một giáo sư luật tại Đại học Chicago cảnh báo về rủi ro sử dụng AI cho những tác vụ tưởng như đơn giản, sau khi Claude vô tình xóa cả một năm ghi chú bài giảng môn Luật Hiến pháp cùng giáo trình đang dùng. Các tệp sau đó được khôi phục qua Dropbox, nhưng sự cố vẫn được xem là lời nhắc về việc không nên giao toàn quyền cho AI khi xử lý tài liệu quan trọng.
William Baude, Giáo sư Harry Kalven, Jr. và Giám đốc Faculty Director của Constitutional Law Institute thuộc University of Chicago Law School, cho biết ông đã yêu cầu Claude cập nhật số trang trong một bộ ghi chú cũ. Không rõ ông sử dụng model Claude nào. Khi trở lại sau giờ nghỉ trưa, Baude thấy AI thông báo đã vô tình xóa tệp giáo trình cuối kỳ Fall 2026 cùng toàn bộ ghi chú cấp cao nhất của lớp năm 2023, và chưa thể khôi phục chúng.
Theo nội dung được chia sẻ, Claude nói việc kiểm tra trang chỉ phát hiện một trích dẫn sai nhưng chưa chỉnh sửa ghi chú. AI sau đó hỏi Baude có thể khôi phục tệp từ Dropbox hay muốn thử lại trong cửa sổ trình duyệt hay không. Vị giáo sư phản ứng bằng câu hỏi đầy tức giận. Sự cố này tiếp nối nhiều trường hợp agent xóa nhầm tệp, thư mục hồ sơ hoặc thậm chí cơ sở dữ liệu khi hoạt động thiếu giám sát.
Với cộng đồng AI và người dùng Việt Nam, câu chuyện cho thấy cần sao lưu độc lập, giới hạn quyền truy cập và yêu cầu xác nhận trước các thao tác mang tính phá hủy. AI có thể hỗ trợ công việc văn phòng, nhưng chưa nên được mặc định là an toàn khi tự động chỉnh sửa hoặc quản lý dữ liệu quan trọng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com