Học sinh đen bị bắt giữ do AI nhầm gói Doritos thành súng

Hacker News · 1 phút đọc
hoc sinh den bi bat giu do ai nham goi doritos thanh sung

Tổ chức Lawyers’ Committee for Civil Rights Under Law đã khởi kiện Omnilert LLC, Hệ thống trường học Baltimore County, Cảnh sát quận Baltimore và các cá nhân liên quan thay mặt 4 học sinh da đen — Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. và Keith Winfield III. Vụ việc xảy ra tháng 10/2025 khi hệ thống Omnilert Gun Detect báo động sai với xác suất 90% rằng có súng trên campus, thực tế chỉ là gói Doritos trong tay học sinh.

Chuỗi lỗi tiếp theo càng làm trầm trọng sự việc: dù nhân viên trường và cảnh sát đã xem hình ảnh xác nhận là nhầm lẫn và hủy cảnh báo, nhưng do thiếu giao thức xử lý cảnh báo bị hủy, đội cảnh sát vũ trang vẫn được điều động. Học sinh bị buộc quỳ, bị nắm tay và tra tìm ngay trước cổng trường. Tổ chức quyền dân sự nhấn mạnh đây là kết quả của “sự phụ thuộc quá mức vào AI kết hợp với giao tiếp và phối hợp kém cỏi giữa các cơ quan”.

Vụ kiện này đặt ra bài học đau đớn cho Việt Nam khi đang đẩy mạnh áp dụng AI camera an ninh tại trường học, khu công nghiệp và đô thị thông minh. Cần có khung pháp lý chặt chẽ, quy trình xác minh nhân tử bắt buộc trước khi điều động lực lượng vũ trang, và trách nhiệm pháp lý rõ ràng cho nhà cung cấp AI khi hệ thống gây hại do false positive (dương tính giả).

Bài gốc · lawyerscommittee.orgĐọc bài gốc tại Hacker News

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.