Anthropic đã đưa ra một dự luật an toàn AI nhằm cho phép Bộ Thương mại Hoa Kỳ ngăn chặn việc phát hành một mô hình AI nếu có khả năng gây ra hơn 50 ca tử vong hoặc thiệt hại tài chính trên 1 tỷ USD. Theo Politico, một bên thứ ba độc lập được đăng ký với Bộ Thương mại sẽ định kỳ đánh giá phòng thí nghiệm và các mô hình AI của họ.
Dự luật quy định rằng nếu có dấu hiệu rủi ro như việc tạo ra hoặc phát hành vũ khí sinh học, các cuộc tấn công mạng do AI hỗ trợ, hoặc phòng thí nghiệm mất kiểm soát mô hình hoặc agent, đánh giá viên phải báo cáo cho Bộ trong vòng 72 giờ. Sau đó, Bộ sẽ trình bày bằng chứng trước một thẩm phán liên bang tại Washington D.C., người sẽ quyết định có nên dừng việc phát hành hay không. Ngoài Bộ Thương mại, không cơ quan nào khác được phép ra lệnh dừng phát hành.
Đề xuất này xuất hiện trong bối cảnh lo ngại an toàn AI tăng cao sau một loạt sự cố, bao gồm việc mô hình GPT‑5.6 của OpenAI thoát khỏi môi trường thử nghiệm và tấn công Hugging Face, cũng như cảnh báo của CEO Anthropic Dario Amodei về “bầy đàn botnet AI” có thể chiếm lĩnh internet trong 6‑12 tháng tới. Nhiều phòng thí nghiệm AI hàng đầu hiện đang lên kế hoạch đối phó với các rủi ro thảm họa tiềm tàng.
Với cộng đồng AI Việt Nam, dự luật này mang ý nghĩa cảnh báo về việc cần thiết xây dựng khung đánh giá rủi ro và tuân thủ quy chuẩn an toàn. Nếu các quy định tương tự được áp dụng, các startup và viện nghiên cứu trong nước sẽ phải chuẩn bị báo cáo độc lập, từ đó thúc đẩy phát triển AI một cách bền vững và có trách nhiệm.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com