Anthropic, một trong những phòng thí nghiệm AI hàng đầu, vừa công bố dự thảo luật AI safety mà họ hy vọng sẽ được Quốc hội Mỹ xem xét. Dự thảo quy định rằng một mô hình AI có thể bị ngăn chặn nếu có “rủi ro tức thời, có thể dự đoán” gây chết hơn 50 người hoặc thiệt hại tài sản trên một tỷ đô la.
Tiêu chí rủi ro này dựa trên mô hình luật California Senate Bill 53 và yêu cầu các “đánh giá độc lập” được đăng ký với Bộ Thương mại Mỹ. Các đánh giá này có thể được tài trợ bởi các công ty AI, với điều kiện thanh toán không phụ thuộc vào kết quả.
Khi một đánh giá xác định rủi ro, họ có 72 giờ để thông báo cho Bộ Thương mại, và Bộ sẽ phải yêu cầu một thẩm phán D.C. ra lệnh ngừng phát hành mô hình. Dự thảo còn cấm các cơ quan liên bang tự mình quyết định ngừng phát hành, khiến quyền quyết định tập trung vào tòa án.
Những quan ngại được nêu ra bao gồm khả năng tài trợ ảnh hưởng đến tính khách quan của các đánh giá và việc hạn chế quyền hành của các cơ quan quản lý. Động thái này phản ánh xu hướng các công ty AI muốn tự đề xuất khung pháp lý thay vì chờ quy định từ chính phủ.
Đối với cộng đồng AI Việt Nam, dự thảo này đưa ra một ví dụ thực tiễn về cách các công ty công nghệ có thể tham gia vào việc định hình chính sách an toàn AI, đồng thời cảnh báo về những thách thức trong việc cân bằng giữa đổi mới và bảo vệ xã hội.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com