Giám đốc điều hành của Microsoft, ông Satya Nadella, vừa đưa ra những nhận định quan trọng về rủi ro và an toàn AI trong một bài đăng dài trên mạng xã hội X. Theo ông, ngành công nghệ không thể tiếp tục chấp nhận một thực tế nơi AI được đối xử như những hộp đen khép kín mà con người chỉ biết chấp nhận hoặc từ chối các khuyến nghị của chúng.
Lãnh đạo Microsoft nhấn mạnh cần thiết lập một kiến trúc tin cậy mới, trong đó các mô hình AI phải được phân tách rõ ràng khỏi hệ thống điều phối công việc xung quanh. Nadella đề xuất mọi hành động có ý nghĩa của AI đều phải ghi lại bằng chứng hiển thị được cho con người và có khả năng chống chỉnh sửa. Đáng chú ý, ông khẳng định các bên phát triển phải mặc định rằng mô hình AI đã bị xâm nhập ngay từ đầu để triển khai cơ chế kiểm soát phù hợp.
Quan điểm của Nadella ví cơ chế kiểm soát này như một chiếc phanh khẩn cấp, cho phép người có thẩm quyền có thể tạm dừng hoặc ngắt hoạt động của mô hình AI ngay giữa chừng công việc. Ông cũng kêu gọi chuẩn hóa các công nghệ đóng bọc và cô lập mô hình AI tiên tiến hơn khi các hệ thống ngày càng phát triển mạnh mẽ.
Thông điệp của Satya Nadella mang đến góc nhìn chiến lược cho các doanh nghiệp và lập trình viên AI tại Việt Nam về tầm quan trọng của quản trị rủi ro. Khi tích hợp AI vào quy trình vận hành, việc thiết lập các điểm kiểm soát an toàn và khả năng can thiệp của con người là yếu tố tiên quyết để đảm bảo tính an toàn hệ thống.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com