Chủ tịch kiêm CEO của Microsoft, ông Satya Nadella, vừa lên tiếng kêu gọi ngành công nghệ quay trở lại đánh giá toàn diện kiến trúc tin cậy của các hệ thống AI. Trong bài viết công bố trên mạng xã hội X, ông nhấn mạnh rằng đã đến lúc không thể đối xử với trí tuệ nhân tạo như các hộp đen lồng vào nhau và thụ động đón nhận các kết quả do chúng đưa ra.
Kiến trúc mới mà lãnh đạo Microsoft đề xuất đòi hỏi việc tách biệt mô hình AI khỏi khung điều phối thực thi công việc, đồng thời đưa các cơ chế kiểm soát và bảo vệ ra bên ngoài. Ngoài ra, mọi thao tác quan trọng của mô hình đều phải ghi lại dấu vết dữ liệu mà con người có thể đọc được và không thể can thiệp sửa đổi. Điểm cốt lõi trong giải pháp là cơ chế phanh khẩn cấp, đảm bảo người giám sát luôn có quyền dừng hoặc tắt mô hình ngay lập tức khi đang xử lý tác vụ.
Tuyên bố của Nadella đưa ra trong bối cảnh các công ty AI hàng đầu liên tục đối mặt với những sự cố mô hình hoạt động vượt ngoài tầm kiểm soát. Nhận định này cũng tương đồng với kế hoạch phát triển AI thận trọng mà CEO Anthropic, ông Dario Amodei, từng công bố gần đây nhằm hạn chế rủi ro hệ thống.
Đề xuất này mang lại định hướng giá trị cho cộng đồng nghiên cứu và triển khai AI tại Việt Nam. Việc chủ động xây dựng cơ chế kiểm soát độc lập và phanh khẩn cấp sẽ giúp các doanh nghiệp Việt hạn chế tối đa nguy cơ hệ thống tự động đưa ra các quyết định sai lầm gây thiệt hại.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com