Tranh luận về an toàn trí tuệ nhân tạo vừa bùng nổ dữ dội sau khi Jacob Coxon, một nghiên cứu viên AI, nộp đơn xin nghỉ việc với lý do lo ngại rủi ro sinh tồn từ công nghệ này. Sự kiện tưởng chừng cá nhân này đã nhanh chóng thu hút sự chú ý của truyền thông quốc tế, thổi bùng lên những lo ngại vốn đang tích tụ trong cộng đồng công nghệ sau chuỗi đột phá gần đây của các phòng thí nghiệm hàng đầu.
Trong bài phân tích mới nhất, nhà nghiên cứu Nathan Lambert chỉ ra rằng bầu không khí xung quanh an toàn AI đã trở nên nhạy cảm hơn sau các sự kiện lớn và những bước tiến toán học như kết quả Navier-Stokes từ OpenAI. Tuy nhiên, ông cho rằng tâm lý lo sợ nguy cơ diệt vong sinh tồn (với ước tính rủi ro trên 10% từ một số chuyên gia như Evan Hubinger) đang bị thổi phồng quá mức do bản tính con người dễ bị thu hút bởi các kịch bản thảm họa.
Lambert nhấn mạnh rằng việc quá tập trung vào kịch bản viễn tưởng “AI tiêu diệt loài người” sẽ làm xao nhãng việc phòng chống các hiểm họa thực tế hơn nhiều. Các rủi ro có khả năng cao xảy ra bao gồm tấn công mạng vào hạ tầng thiết yếu hay hiểm họa sinh học do AI hỗ trợ, vốn là những chủ đề đòi hỏi chính sách ứng phó nghiêm túc và thực tế hơn.
Đối với cộng đồng nghiên cứu và phát triển AI tại Việt Nam, sự cố này là lời nhắc nhở về tầm quan trọng của việc xây dựng hệ thống an toàn AI đa tầng. Việc cân bằng giữa đổi mới sáng tạo và quản trị rủi ro thực tế sẽ giúp người dùng và doanh nghiệp Việt Nam khai thác AI một cách an toàn, hiệu quả.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com