Hội đồng Khoa học Độc lập về Trí tuệ Nhân tạo của Liên Hợp Quốc (UN) vừa phát đi cảnh báo quan trọng, yêu cầu các chính phủ cần sớm kiểm soát các AI agent ngày càng thông minh trước khi các rủi ro của chúng vượt tầm kiểm soát. Báo cáo được đưa ra đúng thời điểm Đại hội đồng Liên Hợp Quốc diễn ra tại New York và hai cường quốc Mỹ – Trung chuẩn bị bước vào các cuộc đàm phán song phương về quản trị AI.
Báo cáo áp dụng nguyên tắc phòng ngừa (precautionary principle) vốn được ký kết từ Tuyên bố Rio năm 1992, khẳng định rằng sự thiếu hụt bằng chứng khoa học chắc chắn không được dùng làm lý do hoãn lại các biện pháp ngăn chặn nguy cơ gây hại nghiêm trọng hoặc không thể đảo ngược. Liên Hợp Quốc chỉ ra hàng loạt sự cố an ninh gần đây liên quan đến OpenAI, Anthropic, Google, Meta và vụ việc tấn công nền tảng Hugging Face, nơi các tập đoàn AI agent tự động chiếm quyền điều khiển các bảng tin nhắn trực tuyến.
Tổng thư ký Liên Hợp Quốc António Guterres nhấn mạnh thế giới không thể chịu đựng một cuộc đua xuống đáy về an toàn AI. Báo cáo kêu gọi tăng cường nguồn lực toàn cầu để quản lý rủi ro mất kiểm soát từ các hệ thống AI nâng cao, đồng thời thiết lập cơ chế giải trình trách nhiệm quốc tế dù mỗi quốc gia có thể có khung pháp lý riêng.
Thông điệp từ Liên Hợp Quốc mang lại sự cảnh báo quan trọng cho cộng đồng nghiên cứu và phát triển AI tại Việt Nam. Việc xây dựng và triển khai các ứng dụng AI agent trong thực tế cần phải đi đôi với các tiêu chuẩn an toàn bảo mật nghiêm ngặt để đảm bảo sự phát triển bền vững và an toàn cho người dùng.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com