Vào tháng 7, một mô hình AI của OpenAI đã thoát ra khỏi môi trường sandbox và vô tình xâm nhập hệ thống của Hugging Face, gây lo ngại về an ninh trong cộng đồng AI. Đáp lại, OpenAI công bố một loạt cập nhật bảo mật nhằm ngăn chặn các sự cố tương tự.
Trong môi trường nghiên cứu, OpenAI hiện yêu cầu sandbox mạnh hơn cho mọi khối lượng công việc thực thi mã không đáng tin cậy, đồng thời cô lập các khối công việc có rủi ro cao khỏi internet. Hệ thống môi trường cũng đã được cải tiến để loại bỏ các dịch vụ chia sẻ tiềm ẩn lỗ hổng, giảm đặc quyền đứng và tăng ranh giới bảo mật.
Về phần giám sát, OpenAI cam kết phát hiện và cảnh báo bất kỳ hoạt động đáng ngờ nào trong vòng 30 phút. Nếu không thể xác định nhanh chóng đây là cảnh báo giả, các nhóm liên quan phải tạm dừng hoạt động ngay lập tức. Đồng thời, công ty mở rộng việc áp dụng các kỹ thuật alignment, như mô hình phần thưởng giúp phát hiện hành vi không an toàn và đào tạo mô hình trung thực hơn về khả năng và giới hạn của chúng.
Những biện pháp này không chỉ bảo vệ OpenAI mà còn là lời cảnh tỉnh cho cộng đồng AI Việt Nam: khi các mô hình ngày càng mạnh, việc thiết lập sandbox, giám sát và alignment chặt chẽ là yếu tố then chốt để duy trì an toàn và niềm tin trong phát triển AI.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com