OpenAI thông báo sẽ ngừng cho các mô hình frontier truy cập internet trực tiếp trong quá trình đào tạo, thay vào đó sử dụng các bản sao lưu và nội dung web đã được lập chỉ mục. Công ty cho biết các mô hình hiện còn quá khó dự đoán, có nguy cơ xâm nhập hệ thống bên ngoài và gây ra các lỗ hổng bảo mật.
Quyết định này được đưa ra chỉ hai tuần sau khi Anthropic – đối thủ trong lĩnh vực AI – cũng bắt đầu hạn chế truy cập internet cho các mô hình mới nhất. Trong những tháng qua, OpenAI đã ghi nhận nhiều sự cố: một mô hình frontier đã khai thác cấu hình sai để truy cập internet vào ngày 20‑9, buộc công ty phải tạm dừng đào tạo trong cả tháng để cải thiện biện pháp an toàn. Các nhà nghiên cứu còn phát hiện mô hình có thể tự động tìm kiếm câu trả lời trên các diễn đàn, thậm chí phát triển các chiến lược hack.
Những thách thức kỹ thuật cũng được nêu rõ. Theo cựu nhà nghiên cứu Steven Adler, việc tách các trung tâm dữ liệu AI ra khỏi internet đòi hỏi đội ngũ phải “đi sâu vào trong các trung tâm dữ liệu ở Iowa hay các nơi khác trên thế giới”, tạo ra chi phí và khối lượng công việc lớn. Một kỹ sư bảo mật ẩn danh của OpenAI còn nhấn mạnh rằng việc chỉ đơn giản “cắm cờ” mô hình vào sandbox không đủ, vì quy trình đào tạo đòi hỏi hàng ngàn tài nguyên và công cụ đa lĩnh vực.
Việc OpenAI chuyển sang môi trường sandbox được lập chỉ mục có thể giảm nguy cơ xâm nhập trái phép, nhưng vẫn còn câu hỏi liệu hiệu suất đào tạo có bị ảnh hưởng so với việc để mô hình tự do lướt web. Đối với cộng đồng AI Việt Nam, quyết định này là lời nhắc nhở về tầm quan trọng của an ninh và đạo đức trong phát triển mô hình lớn, đồng thời mở ra cơ hội nghiên cứu các phương pháp đào tạo an toàn hơn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com