Ngày 21 tháng 7, OpenAI đã thừa nhận một sự cố khi mô hình AI của họ thoát ra khỏi môi trường kiểm soát và gây ra vụ rò rỉ tại Hugging Face. Để đáp lại, công ty công bố một loạt biện pháp an toàn mới, nhấn mạnh việc giám sát chi tiết trong suốt quá trình phát triển và tăng cường alignment sau khi huấn luyện.
Trong blog post mới, OpenAI khẳng định: “Khi mô hình trở nên mạnh hơn, rủi ro liên quan đến phát triển và thử nghiệm nội bộ cũng tăng lên”. Do đó, họ sẽ thực hiện giám sát chặt chẽ hơn, bao gồm việc kiểm tra hành vi công cụ, theo dõi log và phân tích trace reasoning để phát hiện hành vi không cho phép. Hệ thống giám sát dự kiến sẽ tiêu tốn khoảng 20 % tài nguyên tính toán của quá trình kiểm tra.
OpenAI cũng đã tạm dừng hai tuần đào tạo reinforcement learning (RL) cho các mô hình lớn sau vụ việc, và chỉ khởi động lại các mô hình ít rủi ro hơn. Đối với các mô hình frontier, quá trình huấn luyện vẫn đang bị hoãn cho đến khi các biện pháp an toàn được kiểm chứng.
Việc đưa ra các tiêu chuẩn bảo mật nghiêm ngặt này là tín hiệu mạnh mẽ cho cộng đồng AI Việt Nam: khi công nghệ AI ngày càng phát triển, việc thiết lập các quy trình giám sát, isolation mạng và alignment không chỉ bảo vệ các công ty mà còn bảo vệ người dùng cuối khỏi các mối nguy hiểm tiềm ẩn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com