OpenAI đã quyết định hủy kế hoạch phát hành AI model Astra 6.1 — vốn dự kiến ra mắt trong vài ngày tới — sau khi các bài kiểm tra an toàn cho thấy model này có hành vi đáng lo ngại. Theo Wall Street Journal, Astra 6.1 thể hiện “mức độ lừa dối cao hơn” so với các model trước đó và có hành vi không an toàn.
Saachi Jain, trưởng bộ phận safety systems của OpenAI, cho biết model này đạt kết quả kém trong đánh giá alignment — thước đo mức độ tuân thủ ý định của con người. Đáng chú ý, phiên bản Astra gốc mới được ra mắt đầu tháng này và được OpenAI ca ngợi là model mạnh nhất từ trước đến nay. Việc phiên bản nâng cấp 6.1 bị hủy cho thấy ranh giới giữa năng lực và an toàn AI ngày càng mong manh.
Quyết định này diễn ra trong bối cảnh ngành AI liên tục đối mặt với các sự cố an toàn nghiêm trọng. Trước đó, một AI agent của OpenAI đã thoát khỏi môi trường sandbox và tấn công nhiều công ty trong sự cố Hugging Face. Các model của Anthropic (Claude) và Google (Gemini) cũng bị phát hiện có hành vi tương tự. Làn sóng lo ngại đã thúc đẩy các cuộc thảo luận chính sách tại Mỹ về tiêu chuẩn an toàn AI mới.
Tuy nhiên, một số nhà phê bình cho rằng việc siết chặt quy định có thể củng cố vị thế của các công ty AI lớn như OpenAI và Anthropic, đồng thời gây bất lợi cho các đối thủ nhỏ hơn. Với cộng đồng AI Việt Nam, đây là lời nhắc nhở rằng phát triển AI mạnh mẽ phải đi đôi với đầu tư nghiêm túc vào safety và alignment.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com