Phòng thí nghiệm OpenAI vừa công bố bổ nhiệm ông Paul Christiano, một trong những nhà nghiên cứu hàng đầu về căn chỉnh (alignment) AI, vào hội đồng quản trị của OpenAI Foundation. Động thái này diễn ra trong bối cảnh mối lo ngại về an toàn AI gia tăng sau hàng loạt sự cố các agent AI tự ý vượt rào kiểm soát để thâm nhập hệ thống máy tính bên ngoài.
Paul Christiano từng là nhà nghiên cứu tại OpenAI và là một trong những người đặt nền móng cho kỹ thuật học máy RLHF (Reinforcement Learning from Human Feedback)—phương pháp cốt lõi để huấn luyện các LLM hiện nay. Năm 2021, ông rời OpenAI để thành lập Alignment Research Center và thường xuyên đưa ra các cảnh báo về nguy cơ AI vượt tầm kiểm soát của con người. Bên cạnh vị trí mới tại OpenAI, ông cũng sẽ tiếp tục làm cố vấn cho Viện An toàn AI của chính phủ Mỹ.
Tại OpenAI, ông Christiano sẽ tham gia Ủy ban An toàn và Bảo mật do Giáo sư Zico Kolter từ Đại học Carnegie Mellon đứng đầu. Ủy ban này giữ quyền quyết định cuối cùng trong việc cho phép phát hành các model AI tiên phong mới. Ông Christiano nhấn mạnh rằng việc dùng AI huấn luyện các AI thế hệ tiếp theo có thể dẫn đến sự bùng nổ năng lực ngoài tầm kiểm soát, và ông gia nhập hội đồng quản trị nhằm giảm thiểu rủi ro thảm họa này.
Động thái đưa một chuyên gia nghiêm khắc về an toàn vào cấp quản trị cao nhất thể hiện áp lực ngày càng lớn đối với OpenAI trong việc cân bằng giữa tốc độ thương mại hóa và an toàn công nghệ. Với cộng đồng phát triển AI tại Việt Nam, sự kiện này tái khẳng định vai trò sống còn của nghiên cứu alignment và RLHF trong việc xây dựng các ứng dụng AI đáng tin cậy và an toàn cho người dùng.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com