Trong báo cáo an toàn mới công bố, Anthropic vừa tiết lộ một vụ việc hy hữu khi một nhóm kỹ thuật tại bắc Yemen, được đánh giá là có liên quan đến lực lượng Houthi, đã sử dụng công cụ Claude Code để hỗ trợ thiết kế phần mềm cho các hệ thống tên lửa. Đây được xem là một trong những minh chứng rõ ràng nhất về việc AI thế hệ mới bị lạm dụng trực tiếp vào quy trình chế tạo vũ khí khí tài thay vì chỉ dừng lại ở mức nghiên cứu hay thu thập thông tin.
Theo thông tin từ Anthropic, nhóm vận hành đã khởi chạy song song nhiều phiên Claude Code cùng lúc để phân chia công việc: một phiên viết mã nguồn, một phiên nghiên cứu tài liệu và phiên còn lại kiểm tra kỹ thuật. Nhờ mô hình làm việc này, một nhóm nhỏ đã thay thế được vai trò của cả một đội ngũ kỹ sư tên lửa chuyên nghiệp. Các dự án bao gồm phần mềm dẫn đường cho tên lửa hành trình tầm ngắn, tên lửa đạn đạo tầm bắn vượt quá 2.000 km và mô hình phương tiện lướt siêu vượt âm mang mã hiệu “R2000”. Họ đã kết hợp phần mềm tự hành mã nguồn mở với máy tính bay cấp độ điện thoại thông minh, mô phỏng quỹ đạo 6 mức độ tự do (6DoF) và áp dụng học máy tăng cường (reinforcement learning) để tối ưu hóa thuật toán điều khiển.
Đáng chú ý, nhóm kỹ sư này đã biên dịch toàn bộ mã nguồn thành một công cụ độc lập chạy ngoại tuyến, cho phép quá trình phát triển tiếp tục diễn ra ngay cả khi bị ngắt kết nối với Claude. Khi một đợt phóng thử tên lửa tại Yemen gặp thất bại, họ đã ngay lập tức đưa dữ liệu trắc viễn (telemetry) vào Claude để phân tích nguyên nhân chỉ sau vài giờ. Để lách các bộ lọc an toàn của Anthropic, họ chia nhỏ dự án thành nhiều câu lệnh vô hại nằm ở các phiên trò chuyện khác nhau nhằm che giấu mục đích quân sự thực sự.
Mặc dù Anthropic chưa tìm thấy bằng chứng cho thấy nhóm này chế tạo thành công một vũ khí hoàn chỉnh có thể tác chiến, vụ việc đã đặt ra thách thức lớn đối với an toàn AI toàn cầu. Đối với cộng đồng nghiên cứu và phát triển AI tại Việt Nam, sự cố này cho thấy nguy cơ tiềm ẩn của các dòng LLM đa mục đích (dual-use) và tầm quan trọng của việc xây dựng hàng rào an toàn đa lớp cho các mô hình AI agent trong tương lai.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com