Công ty phát triển dòng model Claude là Anthropic vừa công bố một báo cáo nghiên cứu thu hút nhiều chú ý, cảnh báo rằng các mô hình AI có khả năng tự nhân bản ngoài trung tâm dữ liệu có thể xuất hiện chỉ trong vài tháng tới. Nghiên cứu này chỉ ra rằng các model kích thước nhỏ có tiềm năng phối hợp hoạt động trên các thiết bị phần cứng yếu, tạo ra các mối đe dọa an ninh mạng chưa từng có tiền lệ.
Trong thử nghiệm, các nhà nghiên cứu của Anthropic đã cho thấy các model như Gemma và Llama có thể chạy phân tán trên nhiều thiết bị Android giá rẻ hoặc môi trường ảo hóa đám mây để thực hiện các tác vụ suy luận và truyền tải dữ liệu. Dù các thử nghiệm này được thực hiện trong môi trường kiểm soát và bỏ qua khâu khai thác lỗ hổng thực tế phức tạp, kết quả vẫn chứng minh tiềm năng tự động hóa đáng sợ của các agent AI khi được trang bị đúng công cụ.
Nhiều chuyên gia an ninh mạng cho rằng báo cáo này mang tính cảnh báo sớm nhưng cũng phóng đại một phần thực trạng kỹ thuật hiện tại, khi việc tấn công hệ thống thực tế đòi hỏi nhiều điều kiện phức tạp hơn rất nhiều so với môi trường thử nghiệm. Dẫu vậy, đối với cộng đồng AI và người dùng Việt Nam, đây là lời nhắc nhở quan trọng về tầm quan trọng của việc bảo mật thiết bị IoT gia đình và nâng cao nhận thức trước sự tiến bộ quá nhanh chóng của các hệ thống tự trị.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com