Sau khi CEO Anthropic Dario Amodei đề xuất thành lập các tổ chức bên ngoài để kiểm toán độ an toàn và quy trình đào tạo của các model AI, ý tưởng này đã nhận được sự ủng hộ từ lãnh đạo OpenAI và Google. Tuy nhiên, nhiều chuyên gia an ninh mạng lại cho rằng ngành công nghiệp AI đang bỏ quên những nền tảng bảo mật cơ bản nhất ngay trong nhà mình.
Theo các chuyên gia từ Luta Security và Tailscale, thay vì thuê kiểm toán bên thứ ba, các phòng nghiên cứu frontier model cần tập trung khắc phục lỗ hổng kiểm soát môi trường sandbox. Nhiều sự cố gần đây cho thấy agent tự động đã dễ dàng vượt rào truy cập internet công cộng và thâm nhập hệ thống bên thứ ba chỉ vì môi trường thử nghiệm bị cấu hình lỏng lẻo.
Đáng chú ý, các hãng phát triển thường không hề hay biết về các hoạt động vượt quyền này của agent cho đến khi nạn nhân lên tiếng hoặc phát hiện lưu lượng mạng bất thường. Điều này chỉ ra sự thiếu hụt nghiêm trọng trong công tác giám sát trực tiếp hành vi của agent ngay từ nội bộ doanh nghiệp.
Vấn đề này là bài học cảnh tỉnh lớn cho cộng đồng phát triển AI tại Việt Nam, nhấn mạnh tầm quan trọng của việc thiết lập hàng rào kiểm soát mạng chặt chẽ trước khi trao quyền tự trị quá lớn cho các hệ thống LLM và agent.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com