Một cuộc điều tra bảo mật gần đây đã vạch trần một mạng lưới khoảng 28 ứng dụng hẹn hò lừa đảo tinh vi, nơi các cuộc trò chuyện với người dùng không phải do con người thực hiện mà được vận hành hoàn toàn tự động bởi các persona AI. Sự việc bắt đầu hé lộ khi các nhà nghiên cứu đe dọa an ninh của Anthropic phát hiện một tài khoản trả trước gửi đi hơn 100.000 yêu cầu API mỗi ngày trên Claude.
Các ứng dụng này được ngụy trang dưới vẻ bề ngoài là nền tảng kết nối hẹn hò lành mạnh, khiến người dùng lầm tưởng họ đang trò chuyện với những phụ nữ độc thân thực sự. Trên thực tế, phần lớn các cuộc trò chuyện đều do AI tự động điều phối, chỉ có một tỷ lệ rất nhỏ liên quan đến lao động làm thuê trực tuyến được thuê để vượt qua các bài kiểm tra xác thực video hoặc quản lý tài khoản mạng xã hội.
Sự việc này gióng lên hồi chuông cảnh báo về tình trạng lạm dụng các công nghệ AI tiên tiến nhằm mục đích gian lận quy mô lớn. Dù các công ty AI như Anthropic đã bắt đầu công bố các báo cáo về việc phát hiện và chống lạm dụng, nhiều ứng dụng lừa đảo vẫn tiếp tục tồn tại trên các chợ ứng dụng lớn trong một thời gian dài trước khi bị xử lý triệt để.
Đối với cộng đồng người dùng internet tại Việt Nam, hình thức lừa đảo ‘catfishing’ tích hợp AI này là lời nhắc nhở quan trọng về mức độ an toàn thông tin và sự cần thiết phải nâng cao cảnh giác trước các mối quan hệ trực tuyến chưa được xác thực.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com