Trong khi phần lớn các doanh nghiệp ứng dụng AI agent nhằm tối ưu hóa quy trình làm việc hay đẩy nhanh tốc độ phát triển sản phẩm, startup Apate.ai lại có một hướng đi hoàn toàn khác biệt. Họ tạo ra các AI agent đóng giả nạn nhân ngây thơ để tham gia vào các cuộc gọi lừa đảo, tin nhắn rác, đường link phishing và nhóm mạng xã hội nhằm bẫy kẻ gian sa lưới.
Được thành lập vào năm 2024 dựa trên nền tảng nghiên cứu tại Đại học Macquarie (Sydney, Australia), hệ thống này sử dụng machine learning và natural language processing để duy trì hội thoại đa dạng độ tuổi, giới tính và ngôn ngữ. Tính đến nay, đội ngũ agent này đã vô hiệu hóa tổng cộng 17 năm thời gian của kẻ lừa đảo qua 2,5 triệu cuộc hội thoại. Quan trọng hơn, chúng khai thác thành công các dữ liệu nhạy cảm như tài khoản ngân hàng, ví crypto, số điện thoại và website độc hại, sau đó cung cấp cho các tổ chức tài chính và cơ quan chính phủ.
Sáng kiến này xuất hiện trong bối cảnh tội phạm sử dụng AI để lừa đảo đang bùng nổ mạnh mẽ trên toàn cầu. Chỉ tính riêng năm 2025, FBI đã ghi nhận hơn 22.000 khiếu nại liên quan đến tội phạm AI với thiệt hại lên tới gần 893 triệu USD, chủ yếu thông qua hình thức đầu tư lừa đảo và voice/video deepfake.
Tại Việt Nam, các hình thức lừa đảo trực tuyến, mạo danh cơ quan chức năng hay sử dụng deepfake để chiếm đoạt tài sản cũng đang diễn biến hết sức phức tạp. Mô hình chủ động tấn công ngược lại tội phạm bằng AI agent như của Apate mở ra một hướng tiếp cận phòng thủ giàu tiềm năng, giúp cộng đồng an ninh mạng trong nước học hỏi để bảo vệ người dùng tốt hơn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com