Startup Abliteration.ai vừa chính thức thương mại hóa dịch vụ loại bỏ các hàng rào kiểm duyệt và cơ chế từ chối trên những mô hình AI mã nguồn mở hàng đầu, tiêu biểu là GLM-5.3 vừa ra mắt. Người dùng hiện có thể truy cập các mô hình đã gỡ bỏ hàng rào an toàn này thông qua giao diện web hoặc kết nối API.
Công ty tuyên bố mục tiêu của dịch vụ là hỗ trợ các chuyên gia kiểm thử bảo mật (red-teaming) và thử nghiệm tác vụ an ninh mạng mà các mô hình thông thường hay từ chối. Lập luận của startup dựa trên nguyên lý an ninh mạng truyền thống: không thể phòng thủ nếu không hiểu rõ phương thức tấn công. Tuy nhiên, việc chuyển đổi một kỹ thuật mã nguồn mở thành dịch vụ thương mại sẵn có giúp giảm đáng kể rào cản kỹ thuật cho người dùng.
Động thái này đang vấp phải nhiều lo ngại từ các tổ chức an toàn AI. Các chuyên gia cảnh báo việc phân phối rộng rãi các mô hình AI bị can thiệp có thể dẫn đến nguy cơ lạm dụng vào các mục đích xấu. Mặc dù vậy, giới chuyên gia nhận định việc ngăn chặn gỡ bỏ rào cản trên mô hình mở là rất khó khăn, đòi hỏi sự can thiệp và kiểm soát ở cấp độ nhà cung cấp hạ tầng tính toán GPU.
Sự xuất hiện của dịch vụ này gióng lên hồi chuông cảnh báo cho cộng đồng AI Việt Nam về tầm quan trọng của việc nâng cao năng lực an toàn thông tin và xây dựng cơ chế quản trị AI hiệu quả trong bối cảnh công nghệ phát triển nhanh chóng.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com