Startup Artificial Intelligence Underwriting Company (AIUC) vừa công bố vòng gọi vốn Series A trị giá 40 triệu USD do Ribbit Capital dẫn dắt, nâng tổng số tiền huy động lên 55 triệu USD. Công ty được thành lập bởi Rune Kvist — cựu nhân sự Anthropic và Rajiv Dattani — nguyên Giám đốc Vận hành (COO) của tổ chức nghiên cứu an toàn AI METR, với mục tiêu giải quyết bài toán kiểm soát các AI agent trong doanh nghiệp.
Lấy cảm hứng từ tiêu chuẩn bảo mật mạng SOC 2 quen thuộc, AIUC đã phát triển tiêu chuẩn kiểm định mang tên AIUC-1 kết hợp quy trình chạy khoảng 5.000 bài kiểm tra khác nhau. Hệ thống này giúp rà soát các rủi ro liên quan đến jailbreak, hiện tượng hallucination và rò rỉ dữ liệu của các agent. Sau quá trình kiểm tra, họ cung cấp báo cáo chi tiết giúp các tổ chức tài chính, y tế hay chính phủ đánh giá mức độ an toàn trước khi triển khai.
Sự ra đời của các giải pháp như AIUC phản ánh mối lo ngại ngày càng lớn về rủi ro khi tích hợp agent tự trị vào hệ thống doanh nghiệp lớn. Trong bối cảnh cộng đồng công nghệ Việt Nam đang đẩy mạnh ứng dụng AI agent vào dịch vụ khách hàng và vận hành, các tiêu chuẩn kiểm định minh bạch và nghiêm ngặt như vậy sẽ đóng vai trò then chốt để đảm bảo tính an toàn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com