Công ty khởi nghiệp Musubi vừa chính thức trình làng PolicyLM-1.7B, một mô hình quyết định (decision model) trọng lượng nhẹ với trọng số mở nhằm cải tổ công tác kiểm duyệt nội dung trên các nền tảng số. Điểm đặc biệt của mô hình này là khả năng phân tích và áp dụng các chính sách nội dung được viết bằng tiếng Anh thông thường vào các tin nhắn hoặc bài viết trong thời gian chưa tới 50 mili-giây.
Khác với các mô hình ngôn ngữ lớn (LLM) thông thường xuất ra văn bản, mô hình quyết định chỉ tập trung đưa ra xác suất kết quả hoặc đánh giá nhị phân (có vi phạm hay không). Nhờ giới hạn đầu ra trong các lựa chọn định sẵn, PolicyLM-1.7B đạt tốc độ xử lý nhanh và chi phí vận hành thấp tương đương hệ thống phân loại truyền thống, nhưng vẫn giữ được sự linh hoạt của kiến trúc Transformer. Đáng chú ý, khi ban quản trị cập nhật quy định mới, mô hình có thể áp dụng ngay lập tức mà không cần trải qua quá trình huấn luyện lại tốn kém.
PolicyLM-1.7B được phát triển dựa trên các kỹ thuật từng dùng cho dự án GLiNER năm 2024, gia nhập xu hướng mô hình quyết định đang bùng nổ cùng với Jev của TypeSafe AI hay các giải pháp từ OpenAI và Amazon. Công cụ này ban đầu được kỳ vọng ngăn chặn hành vi bất thường của các agent AI, nhưng nay được mở rộng để xử lý vi phạm của người dùng thật trên quy mô lớn.
Đây là giải pháp mở rất tiềm năng cho các doanh nghiệp công nghệ và nhà phát triển ứng dụng tại Việt Nam. Việc tối ưu hóa chi phí kiểm duyệt nội dung bằng AI nguồn mở sẽ giúp các nền tảng mạng xã hội và thương mại điện tử trong nước nâng cao an toàn thông tin với chi phí vận hành tối ưu.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com