LLMON đưa cấu trúc ngữ nghĩa trực tiếp vào ngữ cảnh của LLM

Hugging Face công bố LLMON, viết tắt của LLM Object Notation và phát âm là “lemon”, một ngôn ngữ markup được thiết kế để LLM hiểu rõ hơn cấu trúc và ngữ nghĩa của context. Cùng lúc, tổ chức này phát hành hai model thử nghiệm là granite-4.1-3b-LLMON-preview và granite-4.1-8b-LLMON-preview, được huấn luyện để đọc và tạo văn bản có đánh dấu LLMON.
Theo nhóm phát triển, context của LLM thường chứa system prompt, các lượt hội thoại trước, dữ liệu truy xuất, phản hồi từ tool, yêu cầu định dạng và chuỗi reasoning. Những thành phần này phần lớn mang cấu trúc ngầm hoặc được biểu diễn bằng JSON, định dạng vốn dành cho parser hơn là causal language model. Khi cấu trúc không đủ rõ ràng, đặc biệt ở các model nhỏ, hệ thống dễ trở nên kém ổn định và có thể bị khai thác qua prompt injection.
LLMON sử dụng các tag giống XML, kết hợp với reserved special-token delimiters để tách cấu trúc khỏi nội dung. Schema có thể được lồng nhau theo cách rõ ràng hơn, còn các ID duy nhất cho phép liên kết instruction với đúng payload dữ liệu, tương tự cách function nhận arguments. Các công cụ chuyển đổi cũng cho phép dịch JSON sang LLMON và ngược lại mà không làm mất dữ liệu.
LLMON không thay thế chat template mà bổ sung thêm thông tin về ý nghĩa và quan hệ giữa các thành phần. Bộ model preview đi kèm chat template riêng, repo GitHub, notebook và các workflow mẫu. Cách tiếp cận này có thể giúp cộng đồng xây dựng pipeline đáng tin cậy hơn, nhất là khi triển khai LLM nhỏ hoặc agent cần xử lý context phức tạp.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.