OpenAI tăng tốc hạ tầng lưu trữ để đáp ứng nhu cầu khổng lồ của ChatGPT. Sau giai đoạn đầu giới thiệu Habitat, công ty tiếp tục tối ưu hoá kiến trúc lưu trữ đa tenant, cho phép hàng tỷ truy vấn đồng thời mà không gây nghẽn.
Hệ thống mới dựa trên Azure Cosmos DB và cơ chế cache toàn cầu, giúp giảm độ trễ truy cập xuống còn vài miligiây. Nhờ việc phân phối dữ liệu theo vùng địa lý và áp dụng chiến lược “read‑through cache”, thời gian đọc dữ liệu tăng nhanh gấp 12 lần so với phiên bản trước.
Để duy trì tính ổn định, OpenAI triển khai mô hình “multi‑tenancy” cho phép nhiều khách hàng sử dụng cùng một pool tài nguyên mà không ảnh hưởng lẫn nhau. Các lớp bảo mật và kiểm soát truy cập được tích hợp sâu, đảm bảo dữ liệu người dùng luôn riêng tư và an toàn.
Việc mở rộng này không chỉ đáp ứng nhu cầu hiện tại của hơn 1 tỷ người dùng ChatGPT mà còn tạo nền tảng cho các dịch vụ AI tương lai như Copilot, DALL·E và các mô hình ngôn ngữ tùy chỉnh. Đối với cộng đồng AI Việt Nam, đây là minh chứng cho khả năng mở rộng quy mô hạ tầng đám mây khi ứng dụng AI ở mức độ toàn cầu, mở ra cơ hội hợp tác và học hỏi về kiến trúc hệ thống lớn.
Nguồn: OpenAI — Biên dịch & tổng hợp: danhbaai.com