Trong bối cảnh giá GPU tăng cao, một lập trình viên quyết định tự tay xây dựng “AI data center” tại nhà bằng cách tái chế các linh kiện cũ. Cốt lõi của hệ thống là bốn card AMD V620 – các GPU server không có quạt, được mua lại từ các nguồn e‑waste và mỗi card có 32 GB VRAM nhanh.
Bo mạch chủ được chọn là X299 năm 2017, cung cấp bốn khe PCIe x16 đủ rộng để gắn liền bốn GPU. CPU Intel Core i9‑10900X, dù đã lạc hậu, lại có giá rẻ trên thị trường đồ cũ, đủ sức đáp ứng nhu cầu tính toán không quá khắt khe. RAM và SSD được lấy từ các máy tính cũ trong gia đình, giúp giảm chi phí đầu tư.
Hệ thống được lắp đặt trong một thùng máy tính cũ, với hệ thống làm mát bằng quạt máy chủ công nghiệp để giải quyết vấn đề nhiệt độ của các GPU không có quạt riêng. Khi đã khởi động, cụm GPU có thể chạy các coding agent và mô hình LLM nhỏ, hỗ trợ viết mã, gợi ý tài liệu và thậm chí thực hiện một số tác vụ inference nhanh.
Việc tự xây dựng cụm AI tại nhà không chỉ giảm chi phí mà còn mang lại sự kiểm soát toàn bộ phần cứng, phù hợp với những người muốn “cầm tay” công nghệ AI. Đối với cộng đồng Việt Nam, đây là một mô hình tham khảo để khám phá AI ở quy mô cá nhân mà không phụ thuộc vào dịch vụ đám mây.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com