Danh mục đúng mã hàng
Sản phẩm được quản lý theo đúng model và Part Number của hãng, gồm cả hậu tố về cấu hình GPU, số socket, loại nguồn và khay ổ cứng. Điều này giúp tránh nhầm cấu hình khi đặt hàng và khi bảo hành.
Đừng bắt đầu bằng việc mua máy
Sai lầm phổ biến nhất chúng tôi gặp: doanh nghiệp mua một máy chủ GPU đắt tiền rồi mới nghĩ xem dùng làm gì. Sáu tháng sau, máy chạy ở 10% công suất và không ai chắc nó tạo ra giá trị gì.
Trình tự đúng là ngược lại: xác định một bài toán cụ thể có thể đo được kết quả, ước lượng phần cứng cần cho bài toán đó, rồi mua đúng mức đó.
Lộ trình bốn bước
- Thử nghiệm — một máy trạm GPU hoặc một máy chủ 2U với một tới hai card. Chi phí thấp, đủ để đội kỹ thuật thử mô hình và chứng minh giá trị trên một bài toán thật.
- Triển khai nội bộ — khi bài toán đầu tiên chạy được và có người dùng thật, mở rộng lên máy chủ 2U hoặc 4U với nhiều GPU, thêm tầng lưu trữ và cơ chế theo dõi.
- Mở rộng theo nhu cầu — thêm node khi số người dùng hoặc số mô hình tăng. Lúc này mạng nội cụm và hệ điều phối tài nguyên trở nên quan trọng.
- Hạ tầng chuyên dụng — cụm HGX hoặc rack-scale, chỉ khi khối lượng công việc thật sự đòi hỏi và bạn đã có đội vận hành.
Phần lớn doanh nghiệp Việt Nam dừng ở bước hai hoặc ba, và đó là điều hợp lý.
Những khoản chi phí thường bị bỏ sót
- Cải tạo điện và làm mát — với máy chủ nhiều GPU, khoản này có thể ngang giá thiết bị và mất nhiều thời gian hơn.
- Mạng — cấu hình cơ sở thường chỉ có cổng 1GbE, hoàn toàn không đủ cho tải AI.
- Lưu trữ — tập dữ liệu và các bản lưu mô hình tăng nhanh hơn dự đoán.
- Người vận hành — hạ tầng AI cần người biết cả hệ thống lẫn học máy; đây thường là ràng buộc lớn hơn cả ngân sách.
Tự đầu tư hay thuê đám mây
Câu trả lời trung thực: tuỳ hồ sơ sử dụng. Nếu GPU chạy gần như liên tục, điểm hoà vốn của việc tự đầu tư thường rơi vào 12–18 tháng. Nếu tải trọng có nhiều khoảng nhàn rỗi dài, thuê theo giờ rẻ hơn.
Nhưng có một trường hợp mà tự đầu tư là lựa chọn duy nhất: dữ liệu không được phép rời khỏi tổ chức. Với ngân hàng, bệnh viện, cơ quan nhà nước và nhiều doanh nghiệp sản xuất, đây mới là lý do quyết định chứ không phải chi phí.
Chúng tôi đồng hành thế nào
Khảo sát bài toán và phòng máy, đề xuất cấu hình đúng mức cho bước hiện tại, lắp đặt và bàn giao máy đã cài sẵn môi trường chạy được, rồi hỗ trợ khi bạn mở rộng. Chúng tôi không bán cấu hình lớn hơn nhu cầu — máy chạy dưới công suất là tiền chết.
Các câu hỏi thường gặp
Một máy trạm GPU hoặc máy chủ 2U với 1–2 card L40S. Đủ để đội kỹ thuật thử mô hình và chứng minh giá trị trên một bài toán thật, với chi phí thấp. Mở rộng sau khi đã có kết quả đo được.
Khi một máy không còn đủ cho số người dùng hoặc số mô hình đang chạy, và bạn đã có đội vận hành. Mở rộng sớm quá dẫn tới hạ tầng chạy dưới công suất và chi phí vận hành không cần thiết.
Cải tạo điện và làm mát, mạng nội cụm, và người vận hành. Với máy chủ nhiều GPU, phần hạ tầng điện có thể ngang giá thiết bị và mất nhiều thời gian hơn cả thời gian chờ hàng.
Nếu GPU chạy gần liên tục, tự đầu tư hoà vốn sau khoảng 12–18 tháng. Nếu tải trọng thưa, thuê rẻ hơn. Nhưng khi dữ liệu không được phép rời khỏi tổ chức thì tự đầu tư là lựa chọn duy nhất.
Chúng tôi bàn giao máy đã cài sẵn driver, CUDA và môi trường container, kèm tài liệu vận hành. Với đội IT thông thường, việc quản trị hằng ngày không khó hơn máy chủ ảo hoá. Phần mô hình thì cần người biết học máy.
