Danh mục đúng mã hàng
Sản phẩm được quản lý theo đúng model và Part Number của hãng, gồm cả hậu tố về cấu hình GPU, số socket, loại nguồn và khay ổ cứng. Điều này giúp tránh nhầm cấu hình khi đặt hàng và khi bảo hành.
Mô hình kinh doanh quyết định kiến trúc
Trước khi chọn phần cứng, hãy chốt bạn bán gì. Có ba mô hình phổ biến, và mỗi mô hình dẫn tới một kiến trúc khác hẳn.
- Cho thuê nguyên máy — khách hàng thuê trọn một máy chủ GPU theo tháng. Đơn giản nhất về vận hành, biên lợi nhuận ổn định, nhưng cần khách hàng có nhu cầu lớn và dài hạn.
- Cho thuê theo GPU — chia máy thành từng GPU, khách thuê một hoặc vài card theo giờ. Thị trường rộng hơn nhưng cần hệ thống quản lý và tính cước.
- Bán dịch vụ suy luận — khách gọi API, bạn tính theo số token hoặc số truy vấn. Biên lợi nhuận cao nhất nhưng phải tự vận hành mô hình và chịu rủi ro tải trọng.
Tỷ lệ lấp đầy quyết định lãi lỗ
Đây là con số quan trọng nhất của mô hình cho thuê GPU. Một máy chủ GPU đầu tư lớn, khấu hao theo thời gian bất kể có khách hay không. Chênh lệch giữa tỷ lệ lấp đầy 40% và 80% thường là chênh lệch giữa lỗ và lãi.
Hệ quả về kiến trúc: hãy thiết kế để dễ lấp đầy. Chia nhỏ tài nguyên cho phép nhận cả khách lớn lẫn khách nhỏ; hỗ trợ nhiều loại GPU cho phép phục vụ cả huấn luyện lẫn suy luận.
Chọn phần cứng theo phân khúc khách
Khách huấn luyện mô hình lớn cần cụm HGX 8 GPU nối NVLink và mạng InfiniBand — đầu tư lớn, ít khách nhưng giá thuê cao. Khách suy luận và phát triển cần GPU rời như L40S hoặc L4 — đầu tư thấp hơn nhiều, thị trường rộng hơn.
Nhiều nhà cung cấp bắt đầu từ phân khúc thứ hai để xây tệp khách rồi mới đầu tư cụm huấn luyện.
Ba yếu tố ảnh hưởng biên lợi nhuận
- Điện. Với cụm GPU, tiền điện là khoản chi vận hành lớn nhất. Nguồn Titanium và làm mát chất lỏng giảm được phần đáng kể — và khoản tiết kiệm đó tích luỹ suốt vòng đời thiết bị.
- Mật độ. Chi phí thuê chỗ đặt tính theo vị trí rack và theo kilowatt. Máy mật độ cao cho nhiều GPU hơn trên cùng chi phí thuê chỗ.
- Tự động hoá. Cấp phát và thu hồi tài nguyên thủ công không mở rộng được. Hệ thống tự động là điều kiện để vận hành từ vài chục GPU trở lên.
Chúng tôi hỗ trợ gì
Tư vấn cấu hình theo phân khúc khách hàng bạn nhắm tới, tính toán điện và làm mát cho mật độ mục tiêu, triển khai hệ chia tài nguyên và điều phối, và hỗ trợ mở rộng khi tệp khách tăng. Chúng tôi cũng chia sẻ số liệu tham chiếu về mức tiêu thụ điện thực tế của từng cấu hình để bạn tính giá thuê sát hơn.
Các câu hỏi thường gặp
Thường là GPU rời như L40S hoặc L4. Đầu tư thấp hơn nhiều, thị trường khách rộng hơn, dễ đạt tỷ lệ lấp đầy cao. Đầu tư cụm HGX sau khi đã có tệp khách và biết rõ nhu cầu.
Tuỳ giá thuê và chi phí đầu tư, nhưng ranh giới thường nằm quanh 50–60%. Vì thiết bị khấu hao bất kể có khách hay không, mọi quyết định kiến trúc nên hướng tới việc dễ lấp đầy.
Với cụm GPU, đây là khoản chi vận hành lớn nhất. Chúng tôi cung cấp số liệu tiêu thụ thực tế của từng cấu hình để bạn tính vào giá thuê thay vì ước lượng.
Với MIG thì có, vì mỗi phiên bản tách biệt ở mức phần cứng. Với vGPU thì cần cấu hình cách ly đúng. Chúng tôi triển khai kèm cấu hình cách ly và kiểm tra trước khi đưa vào khai thác.
