Blackwell trong một khung rack tiêu chuẩn
SYS-A22GA-NBRT là cách tiếp cận thực dụng nhất để đưa GPU Blackwell vào trung tâm dữ liệu hiện có. Thay vì phải xây một tủ rack làm mát chất lỏng như dòng NVL72, bạn lắp một máy chủ 10U vào tủ rack sẵn có và vẫn có được cụm HGX 8 GPU B200 SXM đầy đủ với 1,4 TB bộ nhớ GPU tổng cộng.
Chi phí cho sự tiện lợi đó là chiều cao: 10U là con số lớn, và mật độ tính toán trên mỗi rack thấp hơn giải pháp làm mát chất lỏng. Đổi lại, phòng máy của bạn không cần cải tạo gì.
Điểm mạnh nằm ở bộ nhớ
Máy dùng CPU Intel Xeon 6900 với P-core trên socket LGA-7529, hỗ trợ 24 khe DIMM chạy MRDIMM DDR5 tốc độ tới 8800 MT/s ở chế độ 1DPC, dung lượng tối đa 6 TB. MRDIMM là điểm đáng chú ý: so với RDIMM 6400 MT/s, băng thông bộ nhớ hệ thống tăng đáng kể, và trong các đường ống huấn luyện nạp dữ liệu liên tục thì đây thường là nút thắt bị bỏ quên.
Về phía GPU, tám con B200 nối nhau qua NVSwitch với NVLink, còn CPU nối GPU qua PCIe 5.0 x16. Hệ thống đạt chứng nhận NVIDIA Certified, nghĩa là đã qua bộ kiểm thử tương thích và hiệu năng của NVIDIA chứ không chỉ lắp vừa về mặt cơ khí.
Mở rộng và lưu trữ
Mười khe PCIe 5.0 x16 low-profile cộng hai khe FHHL là con số hào phóng, đủ để lắp một card mạng cho mỗi GPU nếu bạn định ghép nhiều máy thành cụm huấn luyện. Mười khay NVMe U.2 2,5 inch tháo lắp nóng ở mặt trước cùng hai khe M.2 NVMe lo phần lưu trữ cục bộ — đủ cho bộ dữ liệu nóng, còn kho dữ liệu lớn nên đặt trên hệ thống lưu trữ dùng chung.
Điện năng cần tính trước
Sáu bộ nguồn 5250W cấu hình dự phòng 3+3, chuẩn Titanium hiệu suất 96%. Ở tải thực tế khi tám GPU B200 chạy hết công suất, hãy dự trù khoảng 10 kW cho một máy. Đây là con số vượt xa khả năng cấp điện của một tủ rack văn phòng thông thường, nên bước đầu tiên luôn là kiểm tra hạ tầng điện của vị trí lắp đặt.
Nên chọn khi nào
Chọn SYS-A22GA-NBRT khi bạn cần hiệu năng huấn luyện thế hệ Blackwell nhưng chưa sẵn sàng đầu tư hệ thống làm mát chất lỏng, hoặc khi số lượng máy chỉ vài chiếc chứ không phải cả một phòng. Nếu kế hoạch là mở rộng lên hàng chục node trong hai năm tới, nên tính phương án làm mát chất lỏng ngay từ đầu để tránh phải cải tạo giữa chừng.
