Hai mươi ổ NVMe trong một U
Đây là mật độ ổ cứng cao nhất trong toàn bộ danh mục máy chủ 1U của Dell. Với ổ E3.S 3,2 TB như bản khởi điểm, lắp đầy hai mươi khay cho 64 TB flash; với ổ dung lượng lớn hơn, con số vượt 150 TB. Toàn bộ nối trực tiếp NVMe, không qua card RAID, cho độ trễ thấp nhất có thể.
Vì sao CPU chỉ 24 nhân nhưng xung 3,0 GHz
Lựa chọn này có chủ đích. Với node lưu trữ toàn flash, công việc chính là xử lý số lượng lớn thao tác vào ra nhỏ, và tốc độ hoàn thành mỗi thao tác phụ thuộc vào xung nhịp hơn là số nhân. Xeon 6527P với 3,0 GHz và 144 MB bộ đệm được chọn để giảm độ trễ trên mỗi thao tác, không phải để chạy nhiều tiến trình song song.
Nếu bạn thấy CPU ít nhân là điểm yếu, hãy nhớ vai trò của máy này: nó phục vụ dữ liệu cho các node khác, không tự chạy ứng dụng nặng.
Mạng 400GbE là bắt buộc, không phải tuỳ chọn
Hai mươi ổ NVMe Gen5 có thể đẩy dữ liệu ở tốc độ hàng chục gigabyte mỗi giây. Nếu đường mạng chỉ 25GbE, toàn bộ lợi thế đó bị chặn ngay ở cổng ra. Card Broadcom hai cổng 400GbE QSFP112 ở khe OCP 3.0 là thành phần khiến cấu hình này có ý nghĩa.
Vai trò trong hạ tầng AI
Đây là mẫu máy được chọn làm tầng lưu trữ nóng cho cụm huấn luyện. Tập dữ liệu huấn luyện nằm trên các ổ NVMe này, các node GPU đọc qua mạng 400GbE. Với cụm nhiều node GPU cùng đọc một tập dữ liệu, băng thông và độ trễ của tầng lưu trữ quyết định GPU có chạy hết công suất hay không — và đó là khoản đầu tư đắt nhất trong cả hệ thống.
Lưu ý về điện và nhiệt
Hai mươi ổ NVMe Gen5 đầy tải tiêu thụ điện đáng kể, đó là lý do cấu hình dùng nguồn 1500W Titanium dự phòng 1+1. Khi thiết kế tủ rack, hãy tính công suất thực tế ở trạng thái lắp đầy chứ không phải cấu hình khởi điểm một ổ.
