Nhét hai socket EPYC vào một chiều cao 1U
AS-1126HS-TN giải bài toán mật độ: đưa toàn bộ sức mạnh của hai CPU EPYC 9005 và 24 khe DDR5 vào chiều cao 1U. Với trung tâm dữ liệu tính tiền theo U hoặc theo vị trí rack, khác biệt giữa 1U và 2U cho cùng cấu hình là con số thật trong hoá đơn hàng tháng.
Đánh đổi là khả năng lắp GPU: khung 1U chỉ nhận một card FHFL, nên đây không phải máy chủ để chạy nhiều GPU. Vai trò của nó là node tính toán CPU, node cơ sở dữ liệu, hoặc node suy luận với một GPU đơn.
CXL 2.0 – điểm khác biệt đáng chú ý
Máy hỗ trợ tới bốn thiết bị CXL 2.0 x16. Compute Express Link cho phép gắn thêm bộ nhớ qua khe PCIe, mở rộng dung lượng RAM vượt số khe DIMM vật lý, hoặc gộp bộ nhớ dùng chung giữa các máy. Với những tải trọng đói bộ nhớ như cơ sở dữ liệu trong bộ nhớ, đồ thị lớn hoặc bộ nhớ đệm KV của mô hình ngôn ngữ, đây là hướng mở rộng mà máy chủ thế hệ trước không có.
Cần nói rõ: hệ sinh thái CXL vẫn đang trưởng thành. Nên xem đây là khoản đầu tư cho tương lai chứ không phải tính năng dùng ngay từ ngày đầu.
Lưu trữ NVMe mật độ cao
Tuỳ cấu hình, máy nhận 8 hoặc 12 khay 2,5 inch NVMe/SATA. Mười hai ổ NVMe trong một khung 1U là mật độ lưu trữ rất tốt — đủ để dựng một node lưu trữ phân tán hoặc giữ tập dữ liệu nóng ngay tại chỗ.
Mở rộng và mạng
Một khe PCIe 5.0 x16 FHHL, hai khe PCIe 5.0 x16 FHFL và một khe AIOM x16 tương thích OCP 3.0. Khe AIOM đáng chú ý vì nó giải phóng khe PCIe thường cho việc khác — bạn lắp card mạng 100 GbE hoặc 200 GbE vào AIOM và vẫn còn nguyên khe cho GPU hoặc card lưu trữ.
Dùng ở đâu là hợp lý
Node worker trong cụm Kubernetes, máy chủ cơ sở dữ liệu, node ảo hoá mật độ cao, hoặc node suy luận chạy mô hình vừa với một GPU L4 hay L40S. Nếu bạn cần nhiều GPU cho một tác vụ, hãy chọn bản 2U AS-2126HS-TN hoặc các dòng 4U chuyên GPU.
