Khi làm mát bằng khí không còn đủ
Một tủ rack văn phòng thông thường thoát được 5–10 kW nhiệt. Một máy chủ HGX 8 GPU sinh khoảng 10 kW. Bốn máy như vậy trong một tủ là 40 kW — vượt xa khả năng của không khí.
Với hệ thống rack-scale như NVIDIA GB300 NVL72, con số lên tới 140 kW cho một tủ, và làm mát chất lỏng không còn là lựa chọn mà là điều kiện bắt buộc.
Trực tiếp chip hoạt động thế nào
Thay vì thổi gió qua tản nhiệt kim loại, hệ thống gắn một tấm làm mát áp trực tiếp lên CPU và GPU. Chất làm mát chảy qua tấm này, nhận nhiệt rồi đi tới bộ CDU — nơi trao đổi nhiệt sang vòng nước của toà nhà.
Chất lỏng dẫn nhiệt hiệu quả hơn không khí hàng nghìn lần, nên cùng một lượng nhiệt cần lưu lượng nhỏ hơn nhiều và không phải thổi gió mạnh.
Ba lợi ích ngoài chuyện nhiệt
- CPU và GPU không bị giảm xung. Chip nóng sẽ tự hạ xung để bảo vệ. Làm mát chất lỏng giữ nhiệt độ thấp ổn định nên máy chạy đúng hiệu năng đã trả tiền.
- Tiết kiệm điện quạt. Quạt máy chủ ở tốc độ cao tiêu thụ rất nhiều điện. Giảm phụ thuộc vào quạt cắt được một phần đáng kể tổng công suất.
- Phòng máy êm hơn nhiều. Đây là lợi ích ít được nhắc nhưng rất rõ với người vận hành.
Điều kiện triển khai
Cần đường ống dẫn tới tủ rack, vị trí đặt CDU, và một vòng nước làm mát của toà nhà hoặc tháp giải nhiệt. Đây là phần hạ tầng, không phải phần thiết bị — và trong hầu hết dự án chúng tôi triển khai, nó mất nhiều thời gian hơn cả thời gian chờ giao máy chủ.
Vì vậy khảo sát và thiết kế làm mát luôn phải bắt đầu song song ngay khi đặt hàng thiết bị.