Danh mục đúng mã hàng
Sản phẩm được quản lý theo đúng model và Part Number của hãng, gồm cả hậu tố về cấu hình GPU, số socket, loại nguồn và khay ổ cứng. Điều này giúp tránh nhầm cấu hình khi đặt hàng và khi bảo hành.
HPC và AI dùng chung phần cứng nhưng khác yêu cầu
Đây là điểm khiến nhiều dự án mua sai. Mô hình AI chạy tốt ở độ chính xác thấp — FP16, FP8, thậm chí FP4 — vì sai số nhỏ không ảnh hưởng kết quả. Mô phỏng khoa học thì ngược lại: sai số tích luỹ qua hàng triệu bước tính, nên phần lớn bài toán bắt buộc dùng FP64.
Hệ quả rất thực tế: một GPU quảng cáo hàng nghìn PFLOPS ở FP4 có thể chỉ đạt vài chục TFLOPS ở FP64. Nếu bạn mua GPU theo con số quảng cáo cho bài toán mô phỏng, hiệu năng thực nhận được sẽ thấp hơn kỳ vọng hàng chục lần.
Kiểm tra phần mềm trước khi chọn phần cứng
Phần mềm HPC thường được tối ưu cho một loại phần cứng cụ thể. Có phần mềm chạy tốt trên GPU, có phần mềm chỉ dùng CPU, và có phần mềm tính phí bản quyền theo số nhân hoặc số node.
Chúng tôi luôn bắt đầu từ danh sách phần mềm bạn dùng: mô phỏng dòng chảy, phân tích kết cấu, dự báo thời tiết, mô phỏng phân tử, tính toán tài chính — mỗi loại dẫn tới một cấu hình khác nhau.
Mạng nội cụm quyết định khả năng mở rộng
Mô phỏng chia lưới tính toán ra nhiều node, và sau mỗi bước các node phải trao đổi giá trị ở biên. Với lưới lớn, lưu lượng này rất cao và nhạy với độ trễ hơn cả băng thông.
Đây là lý do cụm HPC dùng InfiniBand thay vì Ethernet thông thường: độ trễ thấp hơn nhiều và hỗ trợ truy cập bộ nhớ từ xa trực tiếp. Với cụm từ tám node trở lên, đây là hạng mục không nên tiết kiệm.
Hệ thống tệp song song
Khi hàng chục node cùng đọc và ghi một tập dữ liệu, máy chủ tệp thông thường trở thành nút cổ chai. Cụm HPC dùng hệ thống tệp song song trải dữ liệu trên nhiều node lưu trữ, cho phép nhiều node tính toán truy cập đồng thời mà không tranh nhau.
Bộ điều phối tác vụ
Cụm HPC hiếm khi chạy một bài toán duy nhất. Nhiều người dùng gửi bài, hệ thống xếp hàng và phân bổ tài nguyên theo hạn mức. Chúng tôi triển khai kèm bộ điều phối và cấu hình hạn mức theo nhóm người dùng, để tài nguyên được chia công bằng và có thể thống kê được.
Các câu hỏi thường gặp
Vì mô phỏng khoa học tích luỹ sai số qua hàng triệu bước tính, nên cần độ chính xác kép. Mô hình AI chịu được sai số nhỏ nên chạy tốt ở FP16 hay thấp hơn. Một GPU mạnh ở FP4 có thể yếu ở FP64 — phải xem đúng con số cho bài toán của mình.
Với cụm nhỏ vài node thì Ethernet 25GbE có thể đủ. Từ tám node trở lên, độ trễ của mạng trở thành yếu tố giới hạn khả năng mở rộng, và InfiniBand cho độ trễ thấp hơn nhiều. Đây là hạng mục không nên cắt.
Cần kiểm tra từng phần mềm. Nhiều gói mô phỏng phổ biến đã có phiên bản dùng GPU, nhưng mức tăng tốc khác nhau rất nhiều tuỳ loại bài toán. Chúng tôi rà soát danh sách phần mềm của bạn trước khi đề xuất cấu hình.
Về kỹ thuật thì một node cũng chạy được. Nhưng để có ý nghĩa của tính toán song song và dự phòng khi một node hỏng, ba tới bốn node là mức khởi điểm hợp lý. Từ đó mở rộng dần theo nhu cầu.
