Giải pháp thị giác máy tính và phân tích video

Bài toán đếm được bằng số luồng camera

Khác với mô hình ngôn ngữ, hạ tầng thị giác máy tính có cách tính rất rõ ràng: bạn có bao nhiêu camera, độ phân giải bao nhiêu, cần bao nhiêu khung hình mỗi giây, và chạy mô hình nào trên mỗi khung.

Từ bốn con số đó ra được số GPU cần thiết. Đây là loại dự án dễ tính chi phí nhất trong nhóm AI.

Giải mã video là nút thắt bị bỏ quên

Trước khi mô hình nhìn thấy hình ảnh, luồng video nén phải được giải mã. Nếu giải mã bằng CPU, một máy chủ mạnh cũng chỉ kham được vài chục luồng và CPU sẽ cạn trước GPU.

GPU NVIDIA có bộ giải mã video chuyên dụng tách rời khỏi phần tính toán. Dùng đúng nó, một GPU giải mã được hàng chục luồng 1080p mà không chiếm tài nguyên tính toán. Đây là chi tiết quyết định số camera mỗi máy phục vụ được, và cũng là chỗ nhiều hệ thống tự dựng gặp giới hạn sớm.

Xử lý tại biên hay tập trung

Hai kiến trúc, hai bài toán khác nhau:

• Tập trung: toàn bộ camera đẩy video về trung tâm, một cụm GPU xử lý tất cả. Dễ quản lý, dễ nâng cấp mô hình, nhưng tốn băng thông mạng rất lớn — 100 camera 1080p là khoảng 400 Mbps liên tục.
• Tại biên: mỗi vị trí có một máy chủ nhỏ có GPU, xử lý ngay tại chỗ và chỉ gửi kết quả về trung tâm. Tiết kiệm băng thông, độ trễ thấp, nhưng nhiều điểm phải quản lý hơn.

Với hệ thống trải rộng nhiều địa điểm, kiến trúc tại biên gần như luôn rẻ hơn khi tính cả chi phí đường truyền.

Cấu hình theo quy mô

1. Dưới 20 camera: một máy chủ 1U với GPU NVIDIA A2 hoặc L4. Điện năng thấp, đặt được tại chỗ.
2. 20–100 camera: máy chủ 2U với 2 GPU L4 hoặc một L40S, kèm ổ NVMe cho video nóng.
3. Trên 100 camera: cụm nhiều node, tách tầng lưu trữ video riêng với ổ dung lượng lớn.

Lưu trữ video – phần chiếm chi phí lớn nhất

Một camera 1080p ghi liên tục sinh khoảng 1–2 TB mỗi năm. Một trăm camera là 100–200 TB. Đây thường là hạng mục tốn kém hơn cả GPU.

Cách làm hiệu quả là phân tầng: video vài ngày gần nhất nằm trên ổ nhanh để phân tích, phần còn lại chuyển xuống ổ 3,5 inch dung lượng lớn với chi phí trên mỗi terabyte thấp. Máy chủ 12 khay 3,5 inch phù hợp cho tầng này.

Ứng dụng thực tế tại Việt Nam

Kiểm tra chất lượng sản phẩm trên dây chuyền, đếm và phân loại người ra vào, phát hiện vi phạm an toàn lao động như không đội mũ bảo hộ, nhận dạng biển số xe, giám sát khu vực hạn chế. Điểm chung là mô hình không quá lớn nhưng phải chạy liên tục nhiều luồng — đúng điểm mạnh của GPU tầm trung.