GPUs on Kubernetes are bring-your-own-everything, starting with the bill

Trong Kubernetes, CPU và memory có sẵn metrics, sizing chi phí và phân bổ tài nguyên cho từng pod. GPU chia sẻ lại thiếu hoàn toàn các tính năng này, khiến team platform phải tự xây dựng hệ thống giám sát. GPU thường là chi phí đắt đỏ nhất trong hóa đơn điện toán đám mây mà lại không có công cụ quản lý sẵn. Các giải pháp như NVIDIA GPU Operator hay device-plugins chỉ giải quyết phần cứng chứ không hỗ trợ quản lý chi phí. Điều này đòi hỏi đầu tư thêm vào hệ thống metering và billing riêng để theo dõi sử dụng GPU theo pod, một bài toán phức tạp nhưng cần thiết cho kiểm soát chi phí.