Nvidia AI server prices are rising more than 15% from early next year

Nvidia đã thông báo với các khách hàng lớn rằng giá các máy chủ AI sử dụng chip của họ sẽ tăng hơn 15% bắt đầu từ đầu năm tới. Tăng giá này chủ yếu do giá cácmodule bộ nhớ DDR5 và HBM – thành phần quan trọng trong hệ thống AI – đang tăng mạnh. Chi phí bộ nhớ cao hơn làm tăng tổng chi phí sản xuất và bán máy chủ, do đó các doanh nghiệp phải trả thêm khi mua hoặc thuê hạ tầng AI. Hệ quả trực tiếp là chi phí triển khai mô hình AI lớn lên, có thể khiến các dự án bị trì hoãn hoặc buộc phải tìm cách tối ưu hóa workload để giảm sử dụng bộ nhớ. Bài học cho các lập trình viên và quyết định mua sắm là cần theo dõi chuỗi cung ứng bộ nhớ và xem xét các lựa chọn như sử dụng bộ nhớ thấp hơn, nén mô hình hoặc tối ưu hóa tài nguyên trước khi đầu tư vào hạ tầng AI mới.