No, local models will not win

Mô hình AI cục bộ không thể thay thế hoàn toàn suy luận (inference) từ trung tâm dữ liệu vì luôn yếu hơn các mô hình tiên tiến, tốn kém và kém hiệu quả hơn khi chạy tại nhà. Trung tâm dữ liệu tận dụng batching và phần cứng chuyên dụng (như B200) để đạt hiệu suất gấp 30 lần so với card đồ họa tiêu dùng (RTX 4090), trong khi chỉ có những trường hợp đặc biệt như độ trễ thấp, kiểm soát hạ tầng hoàn toàn hoặc internet không ổn định mới ưu tiên chạy local.