A 128 TOPS alternative to NVIDIA Jetson Orin NX 16GB with Cortex-A78AE/R52+ cores

LLM Moats Quickly Evaporating

Một bài viết mới cho thấy các mô hình LLM mã nguồn mở như Qwen3.8 27B và Qwen3.6 đã giảm thiểu lợi thế cạnh tranh mà Anthropic và OpenAI từng có nhờ chi phí tính toán khổng lồ. Các phiên bản đã quan sát hoá của chúng được chạy trên máy Mac Studio với 256GB RAM và có thể được giảm xuống để hoạt động trên PC chơi game chỉ có 32GB RAM, trong khi một mô hình 1-bit vẫn chạy trên thiết bị 16GB, dù chất lượng bị giảm. Do đó, phần cứng vật lý trở thành rào cản duy nhất để triển khai các mô hình lớn tại chỗ thay vì phụ thuộc vào dịch vụ đám mây có chủ sở hữu. Đối với các lập trình viên cân nhắc có nên đọc bài gốc, họ sẽ thấy rằng các cải tiến hiệu suất đang làm chậm sự khác biệt giữa môi trường mở và khép kín, khiến việc triển khai tại chỗ ngày càng khả thi. Bài viết nêu con số cụ thể như 27B, 32GB, 16

Bài viết này giúp lập trình viên hiểu xu hướng chạy các mô hình AI mạnh mẽ ngay tại máy cá nhân thay vì phụ thuộc vào dịch vụ đám mây.