EP223: Ollama vs vLLM vs SGLang

Cần chạy các mô hình trọng lượng mở trên máy cá nhân, người dùng thường lựa chọn giữa Ollama, vLLM và SGLang làm engine phục vụ. Mỗi engine có cách xử lý request riêng biệt, từ cách quản lý batch hingga cơ chế phân trang bộ nhớ. Sự khác biệt này dẫn đến hiệu suất và độ trễ khác nhau khi cùng một mô hình được triển khai trên cùng phần cứng. Ollama tende tới đơn giản hóa việc khởi động và tương tác qua command line, trong khi vLLM tập trung tối ưu throughput bằng PagedAttention và SGLang nhấn mạnh linh hoạt trong việc kết hợp các tác vụ tạo và xử lý song song. Do đó, việc chọn engine phù hợp phụ thuộc vào ưu tiên giữa dễ sử dụng, tốc độ xử lý lớn và khả năng tùy chỉnh cao.