Turbopuffer vs. Manticore Search on a couple of cheap VPS

Bài benchmark so sánh turbopuffer (dịch vụ vector search serverless) và Manticore Search trên 2 VPS Hetzner ($8,25/tháng) với 975K vector 1536 chiều từ DBpedia. Cả hai đạt recall tương đương (~0,966), nhưng Manticore chi phí thấp hơn (~$16,5/tháng), độ trễ thấp hơn (10–13 ms vs 21 ms) nhờ loại bỏ round-trip mạng, và throughput tương đương (~329 vs ~296 QPS). turbopuffer vượt trội về quản lý không tốn công, scaling linh hoạt, và throughput đỉnh (~800–1.100 QPS). turbopuffer có chi phí cao do phí ghi theo GB ($61,44/$75). Kết luận: Manticore tiết kiệm cho workload ổn định ~1M vector vài QPS, còn turbopuffer phù hợp cho hạ tầng fully managed hoặc quy mô lớn.