What Is DiskANN? Billion-Scale Vector Search Explained

DiskANN is a graph-based approximate nearest neighbor (ANN) algorithm from Microsoft Research (NeurIPS 2019) that enables billion-scale vector search by storing indexes on SSD rather than RAM. Built on the Vamana directed graph algorithm combined with product quantization (PQ), it keeps only compressed vectors in RAM for fast routing while reading full-precision vectors from SSD for final reranking. This achieves 95%+ recall with sub-5ms latency on 1B vectors using just 64GB RAM — 5-10x more vectors per machine than DRAM-only solutions like HNSW. The post covers how DiskANN works, compares it to HNSW and IVF, details tuning parameters (MaxDegree, SearchListSize, BeamWidthRatio), hardware sizing guidelines, and lists databases that support it including Couchbase 8.0, Azure Cosmos DB, Milvus, and pgvectorscale. FreshDiskANN extends the algorithm to support real-time updates without full index rebuilds.

Nguồn: https://www.couchbase.com/blog/diskann. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.

Đề xuất cho bạn

InfoQ1 Hot4 phút2 ngày trướcAI

How HubSpot Scaled Semantic Search to 20 Billion Vectors

HubSpot đã mở rộng nền tảng Vector as a Service (VaaS) dựa trên Qdrant từ giai đoạn thử nghiệm lên 20 tỷ vector, phục vụ 38+ đội nhóm. Họ nâng cấp từ quản lý cluster thủ công bằng Helm lên Kubernetes Operator tùy chỉnh, tự động hóa shard, phục hồi replication và vòng đời cluster, giảm thời gian triển khai từ hàng giờ xuống vài phút. Hiện VaaS vận hành 200+ indexes, 140+ clusters trên 5 vùng, xử lý đỉnh 100.000 requests/giây cho các ứng dụng như agents, RAG và deduplication.

Lập trình viên cần đọc bài này để hiểu cách xây dựng và tối ưu hóa một hệ thống vector scaling hiệu quả trên Kubernetes, từ cơ sở hạ tầng đến quản lý trạng thái tự động, giúp giải quyết thách thức về hiệu suất và mở rộng cho ứng dụng AI như RAG và xử lý dữ liệu lớn.