Manticore Search 28.4.4 is released, covering changes from versions 27.2.0 through 28.4.4. Key highlights include faster KNN rescoring via batched distance calculations, conversational search now available through both HTTP JSON API and SQL CALL CHAT with custom prompt support, a simplified one-line install/upgrade script, zero-count facet bucket support for e-commerce-style filtering, per-table relevance profile defaults, and a new embeddings_threads setting to cap CPU usage during embedding generation. The release also includes 17 bug fixes covering an auth/authorization bypass in MySQL multi-statement execution, replication cluster recovery edge cases, distributed query error handling, columnar/KNN merge cleanup, DBeaver and Connector/J compatibility, and several SQL and NLP correctness issues. Users with external UDF/ranker/token-filter plugins must rebuild binaries due to a plugin ABI version bump in 28.0.0.
Nguồn: https://manticoresearch.com/blog/manticore-search-28-4-4. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
RAG hiện là giải pháp tạm thời do thiếu khả năng lưu trữ và chuyển trạng thái ẩn (neural hidden states) trực tiếp giữa các mô hình. Việc mở rộng context window hay sử dụng RAG vẫn gây độ trễ cao (~135ms) không phù hợp cho hệ thống thời gian thực như robotics. Trong tương lai, RAG sẽ trở thành lớp tương tác giữa người-máy hoặc giữa các kiến trúc mô hình khác nhau, thay vì là cơ chế ghi nhớ chính.
Đọc bài này để hiểu cách RAG đang trở thành một giải pháp tạm thời, và tìm kiếm những tiến bộ mới về cách lưu trữ và truyền tải các trạng thái mạng thần kinh một cách hiệu quả hơn, đặc biệt là trong các ứng dụng thực tế đòi hỏi tốc độ và hiệu suất cao hơn.
Nhóm kỹ thuật GitGuardian đã giảm thời gian phản hồi p95 của dashboard từ 8 giây xuống 1 giây nhờ 5 tối ưu hóa PostgreSQL trên hệ thống Django, bao gồm: deferred JOINs bằng prefetch_related, đếm bất đồng bộ, replica đọc premium, cải tiến full-text search (pg_trgm), và denormalization để hỗ trợ composite indexes. Việc nâng cấp lên PostgreSQL 18 cũng mang lại lợi ích nhỏ. Họ sử dụng OpenTelemetry và EXPLAIN ANALYZE để theo dõi tiến trình.
Nếu bạn đang làm việc với ứng dụng backend sử dụng PostgreSQL và Django, bài viết này sẽ giúp bạn tìm hiểu cách tối ưu hóa hiệu suất dashboard hiệu quả bằng những kỹ thuật cụ thể, từ đó tiết kiệm thời gian và chi phí phát triển.
HubSpot đã mở rộng nền tảng Vector as a Service (VaaS) dựa trên Qdrant từ giai đoạn thử nghiệm lên 20 tỷ vector, phục vụ 38+ đội nhóm. Họ nâng cấp từ quản lý cluster thủ công bằng Helm lên Kubernetes Operator tùy chỉnh, tự động hóa shard, phục hồi replication và vòng đời cluster, giảm thời gian triển khai từ hàng giờ xuống vài phút. Hiện VaaS vận hành 200+ indexes, 140+ clusters trên 5 vùng, xử lý đỉnh 100.000 requests/giây cho các ứng dụng như agents, RAG và deduplication.
Lập trình viên cần đọc bài này để hiểu cách xây dựng và tối ưu hóa một hệ thống vector scaling hiệu quả trên Kubernetes, từ cơ sở hạ tầng đến quản lý trạng thái tự động, giúp giải quyết thách thức về hiệu suất và mở rộng cho ứng dụng AI như RAG và xử lý dữ liệu lớn.
Một nhà phát triển xây dựng pipeline RAG cho trợ lý di trú chia sẻ lý do không dùng LangChain trong sản xuất vì các lớp trừu tượng của nó che giấu những quyết định quan trọng về chunking, chất lượng truy xuất và cấu trúc tài liệu. Việc xây dựng từ đầu với ChromaDB, pdfplumber và Groq API giúp kiểm soát toàn bộ code, dễ dàng gỡ lỗi và đưa ra quyết định thiết kế có ý nghĩa. LangChain vẫn phù hợp để tạo nguyên mẫu, nhưng tác giả khuyên nên tự xây dựng ít nhất một lần để hiểu những gì framework đang trừu tượng hóa.
Lập trình viên nên đọc bài này để hiểu cách LangChain có thể làm giảm bớt trách nhiệm thiết kế chi tiết trong pipeline AI như xử lý đoạn văn, tìm kiếm dữ liệu và cấu trúc tài liệu, nhưng khi chuyển sang sản phẩm thực tế, sự kiểm soát trực tiếp từ code gốc sẽ giúp tránh những lỗi khó debug và tối ưu hóa hiệu suất.
Bài viết hướng dẫn fine-tuning LLM qua hai ví dụ: fine-tuning thủ công Mixtral 8x7B theo phong cách viết cá nhân bằng ghi chú và bài luận, và sử dụng PromptLayer để fine-tune GPT-3.5 thành công cụ tạo bài tập thể dục rẻ hơn nhờ dữ liệu do GPT-4 sinh ra. Nội dung đề cập đến thu thập dữ liệu, định dạng, tạo cặp huấn luyện bằng LLM, cũng như những khó khăn lặp đi lặp lại của phương pháp thủ công so với quy trình tối ưu hóa bằng PromptLayer, kết luận rằng fine-tuning thường phức tạp hơn RAG trong hầu hết trường hợp.
Là người phát triển muốn tối ưu hiệu suất của AI cho ứng dụng cụ thể mà không cần rủi ro phức tạp của fine-tuning thủ công, bài này giúp bạn so sánh cách chọn giữa RAG và các kỹ thuật fine-tuning chi tiết.

Amazon SageMaker AI vừa bổ sung hỗ trợ tùy chỉnh serverless cho các model Gemma 4 E4B và 31B của Google DeepMind, cho phép fine-tuning có giám sát (SFT), tối ưu hóa ưu tiên trực tiếp (DPO) và fine-tuning tăng cường (RFT) mà không cần quản lý hạ tầng. Người dùng chỉ trả tiền theo lượt sử dụng và có thể triển khai qua SageMaker Studio hoặc SDK Python.
Lập trình viên AI nên đọc để khám phá cách tối ưu hóa chi phí và tăng hiệu quả khi huấn luyện các mô hình lớn như Gemma 4 trên AWS với các phương pháp fine-tuning tiên tiến mà không phải lo về quản lý hạ tầng.
Target xây dựng hệ thống AI sinh ra để tối ưu dự báo chiến dịch marketing bằng cách truy xuất và xếp hạng các chiến dịch lịch sử tương tự. Pipeline đa giai đoạn sử dụng embeddings để nắm bắt ý nghĩa ngữ nghĩa từ metadata chiến dịch, vector similarity search để truy xuất ứng viên, và LLM để xếp hạng cũng như giải thích kết quả. Hệ thống này thay thế hệ thống rule-based cũ vốn đòi hỏi bảo trì thủ công và gặp khó khăn với định dạng chiến dịch thay đổi. Kết quả đánh giá đạt 75% độ phủ top-1 và 100% top-3 trên bộ dữ liệu thử nghiệm đa dạng. Hệ thống có vòng phản hồi tự động tinh chỉnh embeddings dựa trên dữ liệu hiệu suất chiến dịch đã hoàn thành, đồng thời các nhà phân tích xem xét đầu ra của mô hình trước khi đưa vào quy trình dự báo.
Lập trình viên nên đọc bài này để hiểu cách xây dựng một hệ thống AI tích hợp vector embeddings và LLM để tự động hóa và nâng cao hiệu quả của các pipeline dự báo marketing bằng cách thay thế quy trình thủ công và quy tắc cứng nhắc.
Bài viết phân tích chi tiết 7 lớp cốt lõi của AI agent trong sản xuất: foundation model, orchestration framework, memory systems, vector databases/RAG, tools & tích hợp, observability/evaluation, và deployment infrastructure. Mỗi lớp được giải thích kèm ví dụ code Python và công cụ thực tế như LangGraph, CrewAI, Chroma, Pinecone, Langfuse, cùng 3 bộ stack tham khảo cho môi trường prototype, startup và doanh nghiệp.
Lập trình viên phát triển các ứng dụng AI cần đọc để hiểu cách xây dựng một stack kỹ thuật hiệu quả từ cơ sở hạ tầng đến triển khai, tránh rủi ro về hiệu suất, bảo mật và khả năng mở rộng trong các dự án từ prototype đến doanh nghiệp.