#embeddings

7 Chunking Strategies That Decide Whether Your RAG Works

Chunking đóng vai trò quan trọng trong hiệu suất RAG, trong đó phương pháp chia token cố định không tối ưu. Bảy chiến lược chunking được so sánh gồm: chia token cố định có overlap, sentence-window retrieval, chunking cấu trúc nhận biết tài liệu, chunking dựa trên embedding ngữ nghĩa, chunking phân cấp parent-child, chunking đề xuất do LLM điều khiển, và chunking đa phương thức bảo toàn bảng. Ngoài ra, hệ thống RAG sản xuất cần quản lý vòng đời index, UUID xác định dựa trên hash nội dung, chính sách TTL, và loại bỏ trùng lặp chunk để tránh phình to cơ sở dữ liệu vector và suy giảm suy luận LLM.

Nếu bạn đang xây dựng hoặc tối ưu hóa hệ thống RAG (Retrieval-Augmented Generation) để tránh mất hiệu suất do chunking không hiệu quả và quản lý dữ liệu vector hiệu quả, bài viết này sẽ giúp bạn lựa chọn và áp dụng các chiến lược chunking phù hợp với từng trường hợp.

Onboarding Agent from Scratch. Part 7: Teaching an Agent to Search Instead of Read Everything

Bài viết giới thiệu cách huấn luyện một agent (tác nhân AI) sử dụng kỹ thuật search (tìm kiếm) thay vì đọc toàn bộ dữ liệu, giúp tối ưu hiệu suất khi trả lời các câu hỏi đơn giản như "tôi được nghỉ phép bao nhiêu ngày".

Bài viết này giúp bạn hiểu cách xây dựng một agent thông minh có thể tìm kiếm thông tin hiệu quả thay vì đọc toàn bộ dữ liệu, giúp tiết kiệm thời gian và cải thiện độ chính xác trong ứng dụng thực tế.

Building a Real-World RAG System: Lessons No One Tells You

Hệ thống RAG (Retrieval-Augmented Generation) có thể cung cấp thông tin sai lệch ngay cả khi không cố ý, vì dữ liệu đầu vào (tài liệu, API) có thể chứa thông tin không chính xác hoặc lỗi thời.

Lập trình viên nên đọc bài này vì nó tiết lộ cách AI RAG có thể tự gián đoạn logic, nhầm lẫn nguồn dữ liệu thực tế chỉ vì thiết kế sai lầm về cách kết nối, chọn lọc và xử lý thông tin từ tài liệu ban đầu.

AI, Decoded by Cavemen, Scrabble Tiles, and a Poker Dealer

Bài viết giải thích AI tạo sinh (generative AI) theo cách đơn giản, dễ hiểu bằng những ví dụ trực quan như người tiền sử, quân Scrabble hay người chia bài poker, thay vì thuật ngữ kỹ thuật phức tạp.

Nếu bạn muốn hiểu AI không phải là một thuật ngữ phức tạp mà là một công cụ thực tế, từ cơ bản đến ứng dụng trong công việc, bài này sẽ giúp bạn giải mã những khái niệm khó mà vẫn giữ được giá trị thực dụng.

The Untaught Lessons of RAG Retrieval: Cosine Is Not the Foundation

Các pipeline RAG phổ biến thường sử dụng cosine similarity trên các embedding, nhưng cách này bỏ qua cấu trúc tài liệu và không thể chứng minh sự vắng mặt thông tin. Bài viết đề xuất sáu bài học: truy xuất nên hoạt động như SQL (lọc trên bảng cấu trúc), từ khóa ưu tiên vì rẻ và có thể trả về kết quả trống, mục lục tài liệu là tín hiệu quan trọng bắt lỗi paraphrase. Embedding chỉ là phương án dự phòng khi từ vựng không khớp, không phải nền tảng. Co-occurrence vượt trội so với BM25 trên dữ liệu doanh nghiệp hẹp, và cần tách biệt anchor (khớp chính xác) với context (phạm vi xung quanh). Một lần chạy LLM trên mục lục có thể giải quyết paraphrase hiệu quả, tạo thành pipeline ba tín hiệu (từ khóa + TOC + embedding) với ưu điểm về chi phí và khả năng kiểm toán.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa hệ thống RAG bằng cách kết hợp các phương pháp truyền thống và tiên tiến—tránh sai lầm đơn giản như chỉ dùng cosine similarity mà bỏ qua cấu trúc văn bản và hiệu quả của các signal như từ khóa, TOC, và embeddings để cải thiện chất lượng và hiệu suất của hệ thống.

Inside Target’s LLM-Based System for Semantic Matching in Marketing Forecast Pipelines

Target xây dựng hệ thống AI sinh ra để tối ưu dự báo chiến dịch marketing bằng cách truy xuất và xếp hạng các chiến dịch lịch sử tương tự. Pipeline đa giai đoạn sử dụng embeddings để nắm bắt ý nghĩa ngữ nghĩa từ metadata chiến dịch, vector similarity search để truy xuất ứng viên, và LLM để xếp hạng cũng như giải thích kết quả. Hệ thống này thay thế hệ thống rule-based cũ vốn đòi hỏi bảo trì thủ công và gặp khó khăn với định dạng chiến dịch thay đổi. Kết quả đánh giá đạt 75% độ phủ top-1 và 100% top-3 trên bộ dữ liệu thử nghiệm đa dạng. Hệ thống có vòng phản hồi tự động tinh chỉnh embeddings dựa trên dữ liệu hiệu suất chiến dịch đã hoàn thành, đồng thời các nhà phân tích xem xét đầu ra của mô hình trước khi đưa vào quy trình dự báo.

Lập trình viên nên đọc bài này để hiểu cách xây dựng một hệ thống AI tích hợp vector embeddings và LLM để tự động hóa và nâng cao hiệu quả của các pipeline dự báo marketing bằng cách thay thế quy trình thủ công và quy tắc cứng nhắc.

How to Build a Powerful LLM Knowledge Base

Bài viết hướng dẫn xây dựng cơ sở tri thức (knowledge base) mạnh mẽ sử dụng LLM (Large Language Model) cho cá nhân hoặc doanh nghiệp. Nội dung đề cập đến lợi ích của việc tích hợp LLM vào cơ sở tri thức (tìm kiếm tự động qua RAG), cách thu thập thông tin từ nhiều nguồn khác nhau như cuộc họp, công cụ quản lý dự án hay tác nhân mã hóa thông qua cron jobs, cùng hai phương pháp truy vấn cơ sở tri thức: tìm kiếm dựa trên grep qua tệp markdown index và tìm kiếm RAG dựa trên embedding. Bài viết tham khảo các ví dụ thực tế như GBrain (chủ tịch Y Combinator) và wiki LLM của Andrej Karpathy.

Làm việc với các mô hình ngôn ngữ lớn, bạn cần biết cách tối ưu hóa và tích hợp tri thức cá nhân hoặc doanh nghiệp để tránh mất thời gian tìm kiếm thông tin và tăng hiệu suất trong các dự án lập trình, quản lý dự án hay phân tích dữ liệu.

Anchor Detection for RAG: Parallel Detectors, Then One LLM Call at the End

Bài viết giới thiệu quy trình phát hiện mỏ neo (anchor detection) cho hệ thống RAG doanh nghiệp gồm ba giai đoạn: chạy song song các bộ phát hiện từ khóa và nhúng (embedding) trên hai bảng cấu trúc (line_df và toc_df), sau đó sử dụng một lần gọi LLM để xếp hạng ứng viên với lý do minh bạch. Tác giả nhấn mạnh phát hiện từ khóa luôn bắt buộc (miễn phí, xác định), nhúng là tín hiệu song song tùy chọn để khớp từ vựng, còn BM25 kém hiệu quả hơn so với thang điểm đồng xuất hiện tùy chỉnh trong tài liệu doanh nghiệp. Ba mô hình kết hợp bảng chéo cũng được đề cập: "reason-then-match", "section-weighted match" và "hybrid embedding".

Để tối ưu hóa hiệu quả và hiệu suất của hệ thống RAG cho doanh nghiệp, bạn nên đọc bài này để hiểu cách xây dựng một giải pháp anchor detection hiệu quả bằng cách kết hợp các detector song song với một gọi duy nhất đến LLM cuối cùng, giúp giảm chi phí và tăng độ chính xác trong việc chọn lựa thông tin phù hợp.

Honey, I shrunk the embeddings: Matryoshka vs. PCA

So sánh hiệu quả giữa Matryoshka embeddings và PCA trên các bộ dữ liệu BEIR.

Những kỹ thuật như Matryoshka và PCA trong xử lý vector hóa dữ liệu có thể giúp tối ưu hóa hiệu suất tìm kiếm thông tin và giảm chi phí cho các ứng dụng AI, đặc biệt là trong các hệ thống xử lý ngôn ngữ lớn, nên bạn nên đọc để hiểu cách chọn lọc và tối ưu hóa các embedding hiệu quả hơn.

Beyond Structure: Semantic Chunking Inside ODC

Cấu trúc chỉ đưa ta đến đây, nhưng ý nghĩa sẽ đưa ta xa hơn. Bài viết giới thiệu về "Semantic Chunking" trong ODC, mở rộng khái niệm cấu trúc bằng cách tập trung vào ý nghĩa thay vì chỉ hình thức.

Lập trình viên nên đọc bài này để hiểu cách tách nghĩa (semantic chunking) thay vì chỉ tập trung vào cấu trúc, giúp tối ưu hóa hiệu suất xử lý dữ liệu và logic trong các hệ thống ODC (Open Data Cube) phức tạp, từ đó nâng cao hiệu năng và khả năng mở rộng ứng dụng.

The open way of Percona Search for MongoDB

Percona ra mắt bản Technical Preview 1.70.3-1 của Percona Search for MongoDB, một phiên bản downstream của mongot (động cơ tìm kiếm của MongoDB Atlas Search), hỗ trợ full-text và vector search cho các triển khai MongoDB tự quản lý, đồng thời mở rộng khả năng nhúng tự động cho nhiều API OpenAI-compatible và các mô hình open-weight, bổ sung giai đoạn $rerank, tích hợp chunking ngữ cảnh và hỗ trợ đa phương thức. Bản phát hành này yêu cầu Percona Server for MongoDB 8.3 nhưng chưa sẵn sàng cho sản xuất.

Nếu bạn đang xây dựng ứng dụng MongoDB tự quản với yêu cầu tìm kiếm vector hoặc full-text mạnh mẽ mà không muốn phụ thuộc vào các giải pháp vendor lock-in, bài viết này sẽ giới thiệu Percona Search—a giải pháp mở rộng tự chủ—với các tính năng mới như tích hợp tự động với các mô hình AI mở rộng, hỗ trợ $rerank và nhiều cải tiến khác, giúp tối ưu hóa hiệu suất và linh hoạt cho deployments của bạn.

Medium

Ngày thứ hai hành trình kỹ sư AI: Từ câu chữ đến vector – hiểu cách các embeddings thực sự được tạo ra. Hôm qua, tôi đã tìm hiểu về khái niệm embeddings và vai trò nền tảng của chúng trong semantic search.

Để hiểu sâu sắc cách các mô hình AI chuyển đổi văn bản thành các đại diện số học (embeddings) và ứng dụng trong xử lý ngôn ngữ tự nhiên, giúp bạn xây dựng và tối ưu hóa các giải pháp AI hiệu quả hơn.

AI Foundations Series — Part 1

AI Foundations Series — Part 1 Why Were Embeddings Invented? Understanding the Problem Before the Solution “Every technology exists because it solves a problem. Before learning embeddings, we …

Encoder — Essence for Reasoning

Encoder là "bộ não thầm lặng" của AI hiện đại, đóng vai trò nền tảng cho khả năng hiểu sâu (deep understanding) bằng cách chuyển đổi dữ liệu thô thành biểu diễn có ý nghĩa (meaningful representations), từ đó cung cấp nền tảng cho các mô hình sinh (generative models) và các tác vụ suy luận (reasoning) phức tạp.

Những kiến thức về encoder sẽ giúp bạn hiểu rõ cơ chế sâu sắc của AI lý luận, từ đó xây dựng các giải pháp hiệu quả hơn trong ứng dụng từ xử lý ngôn ngữ tự nhiên đến phân tích dữ liệu phức tạp.

Just brute force your embeddings

Với bộ dữ liệu đủ nhỏ, thay vì dùng các phương pháp tìm kiếm vector phức tạp, brute-force (tìm kiếm tuyến tính) có thể đơn giản và hiệu quả hơn, giúp giảm thiểu rắc rối vận hành.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa tìm kiếm vector đơn giản bằng cách thử brute-force, giúp tiết kiệm thời gian và chi phí khi xử lý các bộ dữ liệu nhỏ, tránh thắc mắc về hiệu suất và chi phí của các giải pháp vector search phức tạp hơn.

Vectors Week: become a savier vector db customer

Tuần lễ Vectors Week giới thiệu các sự kiện về vector retrieval, hybrid search, và cách kết hợp dense và lexical search.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa hệ thống tìm kiếm vector bằng cách kết hợp các kỹ thuật như tìm kiếm vector dày đặc, tìm kiếm lexical và hybrid search, giúp cải thiện hiệu suất và chính xác trong ứng dụng AI và xử lý dữ liệu.

PCA: an embedding shrink-ray

Bài viết giới thiệu cách sử dụng PCA để giảm chiều dữ liệu (embeddings) nhằm tối ưu hóa không gian lưu trữ và tăng tốc độ xử lý.

Một lập trình viên nên đọc bài này để hiểu cách PCA giúp tối ưu hóa không gian dữ liệu bằng cách giảm chiều số liệu embedding mà vẫn giữ được thông tin chính yếu, giúp cải thiện hiệu suất mô hình AI và tiết kiệm tài nguyên.

Pairing In-Process and Hosted Embeddings for Java MCP Tool Development

Bài viết giới thiệu thiết kế của một Java MCP server dành cho đánh giá mức độ khẩn cấp (0–10) của các ticket hỗ trợ, trình bày hai chiến lược embedding: MiniLM cục bộ qua DJL (384 chiều, không phụ thuộc bên ngoài) và OpenAI từ xa (1536 chiều, chất lượng sản xuất). Mỗi phương pháp sử dụng bộ scorer feed-forward DeepNetts riêng, không tương thích chéo, trong khi framework Helidon quản lý khởi động server thông qua annotations. Embedding cục bộ phù hợp phát triển/kiểm thử, còn embedding từ xa dùng cho xác thực ngữ nghĩa khi có mạng.

Nếu bạn đang phát triển công cụ phân tích độ cấp bách cho các ticket hỗ trợ bằng Java và muốn tối ưu hóa hiệu suất, tính ổn định và khả năng mở rộng cho ứng dụng của mình, bài viết này sẽ giúp bạn hiểu rõ cách thiết kế và triển khai hai mô hình embedding khác nhau (đang chạy và được chủ機 host) cùng một giao diện MCP ổn định, từ đó chọn lựa phương pháp phù hợp nhất cho từng giai đoạn phát triển và sản xuất.

I Built a Go SDK for the Hugging Face Inference API — Here’s Why It Needed to Exist

Khi hệ sinh thái AI bỏ quên các nhà phát triển Go, việc xây dựng SDK riêng cho Hugging Face Inference API là cần thiết để kết nối khoảng trống này.

Lập trình viên Go cần đọc bài này để hiểu cách tự xây dựng SDK riêng cho Hugging Face API để khắc phục sự thiếu hụt công cụ hiệu quả trong cộng đồng Go, giúp tối ưu hóa việc triển khai mô hình AI với tốc độ và tính linh hoạt cao hơn.

Still Confused About Embeddings? Start Here.

Still Confused About Embeddings? Start Here. I built a tiny Node.js app with Ollama to see exactly how text becomes vectors — and everything finally made sense. Give me 10 minutes. I’ll make sure …

From Characters to Meaning: How Machines Read Text

Bài viết giải thích cách máy móc xử lý văn bản từ ký tự thành ngữ nghĩa, nằm trong lĩnh vực machine learning và data science. Nó nhấn mạnh tầm quan trọng của việc chuẩn bị dữ liệu (như huấn luyện model, tinh chỉnh chatbot hay làm sạch dataset) trước khi triển khai các ứng dụng liên quan.

Để hiểu rõ cơ chế cơ bản của cách máy tính xử lý và hiểu nghĩa từ văn bản, từ đó tối ưu hiệu suất cho các dự án AI, chatbot và xử lý dữ liệu text hiệu quả hơn.

Integrating Local LLMs with Spring AI Using LM Studio

Learn how to use a locally hosted chat model and an embedding model with Spring AI in LM Studio.

Embeddings Explained: How AI Understands Meaning

Embeddings là kỹ thuật chuyển đổi dữ liệu (văn bản, hình ảnh) thành dạng vector số, giúp AI hiểu ngữ nghĩa và thực hiện tìm kiếm ngữ nghĩa (semantic search). Đây là nền tảng quan trọng của các hệ thống RAG (Retrieval-Augmented Generation) hiện đại.

Lập trình viên muốn xây dựng hệ thống AI thông minh như RAG (Retrieval-Augmented Generation) cần hiểu embeddings để tối ưu hóa cách AI xử lý và tìm kiếm thông tin từ dữ liệu văn bản hiệu quả.

Embeddings: The Reason Machines Finally “Get” Language

Embeddings: The Reason Machines Finally “Get” Language Bag of Words was the first attempt to turn language into numbers a computer could work with. And it failed at the one thing that actually …

Your Next iOS System Design Interview Won’t Ask About Image Caches. It’ll Ask About Semantic Ones.

Your Next iOS System Design Interview Won’t Ask About Image Caches. It’ll Ask About Semantic Ones. Vector search, embeddings, and semantic caching are now general-loop interview material. I built …

part 4 : Common Misconceptions

part 4 : Common Misconceptions Every new technology attracts misconceptions. Embeddings are no exception. Let’s clear up the three biggest ones. Misconception #1 “Embeddings are encrypted …

I stopped uploading my notes to ChatGPT and NotebookLM after setting up my local LLMs

I ditched cloud platforms for a self-hosted LLM, and my notes have never been more useful

BigQuery Search innovations: Unify structured & unstructured data

Discover how BigQuery simplifies AI pipelines with Autonomous Embeddings, faster AI.SEARCH, and Hybrid Search

Can You Explain AI to a Five-Year-Old?

AI là công nghệ giúp máy móc học cách làm những việc thông minh như con người, ví dụ như nhận diện khuôn mặt hay hiểu ngôn ngữ.

Bạn nên đọc bài này để hiểu cách AI hoạt động đơn giản hơn, giúp bạn dễ dàng áp dụng kiến thức cơ bản vào các dự án thực tế mà không bị phức tạp bởi thuật ngữ chuyên môn.

Qwen3 embedding and reranking models for retrieval are now available in Amazon SageMaker JumpStart

AWS has made Qwen3-VL-Embedding-2B and Qwen3-Reranker-4B available in Amazon SageMaker JumpStart. The embedding model handles multimodal inputs (text, images, screenshots, videos) across 30+ languages, generating semantic vectors for tasks like image-text retrieval and visual question answering. The reranker model takes query-document pairs and outputs relevance scores for text, code, and multilingual content across 100+ languages. Both models are designed to work together in a two-stage retrieval pipeline and can be deployed via SageMaker Studio or the SageMaker Python SDK.

Semantic Search for AI Agents at Scale: Retrieval and Ranking for LinkedIn’s Hiring Assistant

LinkedIn's engineering team details how they built MUSE (Member Understanding Semantic Embeddings), the semantic search system powering Hiring Assistant across 1.3B+ member profiles. The system uses a dual-tower Siamese LLM architecture producing Matryoshka embeddings (2048-dim for ANN retrieval, 4096-dim for L2 ranking). A scalable LLM-as-judge teacher system generates millions of qualification-match labels to fine-tune the embedding model with InfoNCE contrastive loss. Infrastructure uses a Lambda architecture with CDC-driven daily delta inference, IVFPQ indexing, and Apache Iceberg tables. Online A/B results show +2.7% highly-relevant candidate rate, +4.1% InMail sends per seat, and +1.8% InMail accepts — with fewer but better candidates surfaced. Key lessons: high-confidence LLM labels outperform human annotators on technical qualifications, contrastive post-training alignment matters more than model size for embedding tasks, and ANN approximation losses compound with post-filter losses.

Adding embeddings/RAG support to the Koog-based AI agent in Confetti

Bài viết hướng dẫn tích hợp semantic search vào ứng dụng Confetti Compose Multiplatform bằng cách sử dụng embeddings và RAG của Koog. Dữ liệu phiên hội thảo được nhúng bằng Gemini, lưu trữ vector trên backend bền vững qua Okio, và cung cấp công cụ SearchSessionsTool cho Koog AIAgent để trả lời truy vấn theo chủ đề.

Lập trình viên muốn xây dựng các ứng dụng AI tích hợp tìm kiếm nghĩa vụ (semantic search) trong môi trường multiplatform nên đọc để hiểu cách triển khai hiệu quả hệ thống tìm kiếm vector hóa và RAG với Koog, từ đó tối ưu hóa khả năng trả lời tự động phù hợp với các yêu cầu thực tế.

Build AI Search in .NET using Postgres and pgvector

Hướng dẫn từng bước xây dựng hệ thống tìm kiếm ngữ nghĩa/AI trong ASP.NET Core bằng PostgreSQL, pgvector và API nhúng Gemini. Bài viết giải thích hạn chế của tìm kiếm từ khóa, giới thiệu vector embeddings, và triển khai từ thêm cột Embedding cho thực thể Blog, cấu hình pgvector với EF Core, sinh embeddings khi tạo bản ghi, đến truy vấn bằng cosine distance để trả về kết quả liên quan ngữ nghĩa. Có repository demo hoàn chỉnh kèm 100 bài viết mẫu.

Lập trình viên ASP.NET Core cần đọc bài này để chuyển đổi từ tìm kiếm từ khóa truyền thống sang giải pháp tìm kiếm AI có nghĩa, tối ưu hóa hiệu suất với PostgreSQL và pgvector, và nhanh chóng triển khai với ví dụ thực tế từ seed dữ liệu cho ứng dụng.

DevRel newsletter — June 2026

Elastic's June 2026 DevRel newsletter highlights jina-embeddings-v5-omni, a compact multimodal embedding model now available on the Elastic Inference Service. The model maps text, images, audio, and video into a single shared vector space, enabling cross-modal search with one index and one query — no separate pipelines per modality. It achieves the highest average benchmark score of any open-weight model under 5B parameters across MMTEB, MIEB, MMEB, and MAEB. It is backwards-compatible with existing jina-embeddings-v5-text indexes and supports Elasticsearch's Better Binary Quantization (93% storage reduction) and Matryoshka truncation. The newsletter also links to blogs on persistent agent memory, vector search best practices, RAG agents, and security integrations, plus upcoming conference appearances.