Building the Modern AI Infrastructure Stack with Cortex AI Gateway

How Netflix Taught an LLM to Recommend Movies So That You Keep Watching

Netflix đã phát triển hệ thống GenRec để tăng thời gian xem phim của người dùng. …

Build and Train a 25M Parameter LLM From Scratch on Your CPU

Bối cảnh: Bạn không cần cụm GPU khổng lồ để học cách AI hiện đại hoạt động. …

The LLM Blindspot: Why Models Forget What’s in the Middle of Your Prompt

Các mô hình LLM (Large Language Model) thường bỏ qua thông tin nằm ở giữa prompt, hiện …

DESIGN.md vs. Design System MCP: Which Does What?

DESIGN.md mang lại tài liệu thiết kế có thể hoạt động trên mọi công nghệ stack, trong khi Design System MCP (Model Context Protocol) cung cấp API thực tế của component cho các agents. Sự kết hợp giữa DESIGN.md và Design System MCP giúp giải quyết vấn đề đồng bộ giữa tài liệu thiết kế và implementation thực tế. Khi kết hợp cả hai, DESIGN.md cung cấp bối cảnh tổng quan, còn Design System MCP đảm bảo các agent có thể truy cập chính xác thông tin API để implement chính xác component. Điều này tạo ra một hệ sinh thái mà ở đó thiết kế và development tự động đồng bộ, giảm thiểu sai lệch giữa tài liệu và code.

Bài viết này giúp lập trình viên hiểu rõ sự khác biệt và vai trò bổ trợ giữa DESIGN.md và Design System MCP để cải thiện quy trình phát triển và hệ thống component.

Building Connected AI Agents: How RAG, MCP, and A2A Form the Modern Google AI Stack

Bối cảnh bài viết phân tích kiến trúc AI hiện đại của Google với ba trụ cột chính là RAG, MCP và A2A. Nguyên nhân kỹ thuật là nhu cầu kết nối các AI agent với nhau và với hệ thống hiện có, giải quyết vấn đề thông tin phân mảnh và thiếu cơ chế chuẩn. Hệ quả là kiến trúc này tạo ra hệ sinh thái AI có khả năng tích hợp cao, cho phép các agent trao đổi dữ liệu và thực thi tác vụ phức tạp. Điều đáng học là cách RAG (Retrieval-Augmented Generation) giúp AI truy cập thông tin trong thời gian thực, MCP (Model Context Protocol) thiết lập giao thức kết nối, và A2A (Agent-to-Agent) tạo framework cho tương tác agent.

Bài viết này cung cấp kiến thức cơ bản về cách xây dựng AI agents kết nối với nhau bằng RAG, MCP và A2A.

RAG Isn’t Magic. Here’s the Journey From a Question to an Answer

Khi làm việc với RAG (Retrieval-Augmented Generation), nhiều người bị ấn tượng bởi khả năng "ma thuật" của nó. Hệ thống hoạt động bằng cách truy vấn các vector database như Pinecone hoặc Milvus để tìm ngữ cảnh liên quan từ kho knowledge base, sau đó đưa dữ liệu này vào prompt của LLM (GPT-3.5 hoặc GPT-4) để tạo câu trả lời. Tuy nhiên, RAG gặp thách thức với vấn đề hallucination - mô hình vẫn có thể tạo ra thông tin sai sự thật dù đã được truy vấn dữ liệu. Bài viết phân tích chi tiết từng bước trong quy trình RAG, giúp lập trình viên hiểu rõ nguyên nhân kỹ thuật đằng sau hiệu ứng "thần kỳ" này để tối ưu hóa hệ thống thực tế.

Bài viết này giải thích chi tiết quy trình hoạt động của RAG, giúp lập trình viên hiểu rõ cơ chế đằng sau công nghệ thay vì chỉ xem nó như phép màu.

Are LLMs silver bullets?

Trong bối cảnh LLMs đang thay đổi hoàn toàn lĩnh vực software engineering, việc đánh giá giá trị thực sự của công nghệ này là cần thiết. Vấn đề nằm ở chỗ các LLMs như GPT-4 có thể tạo ra code nhanh chóng nhưng thường chứa lỗi hoặc không tối ưu. Hệ quả là lập trình viên phải tốn thêm thời gian để kiểm tra và sửa code do AI tạo ra. Bài viết nhắc nhở chúng ta rằng dù công cụ AI có mạnh đến đâu, kiến thức sâu về system design và algorithm vẫn là yếu tố không thể thay thế.

Bài này giúp lập trình viên đánh giá giá trị thực sự của LLMs trong kỹ thuật phần mềm qua lăng kính kinh nghiệm của Fred Brooks.