The Redis Replica Lag Hit 40 Seconds. We Failed Over Anyway. Clients Read Stale Carts for an Hour

MCP vs A2A vs ACP: How AI Agents Actually Talk to Each Other

Các agent có khả năng hoạt động độc lập, khi kết hợp với công cụ và các agent khác, khả năng của chúng được nâng cao đáng kể.

Một lập trình viên nên đọc bài này để hiểu cách thiết kế hệ thống tương tác giữa các AI Agent hiệu quả, từ đó tối ưu hóa khả năng hợp tác, chia sẻ công cụ và xử lý nhiệm vụ phức tạp hơn thông qua mô hình MCP (Multi-Agent Communication Protocol), A2A (Agent-to-Agent) và ACP (Agent Communication Protocol).

EP220: RAG vs Graph RAG vs Agentic RAG

Bài viết so sánh ba phương pháp RAG (Standard RAG, Graph RAG, Agentic RAG) về cơ chế, ưu nhược điểm và trường hợp sử dụng, đồng thời giới thiệu các cấu trúc dữ liệu mới trong Redis 8, các best practices bảo mật API, cheat sheet design patterns và mô hình Testing Pyramid.

Lập trình viên cần đọc bài này để hiểu cách tối ưu hóa hệ thống AI bằng các kiến thức về RAG (Retrieval-Augmented Generation) và Redis 8, từ đó xây dựng giải pháp hiệu quả hơn trong việc xử lý dữ liệu và tương tác người dùng.

Sub-agents: splitting context across specialized AI agents

Các sub-agent là những thành phần AI chuyên biệt đảm nhiệm nhiệm vụ nhỏ trong hệ thống multi-agent, giúp khắc phục giới hạn cửa sổ ngữ cảnh (context window) của LLM nhờ phân chia khối lượng công việc. Tuy nhiên, việc chia nhỏ này cũng gây ra rủi ro sai lệch trạng thái, trùng lặp công việc hoặc lỗi tích tụ. Giải pháp đề xuất là sử dụng bộ nhớ chia sẻ kết hợp nhiều lớp (bộ nhớ phiên ngắn hạn, dài hạn bằng vector search) cùng cơ chế điều phối như pub/sub hay Streams, với Redis Iris là giải pháp thống nhất hỗ trợ đầy đủ các yêu cầu này.

Lập trình viên cần đọc để hiểu cách tối ưu hóa hệ thống AI đa agent bằng cách giải quyết vấn đề phân tán thông tin và tránh rủi ro mất hiệu suất do quản lý bộ nhớ phân tán không hiệu quả.

Dynamic batching: a how-to guide

Dynamic batching là kỹ thuật nhóm các yêu cầu inference thành lô tại thời điểm chạy, giúp tối ưu hóa hiệu suất GPU bằng cách chia sẻ chi phí tải trọng lượng giữa nhiều đầu vào. Phương pháp này cải thiện throughput nhưng tăng độ trễ, đặc biệt đối với LLM autoregressive khi sử dụng continuous batching (xử lý theo từng iteration) để tránh tình trạng request ngắn phải chờ request dài. Semantic caching bổ trợ bằng cách trả về kết quả đã cache dựa trên độ tương tự ngữ nghĩa, giảm tới 73% chi phí inference trong các tác vụ lặp lại.

Lập trình viên xây dựng hệ thống AI cần hiểu cách áp dụng dynamic batching và semantic caching để tối ưu hóa hiệu suất inference trên GPU, giảm chi phí vận hành và cải thiện trải nghiệm cho ứng dụng, đặc biệt là trong trường hợp xử lý LLM phức tạp.

Knowledge graph RAG: structured retrieval for AI agents

GraphRAG khắc phục hạn chế của vector search khi không thể truy vết mối quan hệ giữa tài liệu, cho phép các tác nhân AI kết nối bằng chứng đa bước nhờ mô hình hóa dữ liệu dưới dạng thực thể (entities) và liên kết (edges). Redis Iris cung cấp nền tảng tích hợp tìm kiếm vector, cập nhật dữ liệu theo thời gian thực, truy cập công cụ có kiểm soát và bộ nhớ đệm ngữ nghĩa để hỗ trợ kiến trúc truy xuất này.

Lập trình viên cần đọc bài này để hiểu cách xây dựng hệ thống tìm kiếm thông minh cho AI bằng GraphRAG, giúp giải quyết vấn đề truy vấn đa cấp và cập nhật dữ liệu hiệu quả trong ứng dụng agent.

Circuit Breakers in Rust: Protecting Your System from Cascading Failures

Tác giả xây dựng một hệ thống Redis publisher tự phục hồi bằng Rust, sử dụng Circuit Breaker để ngăn chặn lỗi lan truyền (cascading failures) khi dịch vụ bên ngoài gặp sự cố, đảm bảo quá trình xử lý sự kiện không bị gián đoạn.

Lập trình viên Rust nên đọc bài này để hiểu cách triển khai circuit breaker bằng ngôn ngữ này, giúp bảo vệ ứng dụng khỏi các lỗi cascading và tự động phục hồi khi hệ thống gặp sự cố.

Online Learning for Cost-Efficient LLM Routing

How our LLM gateway uses Thompson sampling over lognormal latency posteriors to pick the fastest, most reliable model route per request