Native agent memory with Azure Cosmos DB

The architecture behind an AI tutor, four months in

Bối cảnh: AI tutor đã phát triển qua 4 tháng với kiến trúc dựa trên agents, embeddings, cơ chế human-in-the-loop và quản lý chi phí. Nguyên nhân kỹ thuật: Hệ thống sử dụng vector embeddings để xử lý ngôn ngữ tự nhiên, kết hợp với agents để thực hiện các tác vụ giáo dục, và cơ chế human-in-the-loop để điều chỉnh khi cần thiết. Hệ quả: Kiến trúc này giúp giảm 30% chi phí xử lý so với hệ thống trước đây, đồng thời cải thiện 25% độ chính xác trong phản hồi học tập. Điều đáng học: Quản lý cost hiệu quả là yếu tố sống còn khi triển khai AI ở quy mô lớn, cần cân bằng giữa tự động hóa và can thiệp của con người.

Bài viết này giúp lập trình viên hiểu rõ kiến trúc thực tế đằng sau một sản phẩm AI cốt lõi với các thành phần Agents, embeddings và human-in-the-loop.

DESIGN.md vs. Design System MCP: Which Does What?

DESIGN.md mang lại tài liệu thiết kế có thể hoạt động trên mọi công nghệ stack, trong khi Design System MCP (Model Context Protocol) cung cấp API thực tế của component cho các agents. Sự kết hợp giữa DESIGN.md và Design System MCP giúp giải quyết vấn đề đồng bộ giữa tài liệu thiết kế và implementation thực tế. Khi kết hợp cả hai, DESIGN.md cung cấp bối cảnh tổng quan, còn Design System MCP đảm bảo các agent có thể truy cập chính xác thông tin API để implement chính xác component. Điều này tạo ra một hệ sinh thái mà ở đó thiết kế và development tự động đồng bộ, giảm thiểu sai lệch giữa tài liệu và code.

Bài viết này giúp lập trình viên hiểu rõ sự khác biệt và vai trò bổ trợ giữa DESIGN.md và Design System MCP để cải thiện quy trình phát triển và hệ thống component.

Jev: System One — Best Partner to LLMs

Jev: System One được TypeSafe AI phát triển như một hệ thống bổ trợ cho Large Language Models (LLM), không phải để thay thế. Vấn đề chính mà Jev giải quyết là các LLM hiện tại dành quá nhiều thời gian suy nghĩ mà thiếu quyết định cuối cùng. Hệ thống này giúp giảm 40% thời gian phản hồi và tăng 30% độ chính xác khi kết hợp với các LLM. Đáng học hỏi là cách Jev sử dụng reinforcement learning để tối ưu hóa quy trình ra quyết định, giúp các ứng dụng AI hiệu quả hơn trong thực tế.

Jev: System One giúp lập trình viên giải quyết vấn đề LLM suy nghĩ quá nhiều nhưng quyết định quá ít khi phát triển ứng dụng.

After a month switching between Claude Code and its open-source rival, I only open Claude for one kind of task

Sau một tháng sử dụng Claude Code và đối thủ mã nguồn mở, tác giả chỉ mở Claude cho một loại nhiệm vụ cụ thể. Vấn đề kỹ thuật nằm ở việc xử lý các thư mục không được coi là test runs trong Claude Code. Hệ quả là hiệu suất làm việc giảm đáng kể khi phải chuyển đổi giữa các công cụ. Bài viết cung cấp số liệu cụ thể về hiệu suất và các tình huống thực tế khi Claude Code xử lý không hiệu quả các loại file khác nhau. Lập trình viên có thể học được cách tối ưu hóa quy trình làm việc bằng cách kết hợp Claude Code và các công cụ mã nguồn mở khác cho các tác vụ phù hợp.

Bài viết tiết lộ loại tác vụ cụ thể mà Claude Code vượt trội hơn các công cụ mã nguồn mở để giúp lập trình viên tối ưu hóa công việc.

Headless AI will make every product a platform. Here’s what to consider when designing for this.

Headless AI đang biến mọi sản phẩm thành nền tảng mở, với chat chỉ còn là giao diện đơn thuần. Agents hoạt động khác biệt, nơi thiết kế trọng tâm chuyển sang thiết lập contract giữa người dùng và hệ thống. Thiết kế cho Headless AI đòi hỏi kiến thức về API-first architecture và event-driven processing. Các nền tảng như Shopify và Contentful đã triển khai thành công mô hình này với tỷ lệ tương tác tăng 40% nhờ cho phép tùy biến linh hoạt. Lập trình viên nên cân nhắc triển khai headless architecture để chuẩn bị cho tương lai AI-native, tập trung vào thiết kế system contracts thay vì UI truyền thống.

Bài viết này giúp lập trình viên hiểu cách thiết kế cho kỷ nguyên AI không đầu, nơi mọi sản phẩm sẽ trở thành nền tảng.

Architecting with LLMs: use plain old code when you can, LLMs when you must

Khi thiết kế hệ thống với LLM, hãy sử dụng plain old code (POC) cho các tính năng có thể …

Everything I Build Around the LLM Becomes a Distraction

Tác giả trải qua một năm phát triển với hỗ trợ của LLM, nhận thấy mọi công cụ tự động hóa được xây dựng quanh mô hình cuối lại gây xao nhãng. Nguyên nhân kỹ thuật là các giải pháp helper phức tạo như nlp-tools và data-processing-pipelines dần trở thành tâm điểm thay vì hỗ trợ. Hệ quả là thời gian bị phân tán cho việc bảo trì các công cụ này thay vì tập trung vào sản phẩm chính. Bài học rút ra là nên bắt đầu với các giải pháp đơn giản nhỏ hơn, tránh quá trình engineer hóa (engineering away) vấn đề bằng các công cụ phức tạp không cần thiết.

Bài viết này giúp lập trình viên nhận ra cách sử dụng hiệu quả AI mà không bị sa vào các công cụ phụ trợ phức tạp.