Context vs. Memory Engineering in Agentic AI Systems

How We Built DEmate: Taming LLMs for Data Engineering at Meta

Meta xây dựng DEmate, trợ lý AI chuyên biệt cho nền tảng data engineering nội bộ, thay thế các LLM tổng quát không hiểu các công cụ, SQL macros hay UDFs riêng. Hệ thống sử dụng kiến trúc "Recipe" gồm 4 giai đoạn (lựa chọn, tiêm ngữ cảnh, sinh code, kiểm định) với ~70 recipes DE, kết hợp chaining và disclosure để giảm lỗi ảo giác. DEmate triển khai trên IDE, giao diện SQL và công cụ quản lý task, đạt 3.500 người dùng hàng tuần và tỷ lệ chấp nhận code 80% sau 5 tháng.

Lập trình viên data cần đọc để hiểu cách xây dựng một công cụ AI chuyên biệt hóa cho stack riêng biệt, từ đó áp dụng kiến thức về recipe architecture và code review AI để tối ưu hóa hiệu suất và chất lượng trong công việc xử lý dữ liệu của riêng mình.

Context Engineering | Compaction & Agent Memory for Automated Malware Analysis

OpenAI's tính năng nén ngữ cảnh native giảm tới ~86% lượng token đầu vào mà không ảnh hưởng đáng kể đến chất lượng tổng thể trong phân tích malware tự động, dù mô hình hóa đối tượng miền có giảm nhẹ. Bài viết phân biệt rõ memory làm việc (xử lý bởi nén ngữ cảnh) và storage bền vững (lưu trữ artifacts chính xác), đồng thời hướng dẫn sử dụng hai kiểu API nén (server-side và standalone) kèm ví dụ code, nhấn mạnh tầm quan trọng của "context engineering" trong workflow bảo mật agentic lâu dài.

Những lập trình viên phát triển hệ thống an ninh tự động cần đọc để tối ưu hóa hiệu suất và độ chính xác của các agent AI trong phân tích malware bằng cách hiểu cách điều khiển bộ nhớ và ngữ cảnh hiệu quả, từ đó giảm chi phí tính toán và bảo đảm chất lượng kết quả.

Anthropic launches Claude Sonnet 5 as a cheaper way to run agents

Anthropic vừa ra mắt Claude Sonnet 5, phiên bản tầm trung với khả năng điều phối tác vụ tự động, sử dụng công cụ và hoàn thành nhiệm vụ đa bước được cải thiện đáng kể. Mức giá 2$/10 triệu token (vào/ra) cho đến 31/8, sau đó tăng lên 3$/10 triệu, rẻ hơn so với Opus 4.8, GPT-5.5 và Gemini 3.1 Pro nhưng hiệu suất gần tương đương Opus 4.8 trên hầu hết tiêu chuẩn đánh giá.

Lập trình viên nên đọc bài này để hiểu cách các mô hình AI mới như Claude Sonnet 5 có thể tự động hóa và tối ưu hóa công việc lập trình, từ việc lập kế hoạch tự động cho đến xử lý các nhiệm vụ đa bước với chi phí thấp hơn nhiều so với các mô hình cao cấp khác.

The many journeys of learning Rust

Nghiên cứu định tính từ nhóm Rust về cách các nhà phát triển học ngôn ngữ Rust thông qua …

Mastering Agentic Techniques: AI Agent Reinforcement Learning

Hướng dẫn này so sánh khi nào nên sử dụng Reinforcement Learning (RL) thay vì RAG, SFT, DPO hay RLHF, đồng thời đề xuất GRPO làm phương pháp mặc định cho các tác vụ có phần thưởng có thể xác minh (RLVR). Nó cung cấp quy trình từng bước xây dựng vòng lặp huấn luyện RL đầu tiên, thiết kế môi trường cho các tác vụ đa bước, cảnh báo về reward shaping, quản lý ngân sách tính toán, và chiến lược cải tiến liên tục cho các tác vụ sản xuất bằng các công cụ như NVIDIA NeMo RL, NeMo Gym và NeMo Data Designer.

Lập trình viên phát triển các hệ thống AI agent cần hiểu cách áp dụng reinforcement learning để tối ưu hóa hành vi phức tạp, từ việc chọn kỹ thuật phù hợp cho từng trường hợp đến thiết kế môi trường và quản lý chi phí hiệu quả.

Three Years of Building Agents in Production (Part 1)

Kỹ sư mabl chia sẻ ba năm kinh nghiệm xây dựng AI agents cho kiểm thử phần mềm sản xuất, từ những thất bại ban đầu với PaLM 2023 đến việc tận dụng sức mạnh LLM như LLM-as-judge, RAG với Gemini 2, và quản lý trạng thái đa nền tảng. Họ rút ra bài học: giao diện UI đơn giản vẫn khó điều hướng, nhóm ngữ nghĩa hiệu quả hơn so khớp từ, dữ liệu kiểm thử tĩnh không phù hợp cho AI xác suất, và CoT cứng nhắc phản tác dụng khi nâng cấp lên Gemini 2.5.

Bạn nên đọc bài này để hiểu cách chuyển đổi từ những thất bại ban đầu trong ứng dụng AI như PaLM sang xây dựng các hệ thống agent hiệu quả trong thực tế, từ đó tránh những sai lầm về cách tiếp cận và tối ưu hóa kiến trúc cho các ứng dụng AI trong sản xuất.

Meta's Brain2Qwerty reads typed sentences from the brain

Meta vừa công bố phiên bản 2 của hệ thống Brain2Qwerty, sử dụng máy quét MEG không xâm lấn để giải mã các câu văn bản từ hoạt động não bộ. Hệ thống đạt độ chính xác 61% cho từng từ (tối đa 78% ở người tham gia tốt nhất), vượt trội so với các hệ thống không xâm lấn trước đây chỉ đạt vài phần trăm. Mặc dù sử dụng pipeline LLM tương tự ChatGPT để tái tạo câu từ tín hiệu não nhiễu, hệ thống vẫn còn hạn chế lớn như thiết bị cồng kềnh, không hoạt động theo thời gian thực và yêu cầu người dùng phải gõ bàn phím để huấn luyện. Các phương pháp xâm lấn vẫn dẫn đầu về độ chính xác với 92% cho toàn bộ câu.

Lập trình viên nên đọc bài này để hiểu cách kết hợp mô hình ngôn ngữ lớn (LLM) và giải mã não bộ để tạo ra hệ thống mới trong lĩnh vực AI não-giao tiếp, giúp mở rộng ứng dụng của trí tuệ nhân tạo trong y tế và tương tác người-máy.