When agents build, deploy, and maintain, persistence becomes the hard problem
Tóm tắt bởi AI
Các ứng dụng agent đang đối mặt với thách thức chi phí cơ sở dữ liệu khi agent phải xây dựng, triển khai và duy trì hệ thống. Nguyên nhân kỹ thuật là do coupling giữa state và compute khiến database phải hoạt động liên tục để lưu trữ trạng thái của agent. Hệ quả là chi phí cơ sở dữ liệu tăng lên đáng kể khi hệ thống mở rộng, gây ra "database idle cost trap". Giải pháp hiệu quả là decoupling state từ compute, giúp giảm đáng kể chi phí khi không có agent nào hoạt động. Bài viết cung cấp kiến thức thực tế về cách tối ưu hóa kiến trúc agent-based application để cân bằng giữa hiệu năng và chi phí.
Vì sao nên đọc: Bài này giải quyết bài toán persistence khó khăn khi agent quản lý trạng thái và tính toán, giúp tối ưu chi phí database cho ứng dụng agent-based.
Bạn nhớ được gì?
Trả lời 3 câu hỏi ngắn để nhận điểm thưởng cho bài này. Chỉ làm khi bạn muốn lấy điểm.
Để tạo skill tương tác hoạt động trên Claude Code, Cursor và Codex, tác giả đã bổ sung các câu hỏi dạng interactive vào file SKILL.md. Nguyên nhân kỹ thuật là do mỗi harness sử dụng cách khác nhau để render markdown, đặc biệt là phần code blocks. Hệ quả là một số tính năng hoạt động không nhất quán giữa các nền tảng. Điểm đáng học là cách sử dụng specific markdown syntax để đảm dụng compatibility.
Bài viết hướng dẫn tạo tệp SKILL.md tương tác giúp lập trình viên tối ưu trải nghiệm làm việc trên nhiều nền tảng.
Bối cảnh công nghệ AI đang phát triển chóng mặt khiến data scientists cần cập nhật kỹ năng mới để không bị đào thải. Nguyên nhân kỹ thuật là sự xuất hiện của các mô hình deep learning phức tạp như transformer và GPT-4 đòi hỏi kiến thức chuyên sâu về prompt engineering, MLOps và reinforcement learning. Hệ quả là các data scientists chỉ có kiến thức truyền thống về statistical learning và data visualization sẽ cạnh tranh kém hiệu quả so với những người nắm vững các công cụ hiện đại. Điều đáng học là phải thành thạo ít nhất 5 kỹ năng AI quan trọng trước năm 2027, bao gồm fine-tuning language models, building AI agents, và applying AI to video content - những lĩnh vực đang tăng trưởng với tốc độ 40-60% mỗi năm.
Bài viết giúp lập trình viên nắm 5 kỹ năng AI thiết yếu để luôn giữ giá trị và liên quan trong lĩnh vực khoa học dữ liệu.
We need to produce a Vietnamese summary, 4-6 sentences, natural, following order: background, technical cause, consequences, lessons learned. Include specific numbers and tech names if present. Avoid generic sentences, no markdown, no opening fluff, no mention that it's a summary. Use only Vietnamese and Latin characters, keep technical terms in English. No Chinese/Japanese/Korean characters.
Let's extract details:
- Engineering lead built an internal AI on-call agent.
- Over four months, grew from personal tool to infrastructure adopted by 36 agents across 28 teams.
- Key lessons: pick bounded repeatable problem, give agent memorable name to drive adoption, dropped proactive monitoring in favor of reactive help-desk model because usage data showed nobody wanted proactive alerts, treat prompt as strict runbook with numeric SLAs, explicit field IDs, closed failure taxonomy, asymmetric read/write permissions based on blast radius, offload rarely-needed procedural knowledge into loadable skills rather than bloating prompt.
- Failure modes: agent cannot diagnose its own outages because silence and failure look identical, so aliveness checks must live outside the agent.
- Session volume grew from 104 to 243 per week with a 3.4% failure rate across 1,133 sessions.
We need to produce 4-6 sentences, covering background, technical cause, consequences, lessons learned.
Let's craft:
Sentence 1: Background: An engineering lead spent four months building an internal AI on-call agent that started as a personal tool and eventually served 36 agents across 28 teams.
Sentence 2: Technical cause/approach: The team chose a bounded repeatable problem, gave the agent a memorable name, switched from proactive alerts to a reactive help‑desk model after data showed no demand for proactive notifications, and treated the prompt as a strict runbook with numeric SLAs, explicit field IDs, a closed failure taxonomy and asymmetric read/write permissions based on blast radius.
Sentence 3: Consequences/adoption: Session volume rose from 104 to 243 per week, accumulating 1,133 sessions with an overall 3.4% failure rate, demonstrating both usage growth and reliability challenges.
Sentence 4: Lessons learned: They offloaded rarely‑used procedural knowledge into loadable skills to keep the prompt lean, and realized the agent cannot self‑diagnose outages because silence and failure are indistinguishable, requiring external aliveness checks.
That's 4 sentences. Could add a fifth about naming driving adoption, but we already covered. Could add a sentence about the failure taxonomy and permissions. But we have enough.
Check for any Vietnamese characters: need to avoid any Chinese/Japanese/Korean characters. Use only Vietnamese Latin characters and English terms. Ensure no special characters like é? Vietnamese uses diacritics like á, ă, etc. Those are Latin characters with diacritics, allowed? The instruction: "Chỉ dùng chữ Việt và chữ Latin: tuyệt đối không có ký tự Hán/Trung/Nhật/Hàn trong câu trả lời, tên riêng kỹ thuật giữ nguyên dạng Latin." So Vietnamese characters with diacritics are allowed (they are Latin-based). So we can use Vietnamese with accents.
Make sure not to accidentally include any non-Latin like “–” (en dash) is okay? It's not a letter. Probably fine. Safer to use plain hyphen "-". Avoid curly quotes. Use plain ASCII punctuation.
Let's write sentences with plain punctuation.
Sentence 1: "Một trưởng nhóm kỹ thuật đã dành bốn tháng để xây dựng một tác nhân AI on‑call nội bộ, bắt đầu như một công cụ cá nhân và sau đó được 36 tác nhân trong 28 đội sử dụng."
Check: "tác nhân" maybe not common; better "đại lý" or "agent". Keep term "agent" in English. So: "Một trưởng nhóm kỹ thuật đã dành bốn tháng để xây dựng một agent AI on‑call nội bộ, bắt đầu như một công cụ cá nhân và sau đó được 36 agent trong 28 đội sử dụng."
Sentence 2: "Đội đã chọn một vấn đề có giới hạn và lặp lại, đặt tên agent để dễ nhớ, chuyển từ cảnh báo chủ động sang mô hình hỗ trợ phản ứng sau khi dữ liệu cho thấy ninguém muốn nhận cảnh báo chủ động, và đối xử prompt như một quy tắc chặt chẽ có SLA số, ID trường rõ ràng, phân loại lỗi đóng và quyền đọc/ghi bất đối xứng dựa trên bán phá hủy."
We need to ensure no special characters like “‑”. Use hyphen "-". Also avoid curly quotes. Use straight quotes if needed but better avoid.
Sentence 3: "Trong thời gian chạy, số phiên tăng từ 104 lên 243 mỗi tuần, tổng cộng 1.133 phiên với tỷ lệ thất bại 3,4%."
Sentence 4: "Bài học chính là offload kiến thức thủ tục raramente dùng vào các skill có thể tải, giữ prompt gọn, và nhận ra agent không thể tự chẩn đoán sự cố vì im lặng và lỗi trông giống nhau, vì vậy kiểm tra sự sống phải đặt bên ngoài agent."
Check numbers: "1.133" maybe should be "1 133" but we can use "1,133". Use comma as thousand separator. In Vietnamese, they often use dot as thousand separator and comma as decimal. But we can use "1.133" as thousand separator (dot) and comma for decimal? The original says "1,133 sessions". We'll keep "1,133". Use comma as thousand separator, dot for decimal? The failure rate "3.4%" uses dot as decimal. That's fine.
Thus sentence 3: "Trong thời gian chạy, số phiên tăng từ 104 lên 243 mỗi tuần, tổng cộng 1,133 phiên với tỷ lệ thất bại 3,4%."
Sentence 4
Bài này cung cấp bài thực tế về cách xây dựng và triển khai AI on-call agent từ một công cụ cá nhân thành hệ thống được 36 agent chấp nhận, với những bài học quý giá về thiết kế và quản lý.
Enterprise feature backlog đang tăng lên khiến thời gian từ yêu cầu đến sản phẩm thường được tính bằng tháng. Khi một AI assistant có thể sinh ra một chương trình nhỏ phù hợp точно với yêu cầu của người dùng, khoảng cách giữa request và khả năng thực hiện bị rút ngắn từ tháng xuống chỉ vài giây. Điều này khiến backlog có thể sụp đổ vì nhiều tính năng sẽ được tạo ra ngay thay vì phải đi qua quy trình phát triển truyền thống. Để kịp thời, các nhóm cần suy lại cách ưu tiên công việc và tích hợp quá trình sinh code tự động vào luồng làm việc. Việc áp dụng thay đổi này có thể giảm lãng phí và tăng tốc độ entrega tính năng cho doanh nghiệp.
Bài này giải thích cách AI đang thay đổi hoàn toàn cách phát triển phần mềm doanh nghiệp, giảm thời gian từ yêu cầu đến thực hiện từ tháng giây xuống chỉ vài giây.
AI agents có thể trích dẫn các câu hỏi chính xác nhưng vẫn trả lời sai. Nguyên nhân kỹ thuật là do lỗi trong việc استخراج ngữ cảnh, GraphRAG kết nối các mảnh dữ liệu để bù đắp thiếu thông tin. Khi không có ngữ cảnh đầy đủ, mô hình đưa ra câu trả lời mắc sai sót, gây ra quyết định sai. Điều đáng học là cần sử dụng GraphRAG để cải thiện quá trình RAG và tránh sai lệch do thiếu thông tin. Do đó, nếu bạn đang cân nhắc đọc bài, hãy quan tâm tới cách GraphRAG kết nối các node trong đồ thị để phục hồi ngữ cảnh.
GraphRAG giải quyết vấn đề AI trích dẫn chính xác nhưng trả lời sai bằng cách kết nối ngữ cảnh bị thiếu.
Bối cảnh: MCP được định hướng giải quyết vấn đề tooling cho AI agents, nhưng chưa hoàn thành bước cần thiết để các agent dễ dàng tìm công cụ.
Nguyên nhân kỹ thuật: ARD, một specification mở mới, nhằm tạo một hệ thống đăng ký công cụ cho agents, tương tự như DNS cho máy chủ.
Hệ quả: Khi thiếu bước này, các agent sẽ gặp khó khăn trong việc tìm kiếm và bind công cụ, làm giảm hiệu suất và tăng chi phí.
Điều đáng học: Việc thiếu một lớp trừu tượng chuẩn khiến các hệ sinh thái không tương thích, làm chậm triển khai và gây phân tán công cụ.
Do đó, nếu bạn đang cân nhắc đọc bài gốc, hãy chú ý cách ARD dự định bổ sung khoảng trống này và AWS đang định hướng nó.
ARD có thể là giải pháp thiếu trong hệ sinh thái công cụ agent, giúp tìm kiếm chéo registry hiệu quả như DNS trong thế giới mạng.
Bài viết mô tả tình huống lặp lại khi giải thích cùng một mô hình AI lên đến bốn lần trong một tuần do thiếu quy trình phát triển rõ ràng. Nguyên nhân kỹ thuật là sự thiếu một AI SDLC chuẩn hoá, bao gồm các bước kiểm tra mô hình, quản lý phiên bản và tự động hoá pipeline cho các agent. Hệ quả là đội ngũ tiêu tốn thời gian cho việc lặp lại giải thích, dẫn tới sự không nhất quán trong kết quả và trì hoãn việc triển khai các tính năng AI. Bài hướng dẫn đề xuất áp dụng các giai đoạn của AI SDLC – thu thập dữ liệu, huấn luyện, đánh giá, triển khai và giám sát – kèm theo công cụ như MLflow, Docker
Hướng dẫn đầy đủ về quy trình phát triển AI SDLC giúp bạn xây dựng kỹ năng Agent hiệu quả.
Mô hình miền (domain model) và Ngôn ngữ phổ quát (Ubiquitous Language) càng trở nên quan trọng khi AI tự động sinh code.
Lập trình viên nên đọc bài này để hiểu cách Domain-Driven Design (DDD) và ngôn ngữ chung (Ubiquitous Language) trở nên quyết định hơn bao giờ hết khi AI tự động hóa viết code, giúp bảo vệ chất lượng logic và tính tương thích với yêu cầu thực tế của dự án.
