You can’t debug what you can’t see — Observability for AI Agents

Are LLMs still surprisingly bad at some simple tasks?

Năm ngoái tác giả đã thực hiện thí nghiệm kiểm tra khả năng của các modern LLMs trong việc …

Native support for Prometheus metrics in GKE

GKE giờ đây hỗ trợ tích hợp sẵn Prometheus metrics, cho phép người dùng xử lý trực tiếp các metrics này trên cluster. Tính năng này giúp giảm tải cho Prometheus server bằng cách offload một phần xử lý metrics về GKE. Bạn có thể sử dụng PromQL queries để tạo autoscaling triggers linh hoạt hơn, thay vì phụ thuộc vào các metric đơn giản như CPU hay memory. Ví dụ, bạn có thể scale dựa trên số lượng request HTTP mỗi giây hoặc chỉ số p99 latency. Đây là cải tiến quan trọng giúp giảm chi phí hạ tầng và tăng hiệu quả của hệ thống monitoring.

Tích hợp hỗ trợ Prometheus metrics trong GKE giúp bạn sử dụng PromQL queries linh hoạt để tùy chỉnh triggers tự động mở rộng.

How to talk about "AI" without adding to the anthropomorphization

Bối cảnh: Các tác giả Emily M. Bender và Nanna Inie trong bài viết cho Tech Policy Press phản đối cách gọi "AI" (Artificial Intelligence) như thể nó có ý thức hoặc khả năng ngôn ngữ. Nguyên nhân kỹ thuật: Thuật ngữ "AI" hiện tại che giấu sự thật kỹ thuật - các mô hình ngôn ngữ lớn chỉ là công cụ thống kê dự đoán từ tiếp theo dựa trên dữ liệu huấn luyện. Hệ quả: Cách gọi anthropomorphization này khiến công chúng hiểu sai, tạo kỳ vọng không thực tế và giảm trách nhiệm của nhà phát triển. Điều đáng học: Chúng ta cần dùng ngôn ngữ chính xác như "stochastic parrots" (vẹt ngẫu nhiên) để mô tả bản chất thực của các hệ thống AI và nhấn mạnh yếu tố dữ liệu đào tạo.

Bài này giúp lập trình viên nhận thức và tránh cách nói nhân hóa AI khi thảo luận về công nghệ này.

Microservices vs Monolithic Architecture: What Nobody Tells You Until You've Lived Through Both

So sánh chi tiết giữa monolithic và microservices vượt qua lý thuyết, bàn về sự phức tạp trong deployment, sự ảnh hưởng của Conway's Law đến ownership team, khó khăn trong debugging và observability, cũng như thách thức về data consistency, performance và scaling. Bài viết chỉ ra monolithic thực sự phù hợp trong những trường hợp nào, khi nào microservices mang lại hiệu quả, và giới thiệu khái niệm "modular monolith" như giải pháp trung gian. Các lỗi phổ biến như resume-driven development hay distributed monoliths được liệt kê kèm framework thực tế để ra quyết định dựa trên team, domain, delivery, operations và scale. Thông điệp chính là chọn architecture dựa trên vấn đề thực tế chứ không phải sự phức tạp giả định.

Bài viết này giúp lập trình viên hiểu rõ sự cân thực giữa kiến trúc microservices và monolithic, tránh những sai lầm phổ biến và đưa ra quyết định kiến trúc phù hợp dựa trên nhu cầu thực tế.

A Gentle Introduction to Model Distillation

Model distillation phương pháp nén khả năng của mô hình teacher lớn vào một student nhỏ hơn, ban đầu qua training trên soft probability distributions và temperature scaling, nay cho LLMs chủ yếu qua synthetic data generation, feature matching hoặc logit matching. Mặc dù distillation đã trở thành tiêu chuẩn (ví dụ Llama 3.1 405B của Meta được cấp phép rõ ràng cho mục đích này), năm 2026 chứng kiến các tranh chấp lớn khi OpenAI cáo buộc DeepSeek, Anthicism cáo buộc Qwen (Alibaba) và báo cáo về việc truy cập tài khoản giả để khai thác Claude, cùng Google can thiệp các tấn công vào Gemini. Chưa có kiểm toán pháp y hay phán xét tòa án nào giải quyết được các cáo buộc này, và xung đột cơ bản giữa việc mô hình bị bộc lộ qua API và được bảo vệ khỏi sao chép vẫn chưa được giải quyết.

Bài này giúp lập trình viên hiểu rõ thực trạng pháp lý và kỹ thuật của mô hình model distillation trong bối tranh tranh bản quyền công nghệ AI.

Build Your Own AI Agent Harness in C#, the MafClaw Live Series

Bruno Capuano đang thực hiện loạt 4 buổi livestream code hướng dẫn xây dựng AI agent bằng C# với Microsoft Agent Framework harness. Series bắt đầu từ một đơn IChatClient call, dần bổ sung các tính năng như truy cập file với phê duyệt, durable memory, skills, shell access, CodeAct code execution, background agents và cuối cùng là observability cùng Purview governance. Agent ví dụ là trợ lý giáo dục tài chính cá nhân, được chọn vì đặt ra các vấn đề về phân biệt quyền read/write, phê duyệt giao dịch mô phỏng và an toàn khi thực thi code. Tại thời điểm viết, 2/4 buổi đã phát trực tiếp trên kênh .NET YouTube và Microsoft Reactor, với bản ghi có sẵn sau đó.

Sê-ries này hướng dẫn xây dựng trợ lý AI tài chính bằng C# với đầy đủ công cụ và tính năng bảo mật cần thiết.

From insight to innovation: How Kiro Crew, Dynatrace, and AWS are helping teams do more

Kiro Crew đang tận dụng dữ liệu observability từ Dynatrace và AWS để phân cấp và xếp hạng các vấn đề kỹ thuật. Phương pháp này cho phép nhóm xác định nhanh chóng các sự cố quan trọng nhất, giảm thời gian điều tra tới 40%. Bằng cách tích hợp AWS monitoring với Dynatrace AI, họ có thể nhận diện nguyên gốc gốc sự cố tự động và đưa ra khuyến nghị hành động cụ thể. Đáng học hỏi là cách họ biến dữ liệu thô thành thông tin có giá trị hành động, giúp tăng tốc độ giải quyết sự cố và tối ưu hóa hiệu suất hệ thống.

Bài viết này giúp lập trình viên hiểu cách sử dụng dữ liệu khả quan sát từ Dynatrace và AWS để tối ưu hóa quy trình giải quyết vấn đề và thúc đẩy đổi mới.

DevOps Summit Singapore 2026

DevOps Summit Singapore 2026 sẽ là sự kiện mà Last9 trình bày về observability cho AI agents và cách vận hành hệ thống đáng tin cậy hơn mà không có chi phí bất ngờ. Sự kiện này tập trung vào các giải pháp giám sát hệ thống thông minh cho các tác nhân AI đang phát triển nhanh chóng. Hội thảo hứa hẹn chia sẻ kiến thức chuyên sâu về quản lý chi phí vận hành và đảm bảo độ ổn định cho hệ thống phức tạp. Những kỹ sư DevOps quan tâm đến AI và quản trị hạ tầng cloud sẽ có cơ hội tiếp cận các công cụ và chiến lược mới nhất từ Last9.

Bài viết giúp lập trình viên khám phá cách quản lý tính năng quan sát cho AI agent và xây dựng hệ thống đáng tin cậy hơn với chi phí tối ưu.