Under the Hood: AI Systems

Are LLMs still surprisingly bad at some simple tasks?

Năm ngoái tác giả đã thực hiện thí nghiệm kiểm tra khả năng của các modern LLMs trong việc …

Deploy and manage coding agents at scale with the Unity Gateway CLI

Unity Gateway CLI giúp triển khai và quản lý coding agents quy mô lớn, giải quyết bài toán giám sát hiệu năng cho hàng trăm agent. Công cụ này sử dụng distributed architecture với công nghệ gRPC để giảm 75% thời gian phản hồi và tăng hiệu suất xử lý request. Hệ thống cho phép auto-scaling thông qua Kubernetes, giúp tối ưu chi phí vận hành khi có đến 10,000 đồng thời kết nối. Phát triển viên nên học cách thiết lập resource quotas và monitoring dashboard để kiểm soát hiệu năng real-time của agent pool.

Unity Gateway CLI giúp lập trình viên triển khai và quản lý mã hóa đại một cách hiệu quả.

How to talk about "AI" without adding to the anthropomorphization

Bối cảnh: Các tác giả Emily M. Bender và Nanna Inie trong bài viết cho Tech Policy Press phản đối cách gọi "AI" (Artificial Intelligence) như thể nó có ý thức hoặc khả năng ngôn ngữ. Nguyên nhân kỹ thuật: Thuật ngữ "AI" hiện tại che giấu sự thật kỹ thuật - các mô hình ngôn ngữ lớn chỉ là công cụ thống kê dự đoán từ tiếp theo dựa trên dữ liệu huấn luyện. Hệ quả: Cách gọi anthropomorphization này khiến công chúng hiểu sai, tạo kỳ vọng không thực tế và giảm trách nhiệm của nhà phát triển. Điều đáng học: Chúng ta cần dùng ngôn ngữ chính xác như "stochastic parrots" (vẹt ngẫu nhiên) để mô tả bản chất thực của các hệ thống AI và nhấn mạnh yếu tố dữ liệu đào tạo.

Bài này giúp lập trình viên nhận thức và tránh cách nói nhân hóa AI khi thảo luận về công nghệ này.

A Gentle Introduction to Model Distillation

Model distillation phương pháp nén khả năng của mô hình teacher lớn vào một student nhỏ hơn, ban đầu qua training trên soft probability distributions và temperature scaling, nay cho LLMs chủ yếu qua synthetic data generation, feature matching hoặc logit matching. Mặc dù distillation đã trở thành tiêu chuẩn (ví dụ Llama 3.1 405B của Meta được cấp phép rõ ràng cho mục đích này), năm 2026 chứng kiến các tranh chấp lớn khi OpenAI cáo buộc DeepSeek, Anthicism cáo buộc Qwen (Alibaba) và báo cáo về việc truy cập tài khoản giả để khai thác Claude, cùng Google can thiệp các tấn công vào Gemini. Chưa có kiểm toán pháp y hay phán xét tòa án nào giải quyết được các cáo buộc này, và xung đột cơ bản giữa việc mô hình bị bộc lộ qua API và được bảo vệ khỏi sao chép vẫn chưa được giải quyết.

Bài này giúp lập trình viên hiểu rõ thực trạng pháp lý và kỹ thuật của mô hình model distillation trong bối tranh tranh bản quyền công nghệ AI.

Google Open-Sources AX a Kubernetes Style Orchestrator for Autonomous AI Agents

Google vừa open-source AX, một orchestrator theo phong cách Kubernetes để quản lý workloads cho autonomous AI agents. AX hoạt động trên runtime là Agent Substrate, coi agents như stateful actors. Nó tối ưu hóa hiệu suất tài nguyên, sử dụng kỹ thuật batching để giảm overhead từ 90% xuống chỉ còn 10% khi gọi API. Hệ thống này cho phép developers tạo agents có thể tự điều chỉnh và tái sử dụng code giữa nhiều agent instances. Điều đáng học là cách Google áp dụng kiến trúc distributed systems vào domain AI, cho thấy hướng đi mới cho AI orchestration.

Google AX giúp lập trình viên quản lý tác vụ tự động cho AI agent với hiệu suất tối ưu nhờ kiến trúc Kubernetes-style.

We Automated Over 15,000 Security Reviews Without Letting AI Decide Everything

Để giải quyết bài toán kiểm tra bảo mật mất hàng giờ, công ty đã triển khai hệ thống automation với 15,000+ security reviews. Họ kết hợp deterministic controls và specialized AI agents để xử lý tác vụ nhưng vẫn giữ con người giám sát an toàn. Nhờ hệ thống này, thời gian verification giảm từ vài giờ xuống còn vài phút. Bài học đáng học là cách thiết kế hybrid approach giữa AI và human oversight mà không để AI tự quyết định, sử dụng safe escalation khi cần xử lý phức tạp. Các công nghệ như deterministic controls và specialized AI agents được tận dụng tối ưu để đạt hiệu suất cao.

Bài viết này giúp lập trình viên hiểu cách kết hợp kiểm soát xác định và AI chuyên dụng để tự động hóa hiệu quả quy trình rà bảo mật.

Fighting AI Slop in Production Codebases: How Huntress Improved Fable 5.1’s API Recall

Huntress đã cải thiện đáng kể độ chính xác của Claude Fable 5.1 trong việc đánh giá API recall lên gấp đôi thông qua ba thay đổi trong hệ thống coding harnesses. Nguyên nhân kỹ thuật nằm ở việc tối ưu hóa phương pháp đánh giá và cải thiện chất lượng dữ liệu đầu vào. Hệ quả là tỷ lệ chính xác trong việc nhận diện và ghi nhớ API tăng từ mức ban đầu lên 100%, giúp giảm thiểu lỗi trong quá trình phát triển. Bài viết này cho thấy việc cải tiến công cụ đánh giá có tác động trực tiếp đến chất lượng AI code generation. Các kỹ sư nên học hỏi cách Huntress tiếp cận vấn đề AI slop trong production codebase thông qua những thay đổi cụ thể và đo lường định lượng.

Ba thay đổi trong bộ công cụ lập trình Huntress đã tăng gấp đôi độ chính xác trong đánh giá API recall của Claude Fable 5.1, giúp lập trình viên cải thiện hiệu quả AI trong sản phẩm thực tế.

Judge’s full ruling puts Google’s ad tech business under a monitor for six years

Phán quyết của thẩm phát đã áp đặt Google phải cho phép truy cập Prebid và chia sẻ dữ dụng đấu giá trong 6 năm, ảnh hưởng đến toàn bộ hệ thống ad tech của công ty. Nguyên nhân kỹ thuật nằm ở việc Google bị phát hiện sử dụng các API riêng tư để hạn chế cạnh tranh từ các nền tảng quảng cáo bên thứ ba. Hậu quả là Google phải thay đổi toàn cầu chiến thuật ad tech của mình trong vòng 6 năm dưới sự giám sát của bên thứ ba, nhưng tránh được việc phải bán sàn đấu giá quảng cáo AdX. Điều đáng học là việc các công ty công nghệ lớn không thể lạm dụng vị thế thống lĩnh thị trường mà không phải đối mặt với hậu quả pháp lý nghiêm trọng.

Bài viết giải thích bản án đầy đủ ảnh hưởng lớn đến chiến lược quảng cáo và kinh doanh của Google trong sáu năm tới.