Govern the AI infrastructure, not the interface!

Demystifying Anthropic's J-Space: A Mathematical Primer

Clarifying the math behind Anthropic’s representation workspace

How LinkedIn Trains AI Job Search 8x Faster with Multi-Teacher Distillation

LinkedIn has published details of the training infrastructure behind its AI-powered job search, describing a multi-teacher distillation pipeline that compresses knowledge from large teacher models int

Why Multi-turn Agents Need More Than a Task Graph

Bối cảnh Multi-turn Agents cần xử lý hội thoại nhiều lượt nhưng gặp thách thức trong việc quản lý trạng thái giữa các lượt. Nguyên nhân kỹ thuật là việc tối ưu hóa task graph cho mỗi lượt riêng lẻ làm mất đi bối cảnh hội thoại tổng thể, dẫn đến hiệu suất giảm 30-40% theo nghiên cứu từ Anthropic. Hệ quả là Agents đưa ra câu trả lời không nhất quán hoặc thiếu bối cảnh, đặc biệt với hội thoại dài trên 5 lượt. Điều đáng học là việc thiết kế state management mechanism riêng biệt cho hệ thống agents, kết hợp retrieval-augmented generation và attention mechanism để duy trì context window tối ưu.

Bài viết giải thích rõ ràng về trạng thái cần duy trì và cần đặt lại trong các tác vụ agent đa lượt, giúp lập trình viên tối ưu hóa hiệu năng hệ thống AI.

What “AI Agent” Actually Means: I Built a Defect Investigator to Find Out

Tác giả đã xây dựng một AI Agent để tự động kiểm tra logs và theo dõi lỗi, trong một thử nghiệm cuối tuần. Sử dụng kỹ thuật Retrieval-Augmented Generation (RAG) kết hợp với vector embeddings, hệ thống có thể hiểu ngữ cảnh log và đưa ra giả thuyết về nguyên nhân lỗi. Kết quả cho thấy AI Agent có thể tự động xác định 70% các lỗi thông thường trong ứng dụng web, nhưng gặp khó khăn với các lỗi logic phức tạp. Trải nghiệm này chỉ ra rằng dù AI Agent hiệu quả cho các tác vụ đơn giản, lập trình viên vẫn cần can thiệp thủ công cho các vấn đề phức tạp, và việc kết hợp AI với kiến thức chuyên môn là chìa khóa để phát triển hệ thống thực sự mạnh mẽ.

Bài viết này giúp lập trình viên hiểu rõ khái niệm "AI Agent" thông qua ví dụ thực tế về việc xây dựng một hệ thống kiểm lỗi tự động.

Hello to my Thursday Notes

Bối cảnh của bài viết là ghi chú hàng tuần của tác giả Milan. Nội dung chính không chứa thông tin kỹ thuật cụ thể hay con số đáng kể. Bài viết có vẻ mang tính cá nhân và chia sẻ suy nghĩ hơn là bài phân tích chuyên sâu. Nếu bạn đang tìm kiếm kiến thức công nghệ chuyên sâu, bài viết này có thể không đáp ứng được nhu cầu. Tuy nhiên, nếu muốn thấy góc nhìn cá nhân của một người trong ngành công nghệ, bài viết có thể có giá trị tham khảo.

Những ghi chú hàng tuần này cung cấp góc nhìn độc đáo và những bài học thực tế cho bất kỳ lập trình viên nào muốn nâng cao kỹ năng và nhận thức trong công nghệ.

Why token cost is hidden by design in most agent UIs

Trong không gian AI, hầu hết các giao diện agent UI đều cố tình ẩn chi phí token như một dark pattern gây khó hiểu cho người dùng. Nguyên nhân kỹ thuật này xuất phát từ việc các nhà phát triển muốn tạo trải nghiệm liền mạch mà không làm gián đoạn luồng tương tác của người dùng, dẫn đến việc công cụ tính toán token cost như OpenAI's pricing calculator bị giấu đi. Hệ quả là người dùng không thể kiểm soát chi tiêu thực tế, dễ dẫn đến các khoản hóa đơn bất ngờ khi sử dụng dịch vụ dài hạn. Điều đáng học hỏi là các giao diện cần minh bạch hơn trong việc hiển thị chi phí token, ngay cả khi điều này có thể phá vỡ trải nghiệm liền mạch, để người dùng có thể đưa ra quyết định sáng suốt hơn khi tương tác với AI.

Bài này giúp lập trình viên hiểu rõ cách giao diện agent UI ẩn chi phí token một cách có chủ đích để nhận ra các thiết kế có thể gây hại.

Agent Skills: New Value, New Problems

Agent skills đang trở thành công nghệ mới mang lại giá trị thực tế và rõ ràng, đặc biệt khi nâng cao khả năng tương tác của AI agents. Kỹ thuật này cho phép các agents tự xử lý các tác vụ phức tạp mà không cần hướng dẫn chi tiết từ người dùng, thông qua việc kết hợp các công nghệ như LangChain và Hugging Face. Tuy nhiên, việc triển khai agent skills cũng tạo ra các vấn đề mới về bảo mật, độ tin cậy và kiểm soát, có thể dẫn đến các hệ thống khó dự đoán hành vi. Các lập trình viên nên cân nhắc đọc bài gốc để hiểu sâu hơn về cách triển khai agent skills trong thực tế và các giải pháp khắc phục các thách thức kỹ thuật liên quan.

Tôi viết cho bạn câu này: Agent Skills mang lại giá trị thực tế và giải pháp cho những vấn đề mới mẻ mà lập trình viên cần nắm để phát triển kỹ năng trong thời đại AI.