Amazon ECR now supports image layers up to 200 GB

Your agent needs a computer, not a container — introducing @cloudflare/computer

Các agent không chỉ cần container để mở rộng quy mô. Cloudflare giới thiệu @cloudflare/computer, một môi trường runtime cho agent, kết hợp giữa isolates siêu nhanh và container Linux đầy đủ để cung cấp cho mỗi agent một "máy tính" riêng.

Làm việc với các ứng dụng agent yêu cầu nhiều tính năng linh hoạt hơn container truyền thống, và bài viết giải thích cách Cloudflare Computer tối ưu hóa hiệu suất bằng cách kết hợp isolates nhẹ và container Linux để tạo một môi trường thực sự "máy tính riêng" cho mỗi agent.

Azure and Community Guidelines on Choosing Between a Skill or a Sub-Agent

In a recent Azure Architecture blog article, Azure lead engineer Kishorekumar Pattabiraman outlines practical criteria for choosing between skills, sub-agents, and other approaches when building AI sy

Eval-Driven Design Systems (Part 2)

Eval-Driven Design Systems (Part 2) In our previous post, we treated Zod schemas as agent-readable contracts. But a schema is just a hypothesis; without tests, you’re shipping vibes. This post …

Velocity: Why the Best Software Architects Move the Slowest

Sử dụng LLM và AI agents giúp tăng tốc độ sản xuất phần mềm đáng kể, nhưng cũng kéo theo những rủi ro tiềm ẩn từ tốc độ này.

Những lập trình viên giỏi không chỉ tập trung vào tốc độ viết code mà họ tìm hiểu cách AI và công nghệ mới tác động đến thiết kế, quy trình và tương lai của hệ thống, tránh rơi vào nhầm lẫn giữa hiệu suất ngắn hạn và sự bền vững lâu dài.

LLMs for Relevance: Automating High-Quality Product Relevance Labeling in Flipkart Search

Flipkart ứng dụng các mô hình ngôn ngữ lớn (LLMs) để tự động gán nhãn mức độ phù hợp (relevance labeling) cho sản phẩm trong kết quả tìm kiếm, nhằm nâng cao chất lượng và độ chính xác so với phương pháp thủ công truyền thống.

Nếu bạn đang tìm cách nâng cao hiệu quả của hệ thống tìm kiếm sản phẩm bằng cách tự động phân loại độ phù hợp cao mà không phải phụ thuộc vào người dùng thủ công, bài viết này sẽ cung cấp cách sử dụng các mô hình ngôn ngữ lớn (LLMs) để giải quyết vấn đề này một cách hiệu quả và tiết kiệm chi phí.

GEM Training: How Meta Doubled the Efficiency of Its LLM-Scale Ads Foundation Model

Meta's GEM (Generative Ads Recommendation Model), the foundation model powering ads on Instagram and Facebook, now trains at LLM scale on thousands of GPUs with doubled end-to-end training efficiency (20–25% MFU) and 4x more training FLOPs over 12 months. The gains came from co-designing two axes: compute efficiency via a custom recommendation kernel library (Jagged Flash Attention, Generalized Dot-Product Attention, BlockAttention) and mixed ultra-low-precision training (MXFP8); and scaling efficiency via topology-aware 5D parallelism (2D FSDP + Expert Parallelism for dense, Fully Sharded 2D Model Parallelism for sparse parameters), SM-free networking with NCCLX, compiler-based automatic activation checkpointing with quantization, and a zero-communication Base Batch Shuffling technique for load balancing. Key challenges included jagged variable-length inputs wasting up to 50% compute if padded, asymmetric attention patterns breaking standard FlashAttention assumptions, numerical sensitivity of CTR/CVR objectives to low-precision training, and trillion-parameter sparse embedding tables creating memory and communication bottlenecks at scale.

Daily Prompt Is Out. Long Live Spellbook of Prompt

Spellbook of Prompt là dự án mã nguồn mở mới nhằm cung cấp bộ sưu tập prompts toàn diện và được tài liệu hóa kỹ lưỡng cho các mô hình AI, hữu ích cho nhà phát triển, nhà nghiên cứu và người đam mê.

Những lập trình viên muốn tối ưu hóa hiệu suất và sáng tạo trong việc sử dụng AI để giải quyết vấn đề công nghệ, tự động hóa hoặc phát triển ứng dụng mới sẽ tìm thấy trong Spellbook of Prompt những mẫu câu hiệu quả và cách thức áp dụng chúng một cách chuyên nghiệp.