What everyone gets wrong about building sandboxes

Sandboxes are a durability problem

Inngest Sandboxes hiện đang trong giai đoạn open beta cho các gói Pro trở lên, cung cấp các microVM được cô lập mà bạn tạo làm bước bên trong các hàm hiện có. Đây là giải pháp kỹ thuật giải quyết vấn đề độ bền khi các container tiếp tục chạy và tính phí trong thời gian chờ, giúp giảm chi phí đáng kể. Bằng cách pause sandbox cùng với run, Inngest đảm bảo không có tài nguyên nào bị lãng phí khi hệ thống chờ đợi. Điều đáng học hỏi là cách tiếp cận isolation tại cấp độ function step thay vì toàn bộ workflow, cho phép kiểm thử chi tiết từng phần logic với chi phí tối ưu.

Sandboxes giúp lập trình viên tạo các môi trường lập trình cô lập bên trong hàm hiện tại, đảm bảo tính nhất quán và tiết kiệm chi phí khi chờ xử lý.

Sandboxing LLM-Generated Code Needs a Different Threat Model

LLM-generated code fails by accident, not attack. We tested 5 sandbox tiers, from Docker to Firecracker, to show what containment and idle time really cost.

Why raising your serverless timeout won't save long jobs

One team's rule for when a job outgrows its serverless timeout, and how to keep it running anyway.

Customer story

Built for the Lonng Run: How Ordinal scaled social orchestration to 1K enterprises with just two engineers.

The Queue is Durable. Your Worker is Not

Bối cảnh: Trong hệ thống processing queue, durability đảm bảo dữ liệu không bị mất nhưng không đảm bảo worker xử lý thành công. Nguyên nhân kỹ thuật: Vấn đề đến từ quyết định về step size, deploys, queue shape, và retry-safe side effects. Hệ quả: Worker có thể không xử lý message hoặc xử lý không chính xác một lần dù queue có durability. Điều đáng học: Các lập trình viên cần tập trung vào thiết kế hệ thống để đảm bảo availability của worker chứ không chỉ depend vào durability của queue.

Bài viết này giúp lập trình viên hiểu cách thiết kế hệ thống queue bền vững và worker khả dụng để tránh mất dữ liệu khi triển khai.

What it means to build boring

Predictable, uneventful, boring. Durable software is software that can't be surprised. Sisyphus got it, you will too.

All your workflows are about to be long running. Build for it.

Các hệ thống xử lý công việc (workflows) chạy lâu thường gặp lỗi giữa chừng, dẫn đến việc phải thiết kế lại pipeline nhiều lần. Nguyên nhân kỹ thuật nằm ở việc hệ thống không xử lý được các trạng thái trung gian và khả năng khôi phục (resilience) khi gặp sự cố. Hệ quả trực tiếp là downtime, lãng phí tài nguyên và khó mở rộng quy mô. Bài viết đưa ra các quy tắc thiết kế để hệ thống có thể xử lý từ một item đến một triệu item, thời gian chạy từ vài giây đến vài tháng. Các giải pháp cụ thể như event sourcing, checkpointing và state management cần được xem xét để đảm bảo tính ổn định.

Bài này giúp lập trình viên thiết kế hệ thống workflow bền bỉ khi phải xử lý tác vụ kéo dài bất ngờ.

5 Resilience Patterns for AI Agents

Trong môi trường production, AI agents phải đối mặt với xác suất thất bại tăng theo số bước trong 20-step loops. Checkpoints và scoped retries giúp khôi phục trạng thái từ điểm kiểm tra trước khi hỏng, trong khi idempotent tools đảm bảo thao tác có thể thực hiện lại mà không thay đổi kết quả. Các giải pháp như run budget kiểm soát tổng tài nguyên để tránh overflow, với các con số cụ thể như 80% xác suất thành công cho mỗi step. Bài gốc phân tích thực tế triển khai trên hệ thống với framework LangChain và các pattern thi hành bằng kỹ thuật Circuit Breaker.

Bài viết này cung cấp các mẫu độ bền thiết yếu giúp lập trình viên xây dựng AI agent có khả năng phục hồi tốt khi xử lý các vòng lặp phức tạp và môi trường sản xuất đầy thử thách.