Synchronous vs. Asynchronous Agent Execution: Architecture Patterns for Production

Bối cảnh triển khai LLM-based agent đến production phải chọn giữa synchronous (chặn xử lý) và asynchronous (không chờ) execution. Synchronous pattern gặp rủi ro timeout như giới hạn 29-second của AWS API Gateway với tác vụ dài, trong khi asynchronous dùng job queues, background workers và checkpointing để tách biệt tác vụ. Hệ quả là asynchronous yêu cầu cơ sở hạ tầng phức tạp hơn như RabbitMQ, Redis, PostgreSQL hay MongoDB để quản lý trạng thái worker. Điều đáng học là bắt đầu với synchronous cho tác vụ nhanh như question-answering, sau đó migrate sang asynchronous khi workflow phức tạp hơn, như minh họa trong code examples sử dụng Python's asyncio.