If You Think ScyllaDB Is Just Cassandra in C++, Look Again

Why real-time AI at scale is so hard

Nhiều sản phẩm muốn triển khai AI thực thời để phản hồi ngay lập tức khi số lượng người dùng tăng. Khi tải tăng, các nút serving gặp hạn chế về bộ nhớ GPU, thời gian khởi tạo batch và độ trễ mạng, khiến thời gian xử lý mỗi request tăng đột biến. Điều này dẫn tới spikes latency, giảm throughput và đôi khi gây lỗi timeout hoặc downgrade chất lượng dịch vụ. Cần thiết kế hệ thống serving với autoscaling dựa trên metric latency, sử dụng batching động và pre‑warm các instance để giữ ổn định khi tải thay đổi. Ngoài ra, việc monitor chi tiết từng giai đoạn pipeline (pre‑process, inference, post‑process) giúp phát hiện sớm điểm bottle‑neck trước khi ảnh hưởng tới người dùng.

Bài này giúp lập trình viên hiểu được những thất bại phổ biến khi triển khai AI thời gian thực quy mô lớn và cách tránh chúng hiệu quả.

How we migrated the database behind every Vercel build

Chúng tôi đã di chuyển cơ sở dữ liệu phía sau mọi bản build của Vercel từ Redis sang DynamoDB trong quá trình sản xuất, thông qua các giai đoạn triển khai có cờ tính năng (feature-flagged) và khả năng rollback ở mỗi bước.

Một lập trình viên cần đọc bài này để hiểu cách thực hiện chuyển đổi cơ sở dữ liệu trong sản phẩm thực tế, từ Redis sang DynamoDB, với chiến lược pha trộn, kiểm soát rủi ro và khả năng rollback—làm rõ cách áp dụng chiến lược thay thế cơ sở dữ liệu an toàn trong dự án của mình.

AWS Introduces Native Vector Search for DynamoDB

AWS vừa bổ sung tính năng tìm kiếm vector gốc vào DynamoDB, giúp nhà phát triển lưu trữ embeddings cùng dữ liệu ứng dụng và thực hiện truy vấn approximate nearest-neighbor trực tiếp từ DynamoDB.

If You Last Used Cassandra 3.11, You Might Not Recognize It Today

Nếu bạn từng làm việc với Cassandra phiên bản 3.11, bạn sẽ nhận thấy nhiều thay đổi đáng kể ở các bản mới hơn. Phiên bản 5.0 giới thiệu SAI (Secondary Indexes) và UCS (Unified Compaction Strategy) giúp tăng hiệu suất, cùng với vector search mở rộng khả năng xử lý dữ liệu phức tạp. Auto Repair trong 5.0 tự động hóa quá trình xử lý lỗi và sao lưu dữ liệu, giảm đáng kể công tác bảo trì. Bản preview 6.0 tiếp tục cải thiện với tính năng metadata management và transactions, biến Cassandra trở thành lựa chọn mạnh mẽ hơn cho các ứng dụng yêu cầu tính nhất quán cao.

Bài viết này giúp bạn cập nhật những thay đổi quan trọng trong Cassandra từ phiên bản 3.11 đến 5.0 và 6.0, đảm bảo bạn không bỏ lỡ các tính năng mới như SAI, UCS, vector search và Auto Repair.

Perplexity’s AI agents helped build a database. They weren’t allowed to run it.

Perplexity đã sử dụng hai kỹ sư và trăm AI coding agents để xây dựng CobbleDB, một cơ sở dữ liệu bằng Rust tùy chỉnh thay thế cho DynamoDB trong stack tìm kiếm của họ. Các AI agents này đã viết toàn bộ code CobbleDB nhưng không được phép triển khai hoặc vận hành hệ thống sau khi hoàn thành. Quy trình này giúp tiết kiệm đáng kể thời gian phát triển so với việc sử dụng hoàn toàn đội ngũ kỹ sự người. Điều đáng học hỏi là cách Perplexity kết hợp sức mạnh AI agents với giám sát của con người để đảm bảo chất lượng sản phẩm cuối cùng.

Perplexity đã sử dụng hàng trăm AI coding agents để xây dựng CobbleDB, cơ sở dữ liệu Rust tùy chỉnh thay thế DynamoDB trong hệ thống tìm kiếm của họ.

The road to ACID transactions in Cassandra 6

Atomic batches in 2013, single-partition Paxos compare-and-swap later that year, and now strictly serializable cross-partition transactions with Accord in unreleased Cassandra 6. We explore each on a three-node cluster with an accounting workload.

Amazon DynamoDB now supports real-time vector search at any scale

Amazon DynamoDB vừa bổ sung tính năng tìm kiếm vector native, cho phép lưu trữ vector embeddings cùng dữ liệu hoạt động và thực hiện tìm kiếm tương tự trực tiếp. Tính năng này đạt độ trễ mili giây đơn lẻ, hỗ trợ tối đa 4096 chiều, tương thích với các hàm khoảng cách phổ biến, và phù hợp với nhiều ứng dụng như RAG hay hệ thống đề xuất.

Lập trình viên xây dựng hệ thống AI hoặc ứng dụng cần xử lý dữ liệu vector (như recommendation, RAG, hoặc phân tích dữ liệu phức tạp) sẽ tiết kiệm thời gian và chi phí khi sử dụng DynamoDB thay vì phải tích hợp thêm các giải pháp vector database riêng biệt.