Updates on our pledge to make Cloudflare features accessible to everyone

Introducing Web Search API via AI Gateway

Cloudflare AI Gateway đã tích hợp API web search thông qua đối tác với Ceramic.ai, Exa và Linkup. Các lập trình viên có thể đưa ngữ cảnh web thời gian thực vào lời gọi suy luận model qua AI Gateway, REST APIs hoặc Workers bindings. API này hỗ trợ truy xuất thông tin từ web ngay trong quá trình xử lý model, giúp tăng tính cập nhật và độ chính xác cho ứng dụng AI. Tính năng này đặc biệt hữu ích khi cần xử lý truy vấn đòi hỏi thông tin mới nhất từ internet mà không cần phải tự xây dựng hệ thống thu thập dữ liệu.

Lập trình viên nên đọc bài này để biết cách tích hợp API tìm kiếm web thời gian thực vào mô hình AI qua Cloudflare AI Gateway.

Supporting native Rust in Workers with the new Emscripten target for wasm-bindgen

Cloudflare đã hỗ trợ native Rust trên Workers thông qua target Emscripten mới cho …

Saving another 100TB of RAM with math (and Rust)

Cloudflare đã giảm thành công việc sử dụng RAM lên đến 100TB cho dịch vụ dựa trên Pingora bằng cách áp dụng thống kê. Nguyên nhân kỹ thuật nằm ở việc tối ưu hóa việc lưu trữ trạng thái trong các cây nhị phân (binary trees) mà không làm giảm độ chính xác. Hệ quả là việc sử dụng RAM giảm xuống còn 25%, giải phóng tài nguyên đáng kể cho hệ thống. Bài viết đáng học ở chỗ cho thấy cách áp dụng toán học và Rust để giải quyết vấn đề hiệu suất mà không cần thay đổi logic nghiệp vụ.

Bài viết này tiết lộ phương pháp thống kê thú vị giúp giảm đáng kể lượng RAM sử dụng trong hệ thống mạng lớn của Cloudflare.

Encore for Rust

Encore đang mở rộng framework của mình sang ngôn ngữ Rust, với phiên bản beta sắp ra mắt. Framework này sử dụng model application và runtime agents để phát triển ứng dụng, tập trung vào việc đơn giản hóa quá trình xây dựng hệ thống phức tạp. Việc hỗ trợ Rust cho phép Encore tận dụng ưu điểm về hiệu năng và an toàn bộ nhớ của ngôn ngữ này. Đây là cơ hội cho các lập trình viên muốn xây dựng ứng dụng với hiệu năng cao mà vẫn giữ được sự phát triển nhanh chóng nhờ vào mô hình của Encore.

Lập trình viên nên đọc bài này để biết cách ứng dụng mô hình Encore vào ngôn ngữ Rust sắp ra bản beta.

Serverless Framework Is Now Built for AI Coding Agents

Serverless Framework phiên bản 4.43.0 giờ đã hỗ trợ AI coding agents với tính năng agentic onboarding và các lệnh agent mới. Framework này đi kèm bundled Agent Skills để các agent tự động thiết lập, xây dựng và triển khai dịch vụ. Phiên bản này còn bao gồm các cải tiến từ bản 4.42.0 trước đó. Với sự tích hợp này, các lập trình viên có thể tiết kiệm thời gian nhờ AI agents xử lý các tác vụ lặp đi lặp lại trong quá trình phát triển serverless. Đặc biệt, việc sử dụng Agent Skills giúp tăng cường khả năng tự động hóa của các AI coding agents khi làm việc với Serverless Framework.

Bài viết này giúp lập trình viên hiểu cách Serverless Framework mới hỗ trợ AI coding agents tự động hóa hoàn quy trình thiết lập, xây dựng và triển khai dịch vụ.

Why ECS Outlives Every Convenience Layer AWS Builds On Top Of It

AWS liên tục xây dựng các lớp tiện ích như ECS CLI, Fargate CLI, Copilot CLI, Proton và App Runner trên nền tảng ECS, nhưng lại liên tục loại bỏ chúng. Trong khi đó, ECS cơ bản gần như không thay đổi kể từ năm 2014. Điều này cho thấy mô hình dịch vụ container của AWS có sự ổn định đáng ngạc ngờ trong khi các lớp trừu tiến hơn lại có vòng đời ngắn. Các nhà phát triển nên lưu ý rằng việc phụ thuộc vào các công cụ tiện lợi mới của AWS có thể rủi ro do lịch sử thay đổi thường xuyên của chúng. Bài gốc phân tích sâu hơn về quy luật này và cung cấp góc nhìn về cách AWS phát triển dịch vụ container.

Tìm hiểu tại sao ECS vẫn tồn tại lâu hơn tất cả các lớp tiện lợi AWS xây dựng lên nó.

How we saved 100 terabytes of memory by optimizing 1.1.1.1’s DNS cache

Cloudflare’s 1.1.1.1 công khai DNS resolver duy trì một bộ nhớ cache lớn để xử lý hàng tỷ truy vấn mỗi ngày. Đội ngũ đã thực hiện năm tối ưu hoá cấp Rust trong bố cục mục cache: tái cấu trúc struct, sử dụng kiểu số nguyên gọn gàng, loại bỏ padding, áp dụng arena allocation và lưu trữ trước giá trị băm, giảm kích thước mỗi mục xuống 56 %. Khi mở rộng ra toàn bộ hạ tầng toàn cầu, việc này giải phóng khoảng 100 TB RAM, tạo thêm dung lượng cho các đợt lưu lượng cao và giảm chi phí vận hành. Bài học là việc kiểm soát bố cục dữ liệu và khai thác khả năng kiểm soát bộ nhớ của Rust có thể tiết kiệm tài nguyên lớn ngay cả ở các dịch vụ quy mô lớn. Đọc bài gốc sẽ cung cấp các con số cụ thể và hướng dẫn chi tiết từng bước để áp dụng các tối ưu hoá tương tự vào các cache khác.

Bài viết tiết lộ những tối ưu hóa cấp độ Rust giúp tiết kiệm 100 terabyte bộ nhớ cho cache DNS của Cloudflare.

Next.js applications, powered by Vite: introducing Vinext 1.0

Vinext 1.0 đã phát triển từ một thí nghiệm AI thành framework sẵn sàng sản xuất, cho phép lập trình viên chạy Next.js apps trên Vite. Bản cập nhật này mang lại tính năng cache warming tiên tiến, khả năng tương thích rộng lớn và pipeline testing tự động động. Vinext giải quyết vấn đề hiệu suất khởi động chậm của Next.js khi tích hợp với Vite thông qua kỹ thuật module graph optimization. Thí nghiệm cho thấy tốc độ khởi động cải thiện lên đến 40% so với Next.js truyền thống. Đây là công cụ hữu ích cho các team muốn tận dụng lợi thế của Vite mà vẫn giữ được hệ sinh thái Next.js.

Vinext 1.0 giúp lập trình viên tận dụng tốc độ Vite cho Next.js, tăng hiệu suất ứng dụng với cache warming và automated testing.