Building for good: How civil society organizations are automating on Cloudflare

Supporting native Rust in Workers with the new Emscripten target for wasm-bindgen

Cloudflare đã hỗ trợ native Rust trên Workers thông qua target Emscripten mới cho …

Saving another 100TB of RAM with math (and Rust)

Cloudflare đã giảm thành công việc sử dụng RAM lên đến 100TB cho dịch vụ dựa trên Pingora bằng cách áp dụng thống kê. Nguyên nhân kỹ thuật nằm ở việc tối ưu hóa việc lưu trữ trạng thái trong các cây nhị phân (binary trees) mà không làm giảm độ chính xác. Hệ quả là việc sử dụng RAM giảm xuống còn 25%, giải phóng tài nguyên đáng kể cho hệ thống. Bài viết đáng học ở chỗ cho thấy cách áp dụng toán học và Rust để giải quyết vấn đề hiệu suất mà không cần thay đổi logic nghiệp vụ.

Bài viết này tiết lộ phương pháp thống kê thú vị giúp giảm đáng kể lượng RAM sử dụng trong hệ thống mạng lớn của Cloudflare.

Serverless Framework Is Now Built for AI Coding Agents

Serverless Framework phiên bản 4.43.0 giờ đã hỗ trợ AI coding agents với tính năng agentic onboarding và các lệnh agent mới. Framework này đi kèm bundled Agent Skills để các agent tự động thiết lập, xây dựng và triển khai dịch vụ. Phiên bản này còn bao gồm các cải tiến từ bản 4.42.0 trước đó. Với sự tích hợp này, các lập trình viên có thể tiết kiệm thời gian nhờ AI agents xử lý các tác vụ lặp đi lặp lại trong quá trình phát triển serverless. Đặc biệt, việc sử dụng Agent Skills giúp tăng cường khả năng tự động hóa của các AI coding agents khi làm việc với Serverless Framework.

Bài viết này giúp lập trình viên hiểu cách Serverless Framework mới hỗ trợ AI coding agents tự động hóa hoàn quy trình thiết lập, xây dựng và triển khai dịch vụ.

Introducing ai_decide: make fast decisions on your governed data

Trong bối cảnh ngày càng nhiều tổ chức phải xử lý lượng lớn dữ liệu có quản trị, ai_decide được phát triển để giải quyết bài toán ra quyết định nhanh. Công cụ này tận dụng Large Language Models (LLMs) cùng các framework như LangChain và LlamaIndex để phân tích và trích xuất thông tin có cấu trúc từ dữ liệu. Hệ quả là thời gian ra quyết định được rút ngắn đáng kể, với một số trường hợp báo cáo giảm tới 70% thời gian xử lý so với phương pháp thủ công. Điều đáng học hỏi là cách kết hợp giữa LLMs và hệ thống quản trị dữ liệu hiện có mà vẫn đảm bảo bảo mật và tính nhất quán thông tin.

ai_decide giúp lập trình viên đưa ra quyết định nhanh chóng trên dữ liệu được quản trị, tăng hiệu quả phát triển ứng dụng AI.

Your Neon Functions can now run on a schedule

Neon Functions nay ho tro chay theo lịch triger bang cron job, su dung tinh nang scale to zero de tien ich. He thong se tu dong goi ham khi dieu kien thoi gian duoc dat ra. Cac cron job trong Neon Functions hoan toan tuong thich voi quy mo scale to zero. Feature nay giup tinh toan chi khi can, giam chi phi khi khong su dung. Neu ban dang su dung Neon va can thuc thi ham theo chu ky, tinh nang nay rat huu ich.

Cron jobs trong Neon Functions giúp tự động hóa và tối ưu chi phí bằng cách chạy code theo lịch trình với khả năng mở rộng về quy mô.

How we saved 100 terabytes of memory by optimizing 1.1.1.1’s DNS cache

Cloudflare’s 1.1.1.1 công khai DNS resolver duy trì một bộ nhớ cache lớn để xử lý hàng tỷ truy vấn mỗi ngày. Đội ngũ đã thực hiện năm tối ưu hoá cấp Rust trong bố cục mục cache: tái cấu trúc struct, sử dụng kiểu số nguyên gọn gàng, loại bỏ padding, áp dụng arena allocation và lưu trữ trước giá trị băm, giảm kích thước mỗi mục xuống 56 %. Khi mở rộng ra toàn bộ hạ tầng toàn cầu, việc này giải phóng khoảng 100 TB RAM, tạo thêm dung lượng cho các đợt lưu lượng cao và giảm chi phí vận hành. Bài học là việc kiểm soát bố cục dữ liệu và khai thác khả năng kiểm soát bộ nhớ của Rust có thể tiết kiệm tài nguyên lớn ngay cả ở các dịch vụ quy mô lớn. Đọc bài gốc sẽ cung cấp các con số cụ thể và hướng dẫn chi tiết từng bước để áp dụng các tối ưu hoá tương tự vào các cache khác.

Bài viết tiết lộ những tối ưu hóa cấp độ Rust giúp tiết kiệm 100 terabyte bộ nhớ cho cache DNS của Cloudflare.

Next.js applications, powered by Vite: introducing Vinext 1.0

Vinext 1.0 đã phát triển từ một thí nghiệm AI thành framework sẵn sàng sản xuất, cho phép lập trình viên chạy Next.js apps trên Vite. Bản cập nhật này mang lại tính năng cache warming tiên tiến, khả năng tương thích rộng lớn và pipeline testing tự động động. Vinext giải quyết vấn đề hiệu suất khởi động chậm của Next.js khi tích hợp với Vite thông qua kỹ thuật module graph optimization. Thí nghiệm cho thấy tốc độ khởi động cải thiện lên đến 40% so với Next.js truyền thống. Đây là công cụ hữu ích cho các team muốn tận dụng lợi thế của Vite mà vẫn giữ được hệ sinh thái Next.js.

Vinext 1.0 giúp lập trình viên tận dụng tốc độ Vite cho Next.js, tăng hiệu suất ứng dụng với cache warming và automated testing.