Why Even the Best Edge Security Still Misses High-Risk Sessions

Saving another 100TB of RAM with math (and Rust)

Cloudflare đã giảm thành công việc sử dụng RAM lên đến 100TB cho dịch vụ dựa trên Pingora …

I put my local LLM on Tailscale, and now I can use it from the other side of the world

Tác giả đã triển khai local LLM (Large Language Model) trên mạng Tailscale để truy cập từ xa hiệu quả. Cấu hình kỹ thuật bao gồm việc sử dụng Tailscale Mesh để tạo tunnel bảo mật, kết hợp với container hóa bằng Docker trên máy chủ local. Giải pháp này cho phép truy cập LLM với độ trễ thấp dưới 100ms từ bất kỳ đâu, nhờ cơ chế routing tối ưu của Tailscale. Bài viết cung cấp hướng dẫn chi tiết về thiết lập Tailscale SSH cùng cấu hình firewall để đảm bảo bảo mật. Lập trình viên nên đọc bài gốc để hiểu rõ cách cấu hình Tailscale ACL và tối ưu hóa hiệu suất khi kết nối với các mô hình AI lớn.

Tailscale giúp bạn truy cập mô hình ngôn ngữ cục bộ từ bất kỳ đâu trên thế giới một cách đơn giản và an toàn.

I ditched port forwarding for a mesh VPN, and my home network is finally secure

Bối cảnh: Bài viết giải quyết vấn đề bảo mật mạng gia đình khi sử dụng port forwarding. Nguyên nhân kỹ thuật: Port forwarding mở cổng trực tiếp ra internet, tạo điểm tấn công tiềm ẩn, trong khi mesh VPN như Tailscale hay ZeroTier tạo mạng ảo an toàn với truy cập được kiểm soát. Hệ quả: Người dùng đạt được bảo mật cao hơn bằng cách loại bỏ các cổng mở trực tiếp và có thể truy cập các dịch vụ chỉ qua mạng VPN. Điều đáng học: Mesh VPN không chỉ an toàn hơn mà còn linh hoạt hơn khi có thể thiết lập quy tắc truy cập chi tiết đến từng thiết bị và dịch vụ cụ thể.

Mesh VPN mang lại bảo mật vượt trội so với chuyển tiếp cổng truyền thống cho mạng gia đình.

How we saved 100 terabytes of memory by optimizing 1.1.1.1’s DNS cache

Cloudflare’s 1.1.1.1 công khai DNS resolver duy trì một bộ nhớ cache lớn để xử lý hàng tỷ truy vấn mỗi ngày. Đội ngũ đã thực hiện năm tối ưu hoá cấp Rust trong bố cục mục cache: tái cấu trúc struct, sử dụng kiểu số nguyên gọn gàng, loại bỏ padding, áp dụng arena allocation và lưu trữ trước giá trị băm, giảm kích thước mỗi mục xuống 56 %. Khi mở rộng ra toàn bộ hạ tầng toàn cầu, việc này giải phóng khoảng 100 TB RAM, tạo thêm dung lượng cho các đợt lưu lượng cao và giảm chi phí vận hành. Bài học là việc kiểm soát bố cục dữ liệu và khai thác khả năng kiểm soát bộ nhớ của Rust có thể tiết kiệm tài nguyên lớn ngay cả ở các dịch vụ quy mô lớn. Đọc bài gốc sẽ cung cấp các con số cụ thể và hướng dẫn chi tiết từng bước để áp dụng các tối ưu hoá tương tự vào các cache khác.

Bài viết tiết lộ những tối ưu hóa cấp độ Rust giúp tiết kiệm 100 terabyte bộ nhớ cho cache DNS của Cloudflare.

How we rebuilt Cloudflare Workers’ module registry for Node.js compatibility

Cloudflare đã cải tiến module registry cho Workers để hỗ trợ Node.js, cho phép ứng dụng lên đến 64 mebibytes. Họ triển khai hệ thống module registry dựa trên URL với tính năng import.meta, lazy compilation và shared code caches để tăng hiệu suất. Biến đổi này giúp giảm thiểu lỗi và cung cấp thông báo báo lỗi rõ ràng hơn. Sự phát triển này mang lại lợi ích lớn cho lập trình viên quen thuộc với Node.js muốn chuyển sang nền tảng Cloudflare.

Bài viết này giúp lập trình viên hiểu cách Cloudflare Workers hiện hỗ trợ Node.js với module registry mới và các tính năng ưu việt.

Astro 7.3

Astro 7.3 ra mắt với một số cải tiến nhỏ nhưng hữu ích cho quá trình phát triển và triển khai. Lệnh astro preview giờ có tùy chọn --ignore-lock cho phép bỏ qua kiểm tra file lock khi khởi động server preview. Ngoài ra, bản cập nhật truyền logger thời gian chạy của Astro vào các dịch vụ hình ảnh tùy chỉnh và các provider cache, giúp developer dễ dàng ghi log và debug. Đối với người dùng Cloudflare, Astro cung cấp hàm finalize() để gọi trong entrypoint worker tùy chỉnh, đơn giản hoá việc dọn dẹp tài nguyên sau khi request xử lý xong. Những thay đổi này cho thấy Astro tập trung vào việc tăng tính linh hoạt và khả năng mở rộng mà không làm thay đổi cấu trúc cốt lõi của framework.

Astro 7.3 mang lại các tính năng hữu ích cho nhà phát triển như cờ ignore-lock, logger runtime cho dịch vụ hình tùy chỉnh và hàm finalize() cho endpoint Cloudflare worker.

Build with Tailscale using tsnet, APIs, and automated sharing

Bài viết mô tả cách tích hợp Tailscale vào ứng dụng bằng thư viện tsnet để tạo mạng ảo riêng mà không cần cài client riêng. Sử dụng API của Tailscale, nhà phát triển có thể lập trình tạo và xoá các tailnet cô lập, mỗi tailnet có bộ thiết bị và chính sách riêng. Quá trình này được tự động hoá qua webhook hoặc script CI/CD, cho phép chia sẻ truy cập và quản trị admin mà không cần thao tác thủ công. Kết quả là giảm thời gian cấu hình mạng từ vài giờ xuống dưới vài phút và tăng khả năng cô lập giữa các môi trường test hoặc khách hàng. Bài học chính là khi xây dựng dịch vụ cần kết nối an toàn, nên xem tsnet như lớp SDK Go và khai thác API Tailscale để tự động hoá việc tạo, chia sẻ và quản trị tailnet.

Bài này giúp lập trình viên tích hợp Tailscale vào ứng dụng một cách hiệu quả bằng cách sử dụng tsnet và APIs để tự động hóa chia sẻ.

Python Workers are now generally available

Cloudflare vừa chính thức ra mắt Python Workers, cho phép lập trình viên chạy các framework web Python và thư viện AI orchestration trực tiếp trong runtime Cloudflare Workers. Công nghệ này hỗ trợ tích hợp liền mạch với hệ sinh thái Cloudflare bao gồm D1, R2 và Workers AI mà không cần viết bất kỳ JavaScript glue code nào. Việc mở rộng hỗ trợ Python giúp giảm thiểu chi phí chuyển đổi cho các đội nhóm đã làm quen với ngôn ngữ này. Bạn có thể tận dụng Python Workers để triển khai các ứng dụng AI và web dịch vụ hiệu quả hơn với độ trễ thấp toàn cầu.

Python Workers giúp lập trình viên chạy framework web và thư viện AI trên Cloudflare mà không cần viết code JavaScript kết nối.