When scanners miss the attack: how Cloudflare Client-Side Security protects storefronts

A Gentle Introduction to Model Distillation

Model distillation phương pháp nén khả năng của mô hình teacher lớn vào một student nhỏ …

Agent Anomaly Detection, now in Private Preview on the Gemini Enterprise Agent Platform

Gemini Enterprise Agent Platform vừa ra mắt tính năng Agent Anomaly Detection trong private preview để bảo vệ AI agents. Công nghệ này phát hiện các rủi ro hành vi OWASP mà không làm tăng runtime latency. Hệ thống giám sát các hành vi bất thường của agents để ngăn chặn tấn công bảo mật. Đây là giải pháp hữu ích cho các tổ chức sử dụng Gemini Enterprise Agent Platform, đảm bảo an toàn cho hệ thống AI mà không ảnh hưởng đến hiệu suất.

Agent Anomaly Detection giúp bảo mật AI agent bằng cách phát hiện các rủi ro hành vi OWASP mà không làm tăng độ trễ thời gian chạy.

I'm Looking for My Next Role

Một chuyên gia compiler với kinh nghiệm dẫn dắt đội ngũ phát triển YJIT - JIT compiler hiện đang được tích hợp trong CRuby và áp dụng tại các công ty lớn như Shopify, GitHub, Stripe. Người này có bằng PhD về JIT compilation và type analysis, từng làm việc tại Apple với GPU compiler, nghiên cứu AI tại Mila với Bengio, Paull, và Precup, gần nhất là xây dựng PyTorch/ONNX compiler cho startup ML systems. Với hơn 2,500 trích dẫn học thuật và 13 bài báo được bình duyệt, họ đang tìm kiếm vị trí compiler, systems, ML systems hoặc nghiên cứu tại Montreal hoặc remote. Bài viết chi tiết sẽ cung cấp thêm thông tin về kỹ năng cụ thể và định hướng sự nghiệp phù hợp với ứng viên tiềm năng.

Lập trình viên nên đọc bài này để cơ hội làm việc với chuyên gia JIT compiler hàng đầu trong lĩnh vực phát triển hệ thống và học máy.

How we rebuilt Cloudflare Workers’ module registry for Node.js compatibility

Cloudflare đã cải tiến module registry cho Workers để hỗ trợ Node.js, cho phép ứng dụng lên đến 64 mebibytes. Họ triển khai hệ thống module registry dựa trên URL với tính năng import.meta, lazy compilation và shared code caches để tăng hiệu suất. Biến đổi này giúp giảm thiểu lỗi và cung cấp thông báo báo lỗi rõ ràng hơn. Sự phát triển này mang lại lợi ích lớn cho lập trình viên quen thuộc với Node.js muốn chuyển sang nền tảng Cloudflare.

Bài viết này giúp lập trình viên hiểu cách Cloudflare Workers hiện hỗ trợ Node.js với module registry mới và các tính năng ưu việt.

How we saved 100 terabytes of memory by optimizing 1.1.1.1’s DNS cache

Cloudflare’s 1.1.1.1 công khai DNS resolver duy trì một bộ nhớ cache lớn để xử lý hàng tỷ truy vấn mỗi ngày. Đội ngũ đã thực hiện năm tối ưu hoá cấp Rust trong bố cục mục cache: tái cấu trúc struct, sử dụng kiểu số nguyên gọn gàng, loại bỏ padding, áp dụng arena allocation và lưu trữ trước giá trị băm, giảm kích thước mỗi mục xuống 56 %. Khi mở rộng ra toàn bộ hạ tầng toàn cầu, việc này giải phóng khoảng 100 TB RAM, tạo thêm dung lượng cho các đợt lưu lượng cao và giảm chi phí vận hành. Bài học là việc kiểm soát bố cục dữ liệu và khai thác khả năng kiểm soát bộ nhớ của Rust có thể tiết kiệm tài nguyên lớn ngay cả ở các dịch vụ quy mô lớn. Đọc bài gốc sẽ cung cấp các con số cụ thể và hướng dẫn chi tiết từng bước để áp dụng các tối ưu hoá tương tự vào các cache khác.

Bài viết tiết lộ những tối ưu hóa cấp độ Rust giúp tiết kiệm 100 terabyte bộ nhớ cho cache DNS của Cloudflare.

Fine-Tune an Open-Source LLM on Your Own Data

Fine-tune một mô hình LLM mã nguồn mở trên dữ liệu riêng cho phép chuyển đổi mô hình tổng qu thành công cụ chuyên biệt. Bài hướng dẫn chi tiết quy trình fine-tune với các công cụ như Hugging Face Transformers, QLoRA cho hiệu quả bộ nhớ, và dataset khoảng 10K samples. Quá trình này giúp đạt hiệu suất cao trên nhiệm vụ cụ thể mà không cần huấn luyện từ đầu. Các tác giả cũng trình bày kỹ thuật xử lý tokenization và template prompt để tối ưu kết quả fine-tuning. Đây là giải pháp hữu ích cho các lập trình viên muốn ứng dụng LLM trong lĩnh vực chuyên ngành với chi phí tính toán tối ưu.

Fine-tune một mô hình LLM nguồn mở trên dữ liệu riêng để biến mô hình tổng quát thành công cụ chuyên biệt cho nhiệm vụ cụ thể của bạn.

Astro 7.3

Astro 7.3 ra mắt với một số cải tiến nhỏ nhưng hữu ích cho quá trình phát triển và triển khai. Lệnh astro preview giờ có tùy chọn --ignore-lock cho phép bỏ qua kiểm tra file lock khi khởi động server preview. Ngoài ra, bản cập nhật truyền logger thời gian chạy của Astro vào các dịch vụ hình ảnh tùy chỉnh và các provider cache, giúp developer dễ dàng ghi log và debug. Đối với người dùng Cloudflare, Astro cung cấp hàm finalize() để gọi trong entrypoint worker tùy chỉnh, đơn giản hoá việc dọn dẹp tài nguyên sau khi request xử lý xong. Những thay đổi này cho thấy Astro tập trung vào việc tăng tính linh hoạt và khả năng mở rộng mà không làm thay đổi cấu trúc cốt lõi của framework.

Astro 7.3 mang lại các tính năng hữu ích cho nhà phát triển như cờ ignore-lock, logger runtime cho dịch vụ hình tùy chỉnh và hàm finalize() cho endpoint Cloudflare worker.

Open-sourcing OpenPubkey SSH (OPKSSH): integrating single sign-on with SSH

OpenPubkey SSH (OPKSSH) là công cụ cho phép đăng nhập SSH bằng single sign‑on (OpenID Connect) thay vì quản lý khóa SSH dài hạn, và vừa được mã nguồn mở dưới giấy phép Apache 2.0 sau khi Cloudflare tặng код từ việc mua lại BastionZero cho dự án OpenPubkey. Công cụ hoạt động bằng cách nhúng OpenID ID Token, mở rộng bằng khóa công khai qua giao thức OpenPubkey, vào trường mở rộng của chứng chỉ SSH, chỉ cần thay đổi hai dòng trong sshd_config sử dụng AuthorizedKeysCommand mà không cần sửa mã khách hàng hoặc máy chủ. Thay thế khóa SSH tĩnh bằng khóa tạm thời, hết hạn và gắn liền với danh tính (ví dụ: địa chỉ email) thay vì khóa công khai thô, OPKSSH nâng cao bảo mật, dễ sử dụng và khả năng truy vết truy cập. Điều này cho thấy việc tích hợp SSO vào SSH có thể đạt được với cấu hình tối thiểu, mang lại lợi ích về quản lý danh tính và giảm rủi ro từ khóa vĩnh viễn. Đồng quyên góp công cụ nội bộ dưới giấy phép cho phép mở rộng cộng đồng và thúc đẩy việc áp dụng rộng rãi các phương pháp xác thực hiện đại.

OPKSSH giúp đăng nhập SSH đơn giản hóa bằng single sign-on thay vì quản lý khóa SSH dài hạn, nâng cao bảo mật và khả năng hiển thị quyền truy cập.