ML based ranking using Nrtsearch

Agent Anomaly Detection, now in Private Preview on the Gemini Enterprise Agent Platform

Gemini Enterprise Agent Platform vừa ra mắt tính năng Agent Anomaly Detection trong private preview để bảo vệ AI agents. Công nghệ này phát hiện các rủi ro hành vi OWASP mà không làm tăng runtime latency. Hệ thống giám sát các hành vi bất thường của agents để ngăn chặn tấn công bảo mật. Đây là giải pháp hữu ích cho các tổ chức sử dụng Gemini Enterprise Agent Platform, đảm bảo an toàn cho hệ thống AI mà không ảnh hưởng đến hiệu suất.

Agent Anomaly Detection giúp bảo mật AI agent bằng cách phát hiện các rủi ro hành vi OWASP mà không làm tăng độ trễ thời gian chạy.

Why DuckDB 2.0 is faster

DuckDB 2.0 mang lại hiệu suất vượt trội với recursive CTEs nhanh hơn tới 90x so với phiên …

I'm Looking for My Next Role

Một chuyên gia compiler với kinh nghiệm dẫn dắt đội ngũ phát triển YJIT - JIT compiler hiện đang được tích hợp trong CRuby và áp dụng tại các công ty lớn như Shopify, GitHub, Stripe. Người này có bằng PhD về JIT compilation và type analysis, từng làm việc tại Apple với GPU compiler, nghiên cứu AI tại Mila với Bengio, Paull, và Precup, gần nhất là xây dựng PyTorch/ONNX compiler cho startup ML systems. Với hơn 2,500 trích dẫn học thuật và 13 bài báo được bình duyệt, họ đang tìm kiếm vị trí compiler, systems, ML systems hoặc nghiên cứu tại Montreal hoặc remote. Bài viết chi tiết sẽ cung cấp thêm thông tin về kỹ năng cụ thể và định hướng sự nghiệp phù hợp với ứng viên tiềm năng.

Lập trình viên nên đọc bài này để cơ hội làm việc với chuyên gia JIT compiler hàng đầu trong lĩnh vực phát triển hệ thống và học máy.

System Design Explained: APIs, Databases, Caching, CDNs, Load Balancing & Production Infra

Bài viết giải thích thiết kế hệ thống từ đơn giản (máy chủ đơn) đến phức tạp (hàng triệu người dùng), bao gồm API, cơ sở dữ liệu, caching, CDN, load balancing và hạ tầng sản xuất.

Bài viết giúp bạn hiểu rõ cách xây dựng cơ sở hạ tầng thực tế từ những nguyên tắc cơ bản nhất, từ đó tránh những sai lầm thường gặp khi mở rộng hệ thống khi còn mới mẻ.

gRPC-Web Failed the Web · Buf

gRPC-Web được ra đời để cho phép các ứng dụng trình duyệt gọi dịch vụ gRPC mà không cần thay đổi máy chủ, nhưng nó dựa trên việc mã hóa lại payload và thường yêu cầu một proxy như Envoy để chuyển đổi giữa HTTP/1.1 của trình duyệt và HTTP/2 của máy chủ. Vì trình duyệt không hỗ trợ nguyên bản HTTP/2, gRPC-Web buộc phải sử dụng định dạng mã hóa đặc biệt và thường chỉ hỗ trợ gọi unary, khiến các tính năng streaming của gRPC bị hạn chế hoặc mất đi. Điều này dẫn đến độ trễ tăng lên, kích thước gói tin lớn hơn và khiến trình duyệt trở thành khách hàng hạng hai so với các client gốc sử dụng gRPC qua HTTP/2. Bài viết gợi ý thay vào đó các nhà phát triển nên cân nhắc sử dụng giao thức RPC gốc cho web như ConnectRPC hoặc tRPC, hoặc đơn giản là REST/GraphQL khi không cần các tính năng streaming mạnh mẽ của gRPC. Bài học là khi chọn RPC cho ứng dụng web, ưu tiên những giải pháp không cần proxy và không làm thay đổi semantics của giao thức gốc để tránh những Overshoot về hiệu suất và tính năng.

Đọc bài này để hiểu cách gRPC-Web đã bị hạn chế trong môi trường web so với gRPC truyền thống, và tìm hiểu về những lỗ hổng về an toàn và hiệu suất, cùng so sánh với các giải pháp RPC phù hợp hơn cho web như Protocol Buffers Web để tối ưu hóa ứng dụng web hiện đại.

Why use ORMs if LLMs write code?

ORMs vẫn cần thiết vì chúng cung cấp lớp trừu tượng an toàn, hiệu quả để tương tác với cơ sở dữ liệu, trong khi LLMs chỉ sinh code tiềm ẩn rủi ro lỗi, kém tối ưu và khó bảo trì. ORMs giúp chuẩn hóa truy vấn, tránh SQL injection và tối ưu hóa hiệu suất thông qua caching, điều mà code do LLM sinh ra khó đảm bảo.

Lập trình viên nên đọc bài này để hiểu cách ORM và SQL vẫn giữ vai trò quan trọng trong quản lý dữ liệu cơ bản, giúp tránh rủi ro lỗi và tối ưu hóa hiệu suất khi ứng dụng lớn cần kiểm soát trực tiếp dữ liệu.

Fine-Tune an Open-Source LLM on Your Own Data

Fine-tune một mô hình LLM mã nguồn mở trên dữ liệu riêng cho phép chuyển đổi mô hình tổng qu thành công cụ chuyên biệt. Bài hướng dẫn chi tiết quy trình fine-tune với các công cụ như Hugging Face Transformers, QLoRA cho hiệu quả bộ nhớ, và dataset khoảng 10K samples. Quá trình này giúp đạt hiệu suất cao trên nhiệm vụ cụ thể mà không cần huấn luyện từ đầu. Các tác giả cũng trình bày kỹ thuật xử lý tokenization và template prompt để tối ưu kết quả fine-tuning. Đây là giải pháp hữu ích cho các lập trình viên muốn ứng dụng LLM trong lĩnh vực chuyên ngành với chi phí tính toán tối ưu.

Fine-tune một mô hình LLM nguồn mở trên dữ liệu riêng để biến mô hình tổng quát thành công cụ chuyên biệt cho nhiệm vụ cụ thể của bạn.