Meta’s Generative Ads Model (GEM): Scaling the Central Model and Compute Engine for Frontier Ads AI

How Netflix Taught an LLM to Recommend Movies So That You Keep Watching

Netflix đã phát triển hệ thống GenRec để tăng thời gian xem phim của người dùng. …

I gave my local LLM my entire Steam library, and it recommends games better than Steam does

Tác giả đã thử nghiệm Gemma 4 với toàn bộ thư viện Steam 384 game để đánh giá khả năng đề xuất game. Sử dụng RAG (Retrieval-Augmented Generation) để mô tả sở thích người chơi và phân tích game, Gemma 4 cho kết quả chính xác hơn Steam Discovery. Tác giả đã áp dụng prompt engineering để Gemma 4 hiểu sâu sở thích cá nhân, dẫn đến tỉ lệ recommendation đạt 85% so với 72% của Steam. Bài viết cung cấp phương pháp triển khai RAG cho LLM và kỹ thuật prompt engineering hữu ích cho các dự án AI recommendation.

Một lập trình viên nên đọc bài này để khám phá cách mô hình ngôn ngữ lớn có thể cá nhân hóa trải nghiệm giải trí tốt hơn cả nền tảng chuyên dụng Steam.

Google Maps Killed The Restaurant Star

Nhà nghiên cứu Lauren Leek phát hiện thuật toán xếp hạng nhà hàng của Google Maps ưu tiên chuỗi cửa hàng, địa điểm đông khách và các vị trí được trả phí, khiến những quán mới hoặc ít tên tuổi khó nổi bật. Cô xây dựng bảng điều khiển công khai sử dụng machine learning để khám phá những quán ẩn mình có chất lượng vượt trội.

Những lập trình viên muốn hiểu cách hệ thống xếp hạng tự động của Google Maps hoạt động, từ đó tìm cách cải thiện hoặc phân tích các cơ chế xếp hạng trong các ứng dụng tương tự để tạo ra giải pháp công bằng và hiệu quả hơn.

Facebook is giving users more control over their algorithm

Meta announced the launch of its new AI-powered feature, “Your Algorithm,” a feature it first launched on Instagram.

Bootstrapping Conversational Recommendation Agents at Spotify: Synthetic Data Generation and Self-Improvement Loops

Imagine asking Spotify to “play some fresh indie soul I might like” and then, mid-session, saying “I love this song, tell me more about this artist.” Conversational recommendation agents make interactions like this possible: users can express what they want in natural language, then follow up, refine, or change their requests as the conversation unfolds.

Turning Opportunistic AI Inference Capacity Into Better Ads Recommendations

Meta engineers describe a system that captures idle, locally stranded AI inference capacity across its fleet and redirects it toward improving ads recommendations without hurting baseline serving reliability. Two elasticity levers — Rank More Ads (RMA), which evaluates more candidates when CPU and accelerator surplus is available, and Serve Better Models (SBM), which routes a larger share of requests to a more powerful model when accelerator surplus is available — expand and contract based on opportunistic capacity. Physical and logical isolation, PID-controller feedback loops, and millisecond-scale value-aware load shedding at both server and client layers protect baseline latency and reliability when capacity is reclaimed. Future work includes precomputation elasticity, broader model portability across regions and accelerators, and an optimization-based system to automate capacity allocation across elasticity levers.

Real-Time Retail Intelligence: Building E-Commerce Recommendations with Lakebase and AI Search on Databricks

Bài viết hướng dẫn kiến trúc hệ thống đề xuất và xếp hạng sản phẩm trên Databricks cho thương mại điện tử. Hệ thống tích hợp xử lý clickstream theo thời gian thực với Zerobus, đánh giá đa giai đoạn bằng Model Serving và phản hồi cá nhân hóa dưới 50ms nhờ Lakebase và AI Search. Nguyên nhân kỹ thuật là việc kết hợp các thành phần này giúp đạt hiệu suất cao trong xử lý dữ liệu và đề xuất. Điều đáng học là cách thiết kế hệ thống có khả năng mở rộng, xử lý lượng lớn dữ liệu người dùng và đưa ra đề xuất nhanh chóng cho trải nghiệm mua sắm tối ưu.

Bài này hướng dẫn bạn xây dựng hệ thống đề xuất và xếp hạng thời gian thực hiệu suất cao với độ trễ dưới 50ms bằng Lakebase và AI Search trên Databricks.

Rebuilding LinkedIn’s Follows Recommendations with LLM-Based Semantic Retrieval and Ranking

LinkedIn đã xây dựng lại hệ thống gợi ý Follows bằng cách thay thế phương pháp heuristic và xếp hạng dựa trên mức độ phổ biến bằng retrieval ngữ nghĩa dựa trên LLM. Hệ thống chuyển đổi profile người dùng và người sáng tạo thành prompt dạng narrative, mã hóa thành embeddings thông qua một bi-encoder được fine-tuned với contrastive learning (InfoNCE loss, LoRA, mixed precision, gradient checkpointing), sử dụng cho cả retrieval offline (FAISS, Ray) và online (Proxima-hosted). Cùng những embeddings này cung cấp cho mô hình xếp hạng L2 downstream qua các projection giảm chiều được học. A/B tests trên production cho thấy tăng tỷ lệ follow có ý nghĩa thống kê, đặc biệt với thành viên mới có lịch sử hoạt động thưa thớt.

Hệ thống đề xuất Follows mới của LinkedIn sử dụng LLM và retrieval-based semantic embedding giúp tăng đáng kể tỷ lệ follow, đặc biệt với thành viên mới.