Exploring Hierarchical Interest Representation For Meta Ads Deep Funnel Optimization

RAG & Fine-tuning in LLMs

RAG và fine-tuning là hai phương pháp tùy chỉnh LLM nhưng giải quyết vấn đề khác nhau: RAG truy xuất ngữ cảnh từ nguồn bên ngoài tại thời điểm suy luận (không thay đổi trọng số mô hình), còn fine-tuning cập nhật trọng số trước triển khai để thay đổi hành vi mặc định. Trong sản xuất, hai phương pháp thường được kết hợp, trong đó RAG xử lý truy xuất tri thức động còn fine-tuning định hình cách phản hồi của mô hình. Ngoài ra, bài viết cũng giải thích kỹ thuật ANN sử dụng IVF, giúp tăng tốc độ truy vấn lên tới 100 lần so với kNN thông thường nhờ phân vùng dữ liệu bằng k-means.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa hiệu suất và độ chính xác của hệ thống AI bằng cách phân biệt giữa RAG (chỉnh sửa tại thời điểm sử dụng) và fine-tuning (chỉnh sửa trước khi triển khai), cùng với kỹ thuật ANN như IVF để nhanh chóng xử lý dữ liệu lớn.

A How-To Guide On Fine-Tuning

Bài viết hướng dẫn fine-tuning LLM qua hai ví dụ: fine-tuning thủ công Mixtral 8x7B theo phong cách viết cá nhân bằng ghi chú và bài luận, và sử dụng PromptLayer để fine-tune GPT-3.5 thành công cụ tạo bài tập thể dục rẻ hơn nhờ dữ liệu do GPT-4 sinh ra. Nội dung đề cập đến thu thập dữ liệu, định dạng, tạo cặp huấn luyện bằng LLM, cũng như những khó khăn lặp đi lặp lại của phương pháp thủ công so với quy trình tối ưu hóa bằng PromptLayer, kết luận rằng fine-tuning thường phức tạp hơn RAG trong hầu hết trường hợp.

Là người phát triển muốn tối ưu hiệu suất của AI cho ứng dụng cụ thể mà không cần rủi ro phức tạp của fine-tuning thủ công, bài này giúp bạn so sánh cách chọn giữa RAG và các kỹ thuật fine-tuning chi tiết.

Amazon SageMaker AI now supports serverless model customization for Gemma 4 models

Amazon SageMaker AI vừa bổ sung hỗ trợ tùy chỉnh serverless cho các model Gemma 4 E4B và 31B của Google DeepMind, cho phép fine-tuning có giám sát (SFT), tối ưu hóa ưu tiên trực tiếp (DPO) và fine-tuning tăng cường (RFT) mà không cần quản lý hạ tầng. Người dùng chỉ trả tiền theo lượt sử dụng và có thể triển khai qua SageMaker Studio hoặc SDK Python.

Lập trình viên AI nên đọc để khám phá cách tối ưu hóa chi phí và tăng hiệu quả khi huấn luyện các mô hình lớn như Gemma 4 trên AWS với các phương pháp fine-tuning tiên tiến mà không phải lo về quản lý hạ tầng.

Scaling Laws, Carefully

Bài viết phân tích sâu về luật scaling (quy luật mở rộng) trong mô hình ngôn ngữ lớn, từ những nghiên cứu ban đầu (Amari 1992, Hestness 2017) đến các công trình quan trọng như Kaplan et al. và Chinchilla. Nó giải thích mối quan hệ power-law giữa kích thước mô hình, dữ liệu và compute, đồng thời điều chỉnh bất đồng giữa hai nghiên cứu này, cũng như đề cập đến các thách thức thực tế khi áp dụng luật scaling như độ chính xác làm tròn, chọn vùng fit và ảnh hưởng của lặp dữ liệu.

Lập trình viên xây dựng mô hình AI cần hiểu về quy luật mở rộng của mô hình để tối ưu hóa hiệu suất, chi phí và hiệu quả của các mô hình lớn như LLM từ những nguyên tắc cơ bản về phân phối dữ liệu và tính toán.

Meta's Noninvasive Brain–Computer Interface Brain2Qwerty Achieves 61% Accuracy

Meta vừa open-sourced Brain2Qwerty v2, giao diện não-máy tính (BCI) không xâm lấn, có thể giải mã câu từ suy nghĩ bằng EEG hoặc MEG với độ chính xác 61%.

Lập trình viên nên đọc bài này để khám phá cách kết hợp trí tuệ nhân tạo với dữ liệu não bộ để xây dựng hệ thống tương tác mới, giúp mở rộng tiềm năng ứng dụng AI trong tương lai.

Richard Sutton leaves Carmack to start his own AI lab

Richard Sutton, cha đẻ của học tăng cường (reinforcement learning), rời Keen của John Carmack để thành lập phòng thí nghiệm AI riêng, nhằm phát triển hệ thống học theo thời gian thực với mức tiêu thụ chỉ khoảng 20 watt.

Nếu bạn đang tìm hiểu về AI thực tế, hiệu suất và ứng dụng công nghiệp, bài này sẽ giúp bạn hiểu cách các nhà khoa học AI như Richard Sutton đang chuyển đổi lý thuyết thành giải pháp thực tế, từ đó khám phá những tiềm năng mới trong việc tối ưu hóa hệ thống thông minh với năng lượng thấp.

AI Paper Review: Deep Unsupervised Learning using Nonequilibrium Thermodynamics

Today, diffusion models power some of the most impressive AI systems ever built. They generate photorealistic images, create videos, synthesize speech, design proteins, and increasingly influence fiel