From IR to RecSys: Evaluating LLM-based Judges in Cranfield-style Recommendation Collections

Colab is now part of your Google AI plan

Google AI subscribers now get premium Colab benefits! Unlock faster accelerators, Premium GPUs, and uninterrupted background execution for long training runs.

TinyTorch: Don’t Just Import PyTorch. Build It. – PyTorch

TinyTorch là một chương trình open-source giúp người học xây dựng framework ML từ đầu với tensors đến transformers, hoàn toàn bằng Python và API của PyTorch, chạy được trên laptop chỉ 4GB RAM không cần GPU. Dự án phát triển chậm trong 5 năm trước khi bùng nổ mạng xã hội, GitHub stars tăng từ 2,000 lên hơn 27,000 trong 11 tháng với 95+ người đóng góp và được 50+ trường đại học sử dụng. Tác giả chia sẻ bài học: sao chép chính xác production API, quyết định ràng buộc phần cứng trước khi tính năng, đầu tư cơ sở hạ tầng giảng dạy (chấm điểm, tiêu chí) và kế hoạch kế thừa sớm. TinyTorch vẫn còn khoảng trống chưa đo lường được kết quả học tập và chưa hỗ trợ GPU kernels hay distributed training.

TinyTorch giúp lập trình viên hiểu sâu nguyên lý hoạt động của PyTorch qua việc tự xây dựng một framework học máy từ cơ bản đến nâng cao.

A Gentle Introduction to Model Distillation

Model distillation phương pháp nén khả năng của mô hình teacher lớn vào một student nhỏ hơn, ban đầu qua training trên soft probability distributions và temperature scaling, nay cho LLMs chủ yếu qua synthetic data generation, feature matching hoặc logit matching. Mặc dù distillation đã trở thành tiêu chuẩn (ví dụ Llama 3.1 405B của Meta được cấp phép rõ ràng cho mục đích này), năm 2026 chứng kiến các tranh chấp lớn khi OpenAI cáo buộc DeepSeek, Anthicism cáo buộc Qwen (Alibaba) và báo cáo về việc truy cập tài khoản giả để khai thác Claude, cùng Google can thiệp các tấn công vào Gemini. Chưa có kiểm toán pháp y hay phán xét tòa án nào giải quyết được các cáo buộc này, và xung đột cơ bản giữa việc mô hình bị bộc lộ qua API và được bảo vệ khỏi sao chép vẫn chưa được giải quyết.

Bài này giúp lập trình viên hiểu rõ thực trạng pháp lý và kỹ thuật của mô hình model distillation trong bối tranh tranh bản quyền công nghệ AI.

Hands-On Evolution of Deep Learning – Geoffrey Hinton’s AI Legacy

Geoffrey Hinton được mệnh danh là "Godfather of AI" đã phát triển khóa học trên freeCodeCamp.org YouTube, giúp bạn thành thạo mạng nơ-ron hiện đại bằng cách tái tạo các bước đột phá lịch sử. Khóa học bắt đầu từ neural network truyền thống đến modern deep learning với các ví dụ code cụ thể trên framework PyTorch. Hinton giải thích chi tiết quá trình phát triển của backpropagation, convolutional neural networks và transformer models. Bạn sẽ hiểu tại sao dropout giảm overfitting từ 27% xuống 2.5% và cách attention mechanism thay đổi hoàn toàn NLP. Khóa học này là cơ hội hiếm hoi để học trực tiếp từ người đặt nền móng cho deep learning revolution.

Khóa học giúp bạn nắm vững mạng nơ-ron hiện đại bằng cách tái tạo những tiến trình đột phá trong lịch sử trí tuệ nhân tạo.

How to Detect Hidden Target Leakage in Public Datasets with Python and a Dependency Graph

Các tập dữ liệu công cộng như CDC dataset đôi khi chứa hidden target leakage khiến mô hình học máy đạt điểm số không thực tế. Tác giả đã phát hiện vấn đề khi mô hình dự đoán cột dữ liệu thứ sáu với R² lên đến 0.998 bất thường. Python cùng dependency graph là công cụ hữu hiệu để vạch ra mối quan hệ ẩn giữa các features và target variable. Bài viết hướng dẫn cách xây dựng dependency graph để phát hiện và loại bỏ leakage, giúp tránh overfitting trong production model.

Bài viết này giúp phát hiện rò rỉ mục tiêu ẩn trong bộ dữ liệu công khai bằng Python và đồ thị phụ thuộc để tránh tạo ra các mô hình machine learning giả tạo.

I'm Looking for My Next Role

Một chuyên gia compiler với kinh nghiệm dẫn dắt đội ngũ phát triển YJIT - JIT compiler hiện đang được tích hợp trong CRuby và áp dụng tại các công ty lớn như Shopify, GitHub, Stripe. Người này có bằng PhD về JIT compilation và type analysis, từng làm việc tại Apple với GPU compiler, nghiên cứu AI tại Mila với Bengio, Paull, và Precup, gần nhất là xây dựng PyTorch/ONNX compiler cho startup ML systems. Với hơn 2,500 trích dẫn học thuật và 13 bài báo được bình duyệt, họ đang tìm kiếm vị trí compiler, systems, ML systems hoặc nghiên cứu tại Montreal hoặc remote. Bài viết chi tiết sẽ cung cấp thêm thông tin về kỹ năng cụ thể và định hướng sự nghiệp phù hợp với ứng viên tiềm năng.

Lập trình viên nên đọc bài này để cơ hội làm việc với chuyên gia JIT compiler hàng đầu trong lĩnh vực phát triển hệ thống và học máy.

Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original

Bài viết giới thiệu phương pháp Quantization‑Aware Healing (QAH) được phát triển bởi Multiverse Computing để nén mô hình ngôn ngữ lớn xuống 4‑bit mà không làm giảm hiệu suất. QAH kết hợp quantization‑aware training với một bước healing sau huấn luyện, trong đó một mạng phụ nhỏ được học để bù lại sai số lượng tử hóa gây ra. Kết quả cho thấy mô hình 4‑bit sau healing đạt được mức perplexity tương đương, và trong một số trường hợp thậm chí tốt hơn so với phiên bản full‑precision (32‑bit) ban đầu. Việc này đồng thời giảm kích thước bộ nhớ cần thiết xuống khoảng 1⁄8 (≈87,5%) và tăng tốc độ suy luận trên phần cứng hỗ trợ tính toán nguyên số. Điều đáng học là việc đầu tư vào quá trình healing có thể bù lại phần lớn tổn thất từ quantization, cho phép triển khai mô hình mạnh mẽ trên môi trường tài nguyên hạn chế mà không hy sinh chất lượng.

Bài viết này giúp lập trình viên hiểu cách tạo mô hình lượng hóa 4-bit hiệu suất hơn cả mô hình full-precision gốc.

[2607.11938] Mathematics of Data Science

Bài báo arXiv 2607.11938 giới thiệu phần tóm tắt về lĩnh vực "Toán học của Khoa học Dữ liệu", đề cập đến các nền tảng toán học ứng dụng trong phân tích dữ liệu.

Những kỹ thuật toán và lý thuyết toán học trong bài viết này sẽ giúp bạn hiểu sâu hơn về cách xây dựng mô hình học máy hiệu quả hơn, từ đó tối ưu hóa thời gian và chất lượng dự án của mình.