From KTIR to SpyreCode: An MLIR Dataflow Backend for IBM Spyre

PyTorch 2.15 tackles the 'one bad GPU' problem

PyTorch 2.15 ships a rewritten NCCL backend that stops a single failing GPU from forcing a full training restart. The new ProcessGroupNCCL allows only one communicator per process group during initialization, which by default eliminates the crosstalk that the old version's many communicators caused. A third-party orchestrator can now exclude a crashed or slow GPU and assign a replacement worker. A new 'flight recorder' captures operation snapshots for debugging stalls. The legacy backend remains as a rollback option but will be removed in 2.16, planned for early next year. The release also totals 3,117 commits from 583 contributors and includes parallel processing improvements for Apple gear and support for Nvidia's next-generation Blackwell GPUs.

Build Your Own Reasoning Model: A Full Video Course

Khóa học video kéo dài 11 giờ tập trung vào việc xây dựng model reasoning với Python và PyTorch. Nội dung bao gồm các kỹ thuật advanced như evaluation, inference-time scaling, reinforcement learning và distillation. Qua khóa học, bạn sẽ học cách tối ưu hiệu suất của các reasoning model hiện đại. Các bài thực hành code chi tiết giúp hiểu sâu về quy trình training và fine-tuning. Giá trị lớn nhất nằm ở việc kết hợp lý thuyết với thực hành để xây dựng được hệ thống AI có khả năng reasoning mạnh mẽ.

Lập trình viên muốn nâng cấp kiến thức về mô hình học máy từ cơ bản đến ứng dụng thực tế—đặc biệt là trong scaling mô hình, reinforcement learning, và distillation—để áp dụng ngay trong dự án AI của mình với Python và PyTorch.

What Is Model Distillation? A Guide for Developers

Model distillation là quy trình chuyển giao kiến thức từ model lớn (teacher) sang model nhỏ hơn (student) để giữ hiệu suất nhưng giảm tài nguyên. Quá trình này sử dụng hàm loss function như knowledge distillation loss để điều chỉnh student model học từ teacher model. Ví dụ, model distillation có thể giảm kích thước model từ 1.2 tỷ parameter xuống chỉ 120 triệu parameter nhưng vẫn giữ 95% accuracy. Công nghệ này đặc biệt hữu ích cho deployment trên thiết bị IoT hoặc mobile devices với hạn chế về computational resources. Điều đáng học là cách kiến thức có thể được "nén" mà không làm mất nhiều thông tin, giúp tối ưu hóa inference time và energy consumption.

Tìm hiểu về Model Distillation giúp các lập trình viên tối ưu hóa hiệu năng mô hình học máy một cách hiệu quả.

C# now beats Rust on WASM size

Dự án NetWasm cho phép biên dịch C# và .NET CIL thành WebAssembly (WASM) cỡ nhỏ với WASI, sử dụng biên dịch ahead-of-time (AOT) kèm runtime và garbage collector (GC) tối ưu. Kỹ thuật này đạt hiệu quả đáng kinh ngạc với kích thước file output chỉ 1.1MB cho ứng dụng ASP.NET Core phức tạp, nhỏ hơn đáng kể so với Rust khi cùng triển khai WASM. Sự khác biệt chủ yếu đến từ cách .NET runtime được tinh chỉnh và GC được tối ưu hóa đặc biệt cho môi trường WASM. Đây là minh chứng rõ ràng cho thấy .NET có thể cạnh tranh sòng phẳng với các ngôn ngữ thường được coi là tối ưu cho WebAssembly về mặt kích thước.

Lập trình viên nên đọc bài này để biết cách tối ưu hóa kích thước WASM cho ứng dụng C#/.NET bằng NetWasm.

Announcing TypeScript 7.0

TypeScript 7.0 ra mắt phiên bản biên dịch gốc bằng Go, cải thiện tốc độ build lên 8–12 lần và giảm đáng kể bộ nhớ sử dụng. Tính năng mới bao gồm kiểm tra kiểu song song, chế độ --watch được tái thiết kế, và hỗ trợ đầy đủ LSP cho trình soạn thảo. Phiên bản này loại bỏ các tùy chọn lỗi thời như es5, baseUrl, AMD/UMD, nhưng chưa tương thích với các framework nhúng do thiếu API lập trình.

Nếu bạn đang phát triển với TypeScript và muốn tối ưu hóa hiệu suất cho dự án, từ bỏ các tính năng cũ và nâng cấp công cụ tích hợp với IDE, hãy đọc để cập nhật những thay đổi quan trọng trong phiên bản mới nhất.

Hands-On Evolution of Deep Learning – Geoffrey Hinton’s AI Legacy

Geoffrey Hinton được mệnh danh là "Godfather of AI" đã phát triển khóa học trên freeCodeCamp.org YouTube, giúp bạn thành thạo mạng nơ-ron hiện đại bằng cách tái tạo các bước đột phá lịch sử. Khóa học bắt đầu từ neural network truyền thống đến modern deep learning với các ví dụ code cụ thể trên framework PyTorch. Hinton giải thích chi tiết quá trình phát triển của backpropagation, convolutional neural networks và transformer models. Bạn sẽ hiểu tại sao dropout giảm overfitting từ 27% xuống 2.5% và cách attention mechanism thay đổi hoàn toàn NLP. Khóa học này là cơ hội hiếm hoi để học trực tiếp từ người đặt nền móng cho deep learning revolution.

Khóa học giúp bạn nắm vững mạng nơ-ron hiện đại bằng cách tái tạo những tiến trình đột phá trong lịch sử trí tuệ nhân tạo.

Announcing TypeScript 7.0 RC

TypeScript 7.0 RC đã được phát hành với trình biên dịch (compiler) được viết lại bằng Go, giúp tăng tốc độ build lên gấp 10 lần so với phiên bản 6.0 nhờ sử dụng đa luồng (parallelism) và mã gốc (native code). Phiên bản mới cũng thay đổi mặc định (strict: true, module: esnext), loại bỏ các flags lỗi thời, đồng thời hỗ trợ cài đặt song song với phiên bản 6.0 qua package @typescript/typescript6.

Lập trình viên nên đọc để khám phá cách TypeScript 7.0 cải thiện hiệu suất gỡ lỗi và xây dựng dự án với tốc độ gấp 10 lần nhờ chuyển sang biên dịch viên Go, đồng thời nâng cấp tính năng mới như chế độ strict mặc định và cải tiến trong VS Code.

Show HN: I Turned DOOM into a Transformer

Compile an integer neural network into a DOOM map. Voodoo dolls do the arithmetic, light levels and plane heights hold the values, and every value is checked against NumPy with tolerance 0. - mottopanikeiku/doomformer