How DOCA GPUNetIO Unifies GPU-Initiated Networking Across the NVIDIA Software Stack

Introducing CUDA Rust: Two Tracks for Writing GPU Kernels

Vào tháng 9 năm 2026, NVIDIA đã công bố định hướng lập trình GPU gốc bằng Rust. Công ty đang phát triển hai hướng tiếp cận riêng cho CUDA Rust, cạnh tranh với các công cụ trưởng thành như CUDA C++ và CUDA Python. Việc này giải quyết nhu cầu về ngôn ngữ an toàn bộ nhớ hơn cho lập trình GPU, vốn hiện chủ yếu dựa vào C++. Lập trình viên nên cân nhắc track phù hợp giữa Rust CUDA Compiler (RCC) và Rust-CUDA crate tùy thuộc vào nhu cầu dự án. Sự phát triển này đánh dấu bước tiến quan trọng khi Rust đang dần trở thành lựa chọn thay thế cho C++ trong các hệ thống hiệu năng cao.

Bài này giúp lập trình viên Rust nắm bắt hướng đi mới của NVIDIA cho lập trình GPU native.

Why matching CUDA drivers is finally easier

Bài viết giải thích rằng trước đây việc sao chép bản CUDA toolkit và driver phải khớp chính xác phiên bản, gây nhiều lỗi khi triển khai trên các hệ thống khác nhau. NVIDIA đã ra mắt CUDA Compatibility Pack bắt đầu từ CUDA 11.7, cho phép một bản driver duy nhất hỗ trợ nhiều phiên bản toolkit liên tiếp. Nhờ đó, trên Linux và Windows, nhà phát triển chỉ cần cập nhật driver mỗi kwartal thay vì mỗi khi nâng cấp toolkit, giảm thiểu thời gian downtime. Thử nghiệm trên các cụm GPU cho thấy tỷ lệ lỗi phiên bản driver giảm hơn 70% so với phương pháp cũ. Điều này cho thấy đầu tư vào các gói tương thích ngược có thể đơn giản hoá quy trình CI/CD cho các ứng dụng GPU-intensive.

Bài này giải thích tại sao việc khớp phiên bản driver CUDA giờ đây đơn giản hơn, giúp lập trình viên tiết kiệm thời gian và giảm thiểu lỗi hệ thống.

CUDA Toolkit 13.4 Adds Windows on Arm Support and Greater Control over Shared GPUs

CUDA Toolkit 13.4 bổ sung hỗ trợ Windows on Arm, giúp các lập trình viên tận dụng được sức mạnh của GPU NVIDIA trên nền tảng ARM. Phiên bản này mang lại kiểm soát chi tiết hơn cho shared GPUs thông qua tính năng Multi-Process Service (MPS), cho phép nhiều process chia sẻ tài nguyên hiệu quả hơn. Performance improvements đáng kể đạt được, với tốc độ xử lý tăng lên đáng kể trong các tác vụ AI và high-performance computing. Điểm đáng học hỏi là cách NVIDIA tích hợp đa nền tảng, từ traditional x86 đến ARM, chứng tỏ chiến lược phần mềm linh hoạt. Đối với lập trình viên, bản cập nhật này mở ra cơ hội tối ưu hóa ứng dụng trên nhiều kiến trúc phần cứng khác nhau.

Lập trình viên nên đọc bài này để biết về tính năng hỗ trợ Windows on Arm và kiểm soát GPU chia sẻ trong CUDA Toolkit 13.4.

Richard Geldreich's Blog

Richard Geldreich đã phát triển NNTC, một PBR texture encoder mã nguồn mở sử dụng biểu diễn two-latent được tối ưu hóa cho đường sampling GPU thay vì mạng nơ-ron. Công nghệ này đạt tỷ lệ nén khoảng 2.5 bits per pixel VRAM và xuất file .DDS cùng JSON coefficients với các phép toán tuyến tính đơn giản. Từ nghiên cứu ban đầu về neural texture compression bằng Evolution Strategies, tác giả đã phát hiện ra cách tái cấu trúc tương tự PVRTC1 loại bỏ hoàn toàn việc giải mã bằng mạng nơ-ron. Công cụ hỗ trợ Windows và Linux, yêu cầu CUDA cho encoding, và đi kèm viewer D3D11 minh họa quá trình sampling và decoding. Kế hoạch tiếp theo là transcoding BC4/BC5 sang ASTC để hỗ trợ thiết bị di động.

Bài này giới thiệu NNTC, một giải pháp mã hóa texture PBR hiệu quả nhanh hơn dùng thao tác tuyến tính thay vì mạng neural.

How Work is Organized Inside a GPU

GPU tổ chức công việc qua các SM (Streaming Multiprocessor) độc lập, mỗi SM chứa nhiều core CUDA để xử lý song song. Mỗi task được chia thành block, mỗi block chứa nhiều thread chạy đồng thời trên core của SM. Bộ nhớ chia sẻ (shared memory) trong SM cho phép các thread trao đổi dữ liệu nhanh, giảm truy cập global memory chậm hơn. Hiểu cơ chế tổ chức thread và memory hierarchy giúp tối ưu hóa performance khi lập trình CUDA, tránh bottleneck do điều khiển quá nhiều thread hoặc lạm dụng shared memory.

Bài viết này giúp bạn hiểu cách GPU tổ chức công việc một cách trực quan, giúp tối ưu hóa hiệu suất lập trình đồ họa và xử lý song song.

Richard Geldreich's Blog: Neural block texture compression trained with Evolution Strategies (ES) on GitHub

A self-contained C++/CUDA research testbed trains neural block texture compression using Evolution Strategies (ES) instead of backpropagation or autodiff. Textures are encoded as a shared low-resolution latent plus a tiny MLP decoder, both optimized via antithetic ES with footprint attribution for variance reduction, plus optional finite-difference polishing. The write-up documents extensive experiments: nearest-sampled block latents, in-loop deblocking, a learned per-pixel selector level chosen by exhaustive search (forming a BC-style block format), multi-channel selectors, and a GPU implementation running 20-30x faster than 32 CPU threads on an RTX 5090. Results span single images (kodim23, mario), multi-layer PBR materials, and game textures, with detailed PSNR/bitrate tables comparing configurations against formats like BC1/BC7. The code and a timestamped disclosure of the technique are published on GitHub as prior art.

Productive, Durable, Fungible: How NVIDIA AI Factories Maximize Return on Investment

AI factories generating the strongest returns are the ones built to earn more, last longer and serve more kinds of work.