Building Faster Cryptography with Carryless Multiplication in NVIDIA CUDA 13.3

Your GPU Is a Kitchen With One Tiny Door

Bài viết phân tích sâu về kiến trúc GPU, giải thích tại sao quá trình sinh token cho LLM (Large Language Model) bị giới hạn bởi băng thông bộ nhớ (memory-bound) thay vì sức mạnh tính toán (compute-bound). GPU có cấu trúc vật lý gồm các SM (Streaming Multiprocessor), warp, SRAM/HBM, và cơ chế truyền lệnh từ Python qua GPU thông qua 'doorbell'. Mặc dù H100 có thể thực hiện ~600 phép toán mỗi lần truy xuất dữ liệu từ bộ nhớ, băng thông bộ nhớ vẫn là điểm nghẽn chính. Bài viết giới thiệu mô hình roofline và ba chế độ hoạt động của Horace He (compute-bound, memory-bound, overhead-bound), đồng thời chứng minh bằng số liệu rằng quá trình giải mã LLM chỉ đạt ~1 FLOP/byte, thấp hơn nhiều so với ngưỡng ~300 FLOPs/byte. Thí nghiệm thực tế sử dụng nvidia-smi dmon cũng minh họa sự khác biệt giữa các phép toán giới hạn bởi tính toán (matmul) và bộ nhớ (elementwise).