Đang tải bảng tin…
SitePoint0 Hot0 bình luận22 phút đọc
CUDA-Rust Tutorial: Native GPU Kernels in Cargo Workspaces
Tóm tắt bởi AI
Bối cảnh lập trình GPU truyền thống thường yêu cầu kết hợp Rust với C++ thông qua NVCC và FFI wrappers. Nguyên nhân kỹ thuật là cần cách gọi native CUDA kernel trực tiếp trong Rust mà không qua lớp trung gian. Hệ quả là tăng hiệu năng xử lý GPU và đơn giản hóa codebase bằng cách loại bỏ binding layer giữa Rust và CUDA. Điều đáng học là với cuda-rust toolchain, lập trình viên có thể build multi-crate Cargo workspace chứa native GPU kernels hoàn toàn bằng Rust.
AI có thể tóm tắt sai. Đọc bài gốc trước khi dựa vào thông tin quan trọng.
Vì sao nên đọc: Lập trình viên nên đọc bài này vì nó cho phép chạy kernel GPU trực tiếp trong Rust mà không cần dùng C++ NVCC bindings hay unsafe FFI wrappers.
Bạn nhớ được gì?
Trả lời 3 câu hỏi ngắn để nhận điểm thưởng cho bài này. Chỉ làm khi bạn muốn lấy điểm.
tối đa +17 điểm
3 câu hỏi · dưới một phút · không bắt buộc
Nguồn: https://www.sitepoint.com/writing-native-gpu-kernels-in-rust-with-the-cuda-rust-toolchain. 8 Sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Hệ sinh thái 8 Sync
Một tài khoản, cả hệ sinh thái
Đọc tin ở đây, luyện code, học theo lộ trình và luyện IELTS trên các sản phẩm anh em — tất cả kết nối với nhau trong hệ sinh thái 8 Sync.
8syncdev.com
8syncdev.comCổng chính của hệ sinh thái: giới thiệu sản phẩm, blog và bảng giá trọn bộ.
Khám pháKhóa học
course.8syncdev.comHọc theo lộ trình rõ từng chặng: video, quiz chấm tự động, certificate và mentor đang làm nghề.
Xem lộ trìnhLuyện code
coding.8syncdev.com1.000 bài DSA, đề tiếng Việt, chấm tự động 7 ngôn ngữ — nhiều bài FREE, chạy ngay trên trình duyệt.
Luyện miễn phíIELTS
ielts.8syncdev.comChấm bốn kỹ năng IELTS bằng AI, phản hồi chi tiết theo rubric.
Dùng thử miễn phíZUS — IDE AI
zus.8syncdev.comAI IDE 22 MB cho dev Việt.
Tải miễn phímind0
mind0.8syncdev.comBộ nhớ tổ chức cho AI agent.
Khám pháAcoLeads
home-acoleads.8syncdev.comAI trực Fanpage, tự sàng lọc lead.
Dùng thửĐề xuất cho bạn
Hugging Face2 Hot6 phút
Nemotron-Personas-Finance-Japan: A Synthetic Dataset Capturing Japan's Demographics and Financial Context
A Blog post by NVIDIA on Hugging Face
Hacker News1 Hot31 phút
Exact – a new cross platform UI framework
Contribute to expo/exact development by creating an account on GitHub.
Hacker News32 Hot2 phút
Rune: A native GPU-rendered Rust UI framework for macOS, Windows, Linux and web
Rune: Native UI framework. Contribute to anomalyco/rune development by creating an account on GitHub.
Thorsten Hans1 Hot5 phút
Wasmtime 48 Denies Sockets by Default: What Breaks and Fixes
Wasmtime 48 denies TCP/UDP sockets by default. See what breaks, how to restore it on the CLI, and how to opt in when embedding Wasmtime.
Richard Geldreich's Blog1 Hot1 phút
Richard Geldreich's Blog: Basis Universal v2.6 update
Basis Universal v2.6 will expose its real-time analytical encoders through new APIs and tooling, with a new command line tool called basisu_pack shipping in January 2027. These encoders don't require SIMD, yet many are faster than other older search-based SIMD encoder designs. The update also plans official Python wheels for several platforms, transcoding performance increases, and large compression ratio improvements for XUASTC. CLI tools ship as both native binaries and secure WASM WASI executables.
Medium51 Hot39 phút
Saving 100TB of RAM with Math. Rebuilding Cloudflare’s Hash Ring from Scratch in Rust
“” is published by Ridwan Alam.
XDA Developers126 Hot4 phútAI
I changed one llama.cpp flag, and my 8GB laptop GPU now runs a 35B model faster than I can read
Một lập trình viên đã tìm ra cách chạy model Llama 35B trên laptop GPU chỉ 8GB VRAM với tốc độ đáng kinh ngạc. Nguyên nhân kỹ thuật nằm ở việc chỉnh sửa cờ n_gpu_layers trong llama.cpp, cho phép tận dụng hiệu quả bộ nhớ VRAM thay vì để nó trở thành điểm nghẽn. Hệ quả là model 35B parameters chạy nhanh đến mức người dùng không kịp theo dõi, vượt xa các kỳ vọng ban đầu về giới hạn phần cứng. Điều đáng học hỏi là đôi khi vấn đề không nằm ở cấu hình phần cứng mà ở cách tối ưu hóa phần mềm để khai thác tiềm năng thực sự của hardware.
Bài viết tiết lộ cách tối ưu hóa một cờ trong llama.cpp để chạy mô hình 35B trên GPU 8GB nhanh hơn tốc độ đọc của bạn.
Bình luận
Đang tải bình luận…