Supercomputing researchers document evolution of AI hardware

NVIDIA Developer1 Hot8 min8 h agoAI

Control How Your GPU Shares Work with Green Contexts

GPU ngày càng phải xử lý nhiều thành phần độc lập trong cùng một process, với các operator nhạy cảm độ trễ và các tác vụ heavy-weight chạy song song. Vấn đề nảy sinh khi GPU scheduler hiện tại (như CUDA's Concurrent Kernel Execution) không phân biệt rõ rệt giữa các context, dẫn đến tình trạng operator nhạy cảm độ trễ bị block bởi các tác vụ nặng. Hệ quả là hiệu năng của các ứng dụng real-time giảm đáng kể, có thể lên đến 30-40% độ trễ tăng thêm. Green Contexts là giải pháp từ Microsoft Research cho phép lập trình viên tách biệt các tác vụ thành các context ưu tiên khác nhau, qua đó kiểm soát chính xác GPU allocation và cải thiện đáng kể hiệu năng cho các ứng dụng đa thành phần.

Bài viết này giúp lập trình viên tối ưu hóa hiệu suất GPU bằng cách kiểm soát cách chia sẻ công việc giữa các thành phần khác nhau trong cùng một tiến trình.

#performance #nvidia #gpu Source

Hackaday1 Hot2 min1 d agoAI

Porting Video Games To VHS

Một dự án tự do tái tạo các trò chơi video dựa trên băng VHS, vượt xa kỷ nguyên súng light đơn giản của ActionMax bằng cách lưu trữ dữ liệu trò chơi và luồng video trực tiếp trên băng. Sử dụng bo mạch DE1-SoC FPGA và vi điều khiển RP2350, băng VHS chứa cả dữ liệu trò chơi dạng nhị phân và luồng video được giải mã qua đầu vào video composite. Các bản minh họa bao gồm hiệu ứng nền video Super Mario Bros, phiên bản tái tạo của Night Trap, và một biến thể Doom sử dụng các đoạn video được ghi trước với các sự kiện hành động nhấn nút được định thời gian. Tệp nguồn đang được chia sẻ trên kho GitHub đang được phát triển.

Dự án FPGA và microcontroller này mở ra khả năng chơi game tương tác độc đáo từ băng VHS bằng cách kết hợp dữ liệu game và video stream.

#game-development #hardware #fpga Source

CNX Software1 Hot4 min1 d agoAI

DEBIX M8391-01 industrial SBC features MediaTek Genio 720 SoC with 9 TOPS NPU, dual-display support

DEBIX M8391-01 là bo mạch công nghiệp compact sử dụng MediaTek MT8391 (Genio 720) SoC, được thiết kế cho edge AI, computer vision và robotics. Sản phẩm có NPU mạnh mẽ với 9 TOPS, hỗ trợ dual-display và đủ port giao tiếp cần thiết. Khả năng xử lý AI của board này đủ mạnh cho các ứng dụng vision tại edge với độ trễ thấp. Board này đáng cân nhắc nếu bạn cần giải pháp tính toán edge AI với hiệu năng cao mà không cần chi phí cho các thiết bị industrial-grade đắt đỏ hơn.

Bài này giới thiệu bo mạch công nghiệp DEBIX M8391-01 với con MediaTek Genio 720 có NPU 9 TOPS, hỗ trợ AI và thị giác máy tính tại biên.

#hardware #embedded #local-ai Source

Hackaday2 Hot3 min2 d agoAI

AI On Your Gaming PC

Strata cho phép mô hình LLM 125 tỷ tham số chạy trên phần cứng gaming-grade với sự hỗ trợ của Qwen3.8 mixture-of-experts 24,576 chuyên gia chỉ kích hoạt 10 chuyên gia mỗi token. VRAM hoạt động như cache cho chuyên gia được sử dụng thường xuyên, phần lớn mô hình nằm trong RAM, và bảng tra cứu 29 GB nằm trên SSD. Kỹ thuật speculative decoding giúp đạt tốc độ 50-90 token/giây trên RTX 5070 12 GB VRAM. Dù có API tương thích OpenAI và Anthropic, chất lượng trả lời còn hạn chế so với các mô hình lớn hơn, với yêu cầu thực tế khoảng 32 GB RAM, 12 GB VRAM và 80 GB lưu trữ.

Bài viết này giúp bạn hiểu cách triển khai AI quy mô lớn trên máy tính cá nhân mà không cần GPU chuyên dụng từ trung tâm dữ liệu.

#gpu #local-ai #mixture-of-experts Source

Google Developers37 Hot1 min14 d agoAI

Colab is now part of your Google AI plan

Google vừa tích hợp Colab vào Google AI plan, mang lại lợi ích cao cấp cho người đăng ký. Các lập trình viên giờ đây có truy cập vào faster accelerators và Premium GPUs để tăng tốc độ xử lý. Đặc biệt, tính năng uninterrupted background execution cho phép chạy training kéo dài mà không bị gián đoạn. Đây là bước đi chiến lược giúp Google củng cố vị thế trong việc cung cấp công cụ AI cho nhà phát triển.

Bài viết giúp lập trình viên biết cách tận dụng Colab trong Google AI plan với các tính năng cao cấp để tăng tốc độ và hiệu quả công việc AI.

#machine-learning #data-science #gpu Source

XDA Developers1 Hot3 min2 d agoAI

I tried out DLSS 5 on my old Wii game collection, and it looks just as weird as you'd imagine

Bối cảnh là việc thử nghiệm DLSS 5 trên bộ sưu tập game cũ Wii. Nguyên nhân kỹ thuật do DLSS 5 là công nghệ AI upscale sử dụng mạng thần kinh deep learning, áp dụng vào các game không được thiết kế cho nó. Hệ quả là hình ảnh trở nên kỳ lạ với texture méo mó, màu sắc không chính xác và hiệu ứng quang học bị phá vỡ. Điều đáng học là việc lạm dụng AI rendering có thể tạo ra kết quả bất ngờ, cho thấy ranh giới giữa cải thiện hình ảnh và phá vỡ thiết kế đồ họa gốc của game.

Bài viết này sẽ cho bạn thấy neural rendering khi được áp dụng một cách không phù hợp có thể tạo ra những kết quả kỳ quặc đến mức khó tin.

#gaming #nvidia #gpu Source

XDA Developers1 Hot4 min3 d agoAI

N100 mini PCs had a great run, but it's finally time to stop recommending them

Bối cảnh thế hệ CPU Intel N100 đã có quãng thời gian thành công nhưng không còn phù hợp để khuyến nghị mua mới. Nguyên nhân kỹ thuật là Intel đã ra mắt thế kế nhiệm N150 với hiệu năng tốt hơn đáng kể (CPU single-core tăng 11%, multi-core tăng 15%). Hệ quả là giá bán cũ của N100 đang không còn hợp lý so với N150 mới. Điều đáng học là người dùng nên tránh mua các mini PC đời cũ với CPU N100 vì chỉ cần thêm một ít chi phí đã có thể nâng cấp lên N150 tốt hơn.

Lập trình viên nên đọc bài này để biết khi nào nên nâng cấp từ N100 lên N150 và tránh lãng phí tiền vào phần cứng lỗi thời.

#hardware #self-hosting #homelab Source

NVIDIA Developer48 Hot13 min28 d agoAI

Introducing CUDA Rust: Two Tracks for Writing GPU Kernels

Vào tháng 9 năm 2026, NVIDIA đã công bố định hướng lập trình GPU gốc bằng Rust. Công ty đang phát triển hai hướng tiếp cận riêng cho CUDA Rust, cạnh tranh với các công cụ trưởng thành như CUDA C++ và CUDA Python. Việc này giải quyết nhu cầu về ngôn ngữ an toàn bộ nhớ hơn cho lập trình GPU, vốn hiện chủ yếu dựa vào C++. Lập trình viên nên cân nhắc track phù hợp giữa Rust CUDA Compiler (RCC) và Rust-CUDA crate tùy thuộc vào nhu cầu dự án. Sự phát triển này đánh dấu bước tiến quan trọng khi Rust đang dần trở thành lựa chọn thay thế cho C++ trong các hệ thống hiệu năng cao.

Bài này giúp lập trình viên Rust nắm bắt hướng đi mới của NVIDIA cho lập trình GPU native.

#rust #nvidia #gpu Source

Supercomputing researchers document evolution of AI hardware

Recommended for you

Bình luận

Control How Your GPU Shares Work with Green Contexts

Porting Video Games To VHS

DEBIX M8391-01 industrial SBC features MediaTek Genio 720 SoC with 9 TOPS NPU, dual-display support

AI On Your Gaming PC

Colab is now part of your Google AI plan

I tried out DLSS 5 on my old Wii game collection, and it looks just as weird as you'd imagine

N100 mini PCs had a great run, but it's finally time to stop recommending them

Introducing CUDA Rust: Two Tracks for Writing GPU Kernels

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads