#rocm

Lemonade Fixes AMD APU Model Streaming, Drops OpenMOSS ROCm As ~40x Slower Than Vulkan

Lemonade's 2026.40 release candidate fixes model streaming on AMD APUs by sizing against the addressable GTT memory pool instead of the smaller fixed vRAM carve-out, resolving failures with models like DeepSeek-V4-Flash-IQ2XXS-DS4 on Ryzen AI Max (Strix Halo) hardware. The release also removes the OpenMOSS ROCm backend on Windows and Linux after benchmarks showed it running roughly 40x slower than the Vulkan backend, likely due to CPU fallbacks in the ROCm code path. A new launch agent for JetBrains' Junie is also added, alongside the prior 2026.39.1 stable release which introduced configurable vRAM auto-eviction and a new year-week versioning scheme.

Haters think AI agents can't write GPU code? This'll ROCm

AMD phát triển ROCm, một công cụ mã nguồn mở cho lập trình GPU. Bài viết thảo luận cách AI agents đang giảm đáng kể rào cản khi viết code mức độ thấp cho phần cứng. Sự hội tụ giữa timeline phát triển phần mềm và phần cứng đang diễn ra nhanh chóng. Lập trình viên nên đọc bài để hiểu cách ROCm và AI đang thay đổi cách tiếp cận lập trình trình độ hệ thống.

Bài viết này giải thích cách AI agents đang thay đổi cách lập trình viên viết mã GPU thông qua công cụ ROCm mở của AMD.

Lemonade 11.9 Local AI Server Released With Super Exciting AMD ROCm HRX Backend

Lemonade 11.9, an AMD-backed open-source local AI server for Linux, Windows, and macOS, adds an experimental llamacpp-hrx backend built on AMD's new HRX runtime, targeting Radeon RX 7900 series (RDNA3) and Strix Halo APUs on Linux (GFX1100 and GFX1151). HRX is a lighter, client-focused subset of ROCm developed with AMD's Loom/Hyperloom compiler stack, offering a native alternative to Vulkan and HIP backends. AMD engineer Stella Laurenzo detailed the effort in a llama.cpp GitHub discussion, citing 30-50% prefill token/s uplift and up to 10% decode uplift versus existing backends, though the work remains early and limited to a minimal kernel set for the Qwen3-30B-A3B model. Lemonade 11.9 also adds Qwen3-Next support to its pinned llama.cpp backend.

The Challenges In Bringing AMD ROCm To FreeBSD

A FreeBSD Foundation internship focused on porting AMD's ROCm compute stack from Linux to FreeBSD is wrapping up. Student developer Sourojeet Adhikari made progress on kernel changes, patching AMD's downstream LLVM code, adjusting ROCm GPU runtimes, and modifying the drm-kmod module, while also uncovering bugs in the LinuxKPI compatibility layer. The project is nearing the milestone of running a simple vector addition workload, though userspace issues remain and it's not yet usable for end-users. Future work will explore FreeBSD's memory management, particularly Heterogeneous Memory Management (HMM) support.

AMD Jumps From ROCm 7.14 To ROCm 10.0 With ROCm.AI

AMD has jumped its ROCm GPU compute stack versioning from 7.14 directly to 10.0, resolving prior versioning confusion between stable and tech-preview releases. ROCm 10.0 introduces ROCm.AI for AI-driven development, a new ROCm CLI, Hyperloom (announced at AMD's Advancing AI event), better Linux package consolidation, production-ready containers and Python wheels for vLLM, and local LLM fine-tuning for Ryzen AI Max. On Windows, AMD retired the HIP SDK package in favor of the new ROCm Core SDK, which will follow the same six-week release cadence as Linux; a native Windows installer is still in progress.

AMD Working On A New Backend For Improving ROCm Compute In QEMU/VMs

AMD đang phát triển backend mới nhằm cải thiện khả năng tính toán GPU ROCm trong môi trường QEMU/VMs bằng cách tách biệt hoàn toàn đường dẫn hiển thị (display) khỏi ngữ cảnh compute, sử dụng VirtIO GPU headless chuyên dụng và thư viện backend ROCm tích hợp trực tiếp vào QEMU. Giải pháp này nhằm giải quyết tình trạng xung đột tài nguyên, giật lag hiển thị và hạn chế truy cập bộ nhớ trong cách tiếp cận hiện tại.

Lập trình viên phát triển phần mềm cho môi trường ảo hóa hoặc tích hợp GPU ROCm cần đọc để hiểu cách cải thiện hiệu suất tính toán trong VM bằng cách áp dụng backend riêng biệt cho ROCm, tránh xung đột với đường dẫn hiển thị và mở rộng khả năng xử lý cho các ứng dụng compute.

AMD’s record quarter is really a bet that open beats Nvidia’s moat

AMD ghi nhận doanh thu kỷ lục 11,5 tỷ USD trong quý II nhờ doanh số bán hàng cho trung tâm dữ liệu tăng gấp đôi, nhưng chiến lược quan trọng của họ là dựa vào một hệ sinh thái phần mềm mở để cạnh tranh với sự thống trị của Nvidia thông qua nền tảng CUDA.

Lập trình viên nên đọc bài này để hiểu cách AMD đang xây dựng một hệ sinh thái phần mềm mở (open-source) mạnh mẽ, có thể thay thế và mở rộng khả năng của Nvidia trong các ứng dụng AI, gaming và cloud computing, giúp các nhà phát triển có nhiều lựa chọn hơn trong tương lai.