#rocm

AMD's GAIA Continues Striving To Be Your Ultimate AI Companion For Emails

AMD vừa cập nhật GAIA 0.22 với trọng tâm nâng cao khả năng quản lý email thông qua AI cục bộ, bao gồm theo dõi email chờ phản hồi, soạn thư trả lời theo phong cách cá nhân, lập lịch gửi thư tự động (cron jobs) và xử lý tệp đính kèm. Phiên bản mới cũng bổ sung hỗ trợ RAG cho tài liệu Word và chạy dưới dạng tiến trình phụ (sidecar) có thể cài đặt từ Agent Hub, nhưng vẫn đang trong giai đoạn beta và yêu cầu người dùng kiểm tra kỹ trước khi sử dụng.

Lập trình viên nên đọc để khám phá cách AMD tích hợp AI vào ứng dụng email như một hệ sinh thái mở, giúp tự động hóa công việc và tối ưu hóa logic nghiệp vụ thông qua các agent sidecar, cron jobs và RAG—công cụ hữu ích cho việc xây dựng hệ thống tự động hóa và tích hợp AI vào các ứng dụng cá nhân hoặc doanh nghiệp.

AMD’s record quarter is really a bet that open beats Nvidia’s moat

AMD ghi nhận doanh thu kỷ lục 11,5 tỷ USD trong quý II nhờ doanh số bán hàng cho trung tâm dữ liệu tăng gấp đôi, nhưng chiến lược quan trọng của họ là dựa vào một hệ sinh thái phần mềm mở để cạnh tranh với sự thống trị của Nvidia thông qua nền tảng CUDA.

Lập trình viên nên đọc bài này để hiểu cách AMD đang xây dựng một hệ sinh thái phần mềm mở (open-source) mạnh mẽ, có thể thay thế và mở rộng khả năng của Nvidia trong các ứng dụng AI, gaming và cloud computing, giúp các nhà phát triển có nhiều lựa chọn hơn trong tương lai.

Running Kimi K3 on MI355X at Better Performance per Dollar Than B300

Bài viết giới thiệu về khả năng vận hành mô hình ngôn ngữ lớn (LLM) mã nguồn mở Kimi K3 trên thiết bị MI355X, cho hiệu suất vượt trội về chi phí so với giải pháp B300.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa hiệu suất mô hình ngôn ngữ lớn (LLM) trên thiết bị có chi phí thấp như MI355X, giúp tiết kiệm chi phí và cải thiện hiệu năng cho các ứng dụng doanh nghiệp.

AMD Publishes CDNA5 ISA Documentation For Instinct MI455X

AMD công bố tài liệu kiến trúc lệnh (ISA) CDNA5 cho GPU chuyên dụng Instinct MI455X dưới dạng PDF công khai, hỗ trợ nhà phát triển tối ưu hóa và gỡ lỗi mức thấp. Hãng vẫn duy trì hỗ trợ driver Linux mã nguồn mở (AMDGPU, AMDKFD, ROCm) nhưng tập trung cung cấp tài liệu ISA thay vì tài liệu phần cứng đầy đủ.

Lập trình viên AI/ML sẽ tìm hiểu cách tối ưu hóa các thao tác vector hóa trên CDNA5 để cải thiện hiệu suất xử lý mô hình deep learning bằng cách hiểu chi tiết các hướng dẫn ISA mới nhất.

SPIR-V on ROCm: A Portable IR for AMD GPUs #

Learn how SPIR-V brings compile-once, specialize-on-device portability to AMD GPUs — with a reproducible HIP benchmark, trade-off analysis, and quick-start guide.

AMD ROCm Committed To Six Week Release Cycle Moving Forward

AMD is shifting ROCm from a roughly quarterly release cycle to a six-week release cadence, enabled by the new TheRock build infrastructure introduced with ROCm 7.14. This faster cycle aims to deliver new features, performance optimizations, and hardware support more quickly. The next release is expected in August and will include the new ROCm.AI software. AMD also acknowledged awkward versioning issues (jumping from 7.2 to 7.14 for production) and hinted at versioning changes ahead, though no specifics were shared.

Cambridge's planet-scale AI model runs on AMD, not Nvidia

Cambridge's TESSERA turns satellite data into reusable AI embeddings for every 10m of Earth's land, cutting labelled data 30x. It runs on AMD, not Nvidia.

AMD is quietly making Nvidia GPUs hard to recommend, and the reason has nothing to do with gaming

AMD đang dần khiến các GPU của Nvidia trở nên kém hấp dẫn hơn, dù điều này không liên quan đến hiệu năng gaming. Sự trở lại của dòng Radeon cùng những cải tiến về công nghệ có thể khiến Nvidia khó cạnh tranh trong tương lai.

Lập trình viên nên đọc bài này để hiểu cách AMD đang phát triển các kiến trúc GPU hiệu quả cho AI, machine learning và xử lý đồ họa công nghiệp, giúp họ có thể tối ưu hóa các ứng dụng phần mềm của mình với các chip Radeon mới, từ đó tiết kiệm chi phí và cải thiện hiệu suất.

AMD Talks Up The Great Opportunities Of SPIR-V IR With ROCm

AMD has published a blog post detailing the current state and future roadmap of SPIR-V intermediate representation support in ROCm. ROCm 7.2+ already includes base SPIR-V support including the AMD GCN SPIR-V target in LLVM/Clang, a production-grade SPIRV-LLVM Translator path, and per-process JIT caching. Still in progress are replacing the translator with the in-tree LLVM SPIR-V back-end as the default lowering path, JIT-at-package-level-install, improved debug experience, and SPIR-V builds for per-arch device libraries. The end goal is a single ROCm binary that works across many GPU architectures, offering flat build times, forward compatibility, and broad library coverage. PyTorch is already serving as a proof-of-concept success. More details are expected at AMD's Advancing AI event.

AMD's 128GB AI mini PC runs models your RTX 5090 can't, but for everything else a used graphics card still wins

Máy tính mini AI 128GB VRAM của AMD có thể xử lý mô hình mà RTX 5090 không thể, nhưng đối với nhu cầu thông thường, card đồ họa cũ vẫn là lựa chọn tối ưu hơn nhờ chi phí thấp và hiệu suất cân bằng.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa hiệu suất AI và xử lý đa nhiệm bằng cách cân bằng giữa bộ nhớ VRAM cao với kiến trúc phần cứng phù hợp, thay vì chỉ tập trung vào card đồ họa mạnh nhất.

FastFlowLM Developers Join AMD To Help Push Open-Source NPU Software

AMD đã mua lại nhóm phát triển FastFlowLM, dự án inference LLM mã nguồn mở dành cho NPU Ryzen AI, nhằm đẩy mạnh phần mềm AI cho PC và workstation. Nhóm này sẽ gia nhập AMD AI Group để tập trung vào phần mềm AI client/workstation và hỗ trợ sớm các mô hình mới, trong khi dự án vẫn giữ mã nguồn mở theo giấy phép MIT trên GitHub.

Những người phát triển FastFlowLM sẽ giúp bạn tận dụng hiệu năng AI của AMD NPU trên các máy tính cá nhân và công sở với công cụ inference LLM đơn giản, đặc biệt khi bạn muốn triển khai các mô hình lớn trên Windows mà không cần phụ thuộc vào các nền tảng khác.

Ubuntu Kernel Team Warns Of Temporary AMD GPU Performance Regression Up To 42x

Ubuntu cảnh báo người dùng phiên bản 26.04 và 24.04 LTS HWE về lỗi giảm hiệu năng GPU AMD nghiêm trọng lên tới 42 lần trong bản cập nhật kernel 7.0.0-28.28, do lỗi vòng lặp retry trong mã AMDGPU HMM. Người dùng ROCm nên bỏ qua kernel này và chờ bản vá tiếp theo.

Những người phát triển ROCm và AI trên AMD GPU cần hiểu rõ tình trạng gián đoạn hiệu năng để nhanh chóng cập nhật và tránh ảnh hưởng đến dự án của họ.

AMD ROCm 7.14 Announced As New Production Release, Ryzen AI 400 Series Support

AMD chính thức công bố ROCm 7.14 ở phiên bản sản xuất, bổ sung hỗ trợ chính thức cho dòng vi xử lý Ryzen AI 400 series, các bản phân phối Linux mới (RHEL 9.8/10.2, SUSE 15 SP7/16, Debian 13) và cải tiến về ảo hóa GPU, AI inference cùng framework. Phiên bản này cũng sử dụng hạ tầng TheRock, nâng cao tính module hóa của ROCm.

Nếu bạn làm việc với AI, GPU hoặc hệ thống Linux chuyên dụng, ROCm 7.14 sẽ giúp bạn tối ưu hóa hiệu suất và tương thích mới cho các chip Ryzen AI và các phiên bản Linux mới nhất, từ đó tiết kiệm thời gian và công sức trong phát triển và triển khai.

AMD ROCm 7.14 "TheRock" Tech Preview Tagged For Latest AMD GPU Compute Stack

AMD vừa phát hành bản tech preview ROCm 7.14 "TheRock" với cải tiến đào tạo AI cho nhiều kiểu dữ liệu, tăng 10–16% hiệu suất cho một số tác vụ AI như Comfy UI, tiến triển hỗ trợ Windows, cùng các bản sửa lỗi cho phần cứng Radeon và Instinct. Bản này đã có sẵn trên GitHub nhưng chưa có tài liệu chính thức.

Lập trình viên AI hoặc AI/ML cần tìm hiểu về ROCm 7.14 để tối ưu hóa hiệu suất cho các dự án sử dụng GPU AMD, đặc biệt là với các công cụ như Comfy UI, và chuẩn bị sẵn sàng cho các cải tiến tương lai trong Windows.

I switched my local AI setup to AMD's Lemonade after Nvidia support landed, and solved my local AI portability problem

Lemonade Server, an AMD-backed open-source project, solves the problem of running local LLMs across mixed hardware (AMD ROCm, Nvidia CUDA, Intel Vulkan, and NPU) with a single unified inference stack. After Nvidia CUDA and DGX Spark ARM64 support landed, the author migrated their entire home lab to Lemonade, which auto-detects the backend and exposes an OpenAI/Ollama/Anthropic-compatible API on every machine. Benchmark data comparing ROCm, Vulkan, and NPU backends on Ryzen AI Halo hardware is included. The trade-off is slightly lower peak throughput versus purpose-built stacks like vLLM, but the portability and reduced maintenance overhead make it worthwhile for agentic and MCP-based workflows.

Bringing PyTorch Monarch to AMD GPUs: Single-Controller Distributed Training on ROCm – PyTorch

PyTorch Monarch của Meta, framework huấn luyện phân tán single-controller, đã được chuyển sang chạy trên GPU AMD Instinct thông qua ROCm bằng cách chuyển đổi mã CUDA/NCCL sang HIP/RCCL, xử lý khác biệt liên kết động và bổ sung lớp tương thích Rust. Tích hợp với TorchTitan và TorchFT, hệ thống hỗ trợ huấn luyện chịu lỗi không checkpoint: khi GPU gặp sự cố, các bản sao khỏe tiếp tục hoạt động trong khi bản sao lỗi khởi động lại và nhận dữ liệu từ bản sao khác. Kiểm thử trên cụm 128 GPU MI300 (16 node) và 256 GPU MI355 (32 node) cho thấy hội tụ loss ổn định ngay cả khi chủ động gây lỗi, không cần khởi động lại toàn bộ công việc.

Là một lập trình viên làm việc với AI/ML trên GPU AMD, bạn nên đọc bài này để khám phá cách chuyển đổi và tích hợp PyTorch Monarch trên ROCm, giúp tối ưu hóa phân tán huấn luyện một cách hiệu quả và bền vững trên các kiến trúc GPU AMD mới nhất.

Ryzen AI Developer Platform: AMD's Own Linux Distribution Built Atop Debian

AMD ships the Ryzen AI Halo developer mini PC with a custom Linux distribution called AMD Ryzen AI Developer Platform 1 "Rex", built on Debian rather than the expected Ubuntu. The OS includes a GNOME desktop with a custom AMD Ryzen AI Developer Center GUI for managing AI software (ROCm 7.13 preview, vLLM, Llama.cpp, ComfyUI, PyTorch, Lemonade Server), toggling telemetry, adjusting GPU performance settings, controlling SSH access, and even managing the device's LED lighting strip. The out-of-the-box experience is described as more polished than a plain Ubuntu preload.

AMD's most exciting AI machine this year isn't a GPU — it's a $3,999 mini PC

AMD's Ryzen AI Halo Developer Platform is a $3,999 mini PC powered by the Ryzen AI Max+ 395 APU with 128GB of unified memory, targeting local AI professionals who need to run massive LLMs without discrete GPU constraints. It can handle 200B parameter models, outpacing even the RTX 5090 in raw model capacity, while undercutting Nvidia's competing DGX Spark (now $4,699) on price. The machine ships with AMD's Ryzen AI Developer Center pre-configured, reducing the historically painful ROCm setup. However, ROCm still lags behind CUDA in maturity — Ollama can still require manual GPU path configuration, and quantization library support arrives later than on CUDA. AMD's upcoming Gorgon Halo platform promises 192GB of unified memory and 300B parameter model support, but closing the software gap with Nvidia remains the key challenge.