AMD Posts GCC Compiler Patches For AVX10V1AUX ISA Support

AMD is now worth a trillion dollars

AMD đã đạt mức định giá 1 tỷ USD lần đầu tiên, đồng thời Nasdaq đóng cửa ở mức kỷ lục khi các nhà đầu tư đặt cược vào việc chi tiêu cho AI vẫn đang tăng trưởng. Động lực chính đằng sau đà tăng này là nhu cầu mạnh mẽ cho bộ xử lý GPU của AMD trong thị trường AI, đặc biệt là dòng Instinct MI300. Sự thành công này cho thấy AMD đang cạnh tranh trực tiếp với NVIDIA trong lĩnh vực AI accelerator. Bài phân tích cung cấp cái nhìn sâu sắc về cách AMD tận dụng làn sóng AI để tạo ra giá trị thị trường khổng lồ, điều mà các lập trình viên quan tâm đến xu hướng công nghệ nên theo dõi.

Tin tức này giúp lập trình viên hiểu xu hướng đầu tư công nghệ AI đang định hình giá trị các công ty phần cứng hàng đầu.

5 outdated myths about CPUs that you're still falling for

Bối cảnh: Nhiều lập trình viên vẫn tin vào những quan niệm lỗi thời về CPU, dẫn đến lựa chọn không tối ưu. Nguyên nhân kỹ thuật: Các công nghệ như Intel Turbo Boost, ARM big.LITTLE và bộ đệm L3 cache đã thay đổi cách CPU hoạt động, khiến các myth về clock speed đơn thuần hay core count trở nên lỗi thời. Hệ quả: Việc dựa vào các tiêu chí lỗi thời có thể khiến bạn bỏ lỡ các giải pháp hiệu quả hơn, ví dụ như việc một chip Apple M1 với 8 core nhưng chỉ 4 performance cores có thể vượt trội hơn nhiều CPU Intel core count cao hơn. Điều đáng học: Bạn cần cập nhật kiến thức về công nghệ CPU hiện đại để đưa ra quyết định kỹ thuật chính xác, đặc biệt khi đánh giá hiệu năng tổng thể thay vì chỉ tập trung vào các con số đơn lẻ như GHz hay core count.

Bài viết này sẽ giúp bạn loại bỏ những quan niệm sai lầm về CPU đã lỗi thời để cập nhật kiến thức công nghệ hiện đại.

AMD acquires Taalas to boost inference performance by etching models in silicon

AMD mua lại Taalas nhằm nâng cao hiệu suất inference bằng cách khắc mô hình AI trực tiếp lên vi mạch. Các bản demo ban đầu cho thấy các mạch tích hợp chuyên dụng (model-specific integrated circuits) có thể xử lý tới 17.000 token mỗi giây.

Lập trình viên AI cần đọc để hiểu cách AMD đang tận dụng silicon custom hóa để cải thiện hiệu suất xử lý mô hình deep learning, đặc biệt là trong việc tối ưu hóa các ứng dụng inference trên thiết bị edge, giúp tiết kiệm chi phí và tăng tốc độ triển khai.

Exploring Speculative Decoding in vLLM on AMD GPUs

Bài viết hướng dẫn cách áp dụng speculative decoding trong framework vLLM khi chạy trên GPU AMD, giải thích cơ chế draft‑and‑verify và các kỹ thuật hỗ trợ như MTP, EAGLE‑3, DFlash và DSpark. Nó cho thấy việc sử dụng mô hình nháp để dự đoán trước các token rồi xác thực bằng mô hình đích giúp giảm số lần truy cập bộ nhớ và tăng tỷ lệ sử dụng lõi tính toán trên kiến trúc AMD CDNA. Kết quả thực nghiệm cho thấy throughput tăng lên đáng kể (thường gấp 1,5‑2×) và latency giảm khi cấu hình đúng kích thước batch và các tham số tuning cụ thể cho từng kernel. Điều này cho thấy lợi thế của speculative decoding không chỉ phụ thuộc vào thuật toán mà còn vào việc tối ưu hóa phần cứng cụ thể, đặc biệt là việc sử dụng DFlash để tối ưu hoá attention và DSpark để quản lý memory traffic trên GPU AMD. Bài viết nên được đọc nếu bạn muốn áp dụng hoặc cải thiện speculative decoding trên hệ thống AMD và cần tham khảo các bước cấu hình, tuning và benchmark thực tế.

Bài viết này cung cấp hướng dẫn thực tế về speculative decoding trên GPU AMD, giúp lập trình viên tối ưu hóa hiệu suất xử lý mô hình ngôn ngữ.

Intel Engineers Propose DRM Fabric For Linux

Intel engineers gửi RFC patch series tên DRM Fabric, một cơ sở hạ tầng topology DRM trung lập nhà sản xuất và không phụ thuộc giao thức để kết nối GPU và accelerator AI mở rộng. DRM Fabric sử dụng mô hình fabric‑endpoint‑port‑peer, dựa trên Generic Netlink thay vì sysfs hoặc devlink, và được chia thành hai giai đoạn: phát hiện chỉ đọc (patch 1‑6) và cung cấp đặc quyền cho fabric được định nghĩa bằng phần mềm (patch 7‑12). Mô tả này không xác định transport, chính sách switch, di chuyển hoặc lập trình MMU, chưa có triển khai thực tế, nhưng được cho là hướng tới accelerator AI Crescent Island của Intel và tham khảo triển khai công khai xGMI của AMD. Điều này cho thấy việc xây dựng lớp kết nối trung lập có thể bổ sung các nỗ lực như UALink của AMD và xGMI, đồng thời minh họa lợi ích của việc tách biệt việc phát hiện và cấu hình trong một fabric được định nghĩa bằng phần mềm.

Để nắm bắt xu hướng mới về kiến trúc GPU và AI trên Linux qua mô hình DRM Fabric của Intel.

4 used GPUs that suddenly make sense again now that new cards cost double MSRP

Trong bối cảnh giá card đồ họa mới tăng gấp đôi so với MSRP, thị trường đồ cũ đang trở thành lựa chọn duy nhất có giá hợp lý. Nguyên nhân kỹ thuật đến từ việc các thế hệ GPU cũ như RTX 3080, RTX 3070 và AMD RX 6700 XT vẫn mạnh mẽ đủ để chạy đa tác vụ gaming và rendering. Hệ quả là những model này đang được săn đón với giá chỉ bằng 40-50% so với dòng mới, giúp tiết kiệm đáng kể cho lập trình viên. Điều đáng học là việc đánh giá hiệu năng thực tế của GPU cũ qua các benchmark thay vì chỉ chú trọng vào thông số mới nhất có thể giúp tối ưu chi phí hiệu quả.

Bài này tiết lộ 4 GPU đã qua sử dụng nay trở nên đáng giá hơn do giá card mới đã gấp đôi giá niêm yết.

Linux Preps For New AMD Zen 6 BTB CTX Isolation Security Feature

A Linux kernel patch reveals that upcoming AMD Zen 6 processors will include a new hardware security feature called Branch Target Buffer (BTB) context isolation, which separates user/kernel and guest/host execution contexts to defend against branch prediction attacks like Speculative Return Stack Overflow (SRSO). Because Zen 6's BTB isolation handles these vectors natively, the SafeRET software mitigation used on earlier Zen generations becomes unnecessary on Zen 6, though user/user and guest/guest attack vectors still require the existing Spectre v2 IBPB-on-context-switch mitigation. The kernel patch adds detection and reporting of this new hardware protection via a new mitigation string, and is queued in tip/tip.git's x86/bugs branch, likely landing in Linux v7.4 or as a fix for v7.3.

AMD Proposes New LLVM iTHP Option For Squeezing More Performance

AMD's compiler technologies team has proposed a new opt-in Clang feature, -fenable-readonly-thp, that implements instruction Transparent Huge Pages (iTHP) at compile and link time. The compiler driver arranges 2 MiB segment alignment at link time, links a small startup object, and calls madvise(MADV_COLLAPSE) at process start so the kernel can promote 4 KiB text page mappings to huge pages, reducing iTLB pressure. Testing with SPEC CPU 2026, Geekbench, CPython, and database/server workloads showed workload-dependent gains, strongest on large .text binaries like interpreters and compilers, with no broad regressions observed but some cost in larger binaries and startup overhead. The feature requires Linux 7.2 or newer since older kernels only support iTHP from TMPFS-based storage. Unlike the BOLT binary layout optimizer, this approach requires no workload profiling. A Google engineer noted they built a similar library, and AMD hopes to upstream this into LLVM and potentially GNU toolchains instead.