#npu

DEBIX M8391-01 industrial SBC features MediaTek Genio 720 SoC with 9 TOPS NPU, dual-display support

DEBIX M8391-01 là bo mạch công nghiệp compact sử dụng MediaTek MT8391 (Genio 720) SoC, được thiết kế cho edge AI, computer vision và robotics. Sản phẩm có NPU mạnh mẽ với 9 TOPS, hỗ trợ dual-display và đủ port giao tiếp cần thiết. Khả năng xử lý AI của board này đủ mạnh cho các ứng dụng vision tại edge với độ trễ thấp. Board này đáng cân nhắc nếu bạn cần giải pháp tính toán edge AI với hiệu năng cao mà không cần chi phí cho các thiết bị industrial-grade đắt đỏ hơn.

Bài này giới thiệu bo mạch công nghiệp DEBIX M8391-01 với con MediaTek Genio 720 có NPU 9 TOPS, hỗ trợ AI và thị giác máy tính tại biên.

Graphics/NPU Driver Changes Already Begin Queuing Up For What Will Be Linux 7.5

Two drm-misc-next pull requests have already queued up material for the Linux 7.5 kernel, even as the 7.4 merge window is still underway. The first adds busy time reporting to the AMDXDNA Ryzen AI accelerator driver via the DRM fdinfo interface, plus Arm Mali G68 support and improved GPU reset handling for Panfrost. It also brings HDMI 2.0 support to the rockchip/dw-hdmi-qp driver and ARGB8888 format support for VirtIO primary planes. The second pull request adds AMDXDNA fixes, new panel support, and more AIE4 features including power mode control, kernel queue life-cycle, and suspend/resume, for AMD's next-generation Ryzen AI NPU presumably debuting with upcoming Ryzen AI Zen 6 platforms.

$2600 LattePanda Sigma 2 single board server features 180 TOPS Intel Core Ultra X7 358H SoC for local AI applications

The LattePanda Sigma 2 is a compact single board server/computer powered by an Intel Core Ultra X7 358H Panther Lake-H processor with Intel Arc B390

My laptop’s NPU sat unused for a year, and I finally found the one local AI job it’s actually good at

Benchmarking an AMD laptop's NPU against its iGPU and CPU shows the NPU loses badly at chat and barely helps at search, but can handle low-priority background transcription. Running gpt-oss-20b, the Radeon 8060S iGPU hit 53.8 tokens per second at 460 joules per 1,000 tokens, versus FastFlowLM's 9.5 tokens per second on the NPU at 1,200 joules, and AMD's ryzenai-llm at 8.8 tokens per second and 1,700 joules. The NPU chip itself drew under 1 to 2.4W, but total chip power rose 14 to 15W while running. An NPU embedding model also failed to find an LED troubleshooting answer in a manual until keyword search was added alongside it.

Mesa Expands NPU Capabilities With Support For YOLOX With PyTorch

Mesa đã tích hợp thành công hỗ trợ cho mô hình nhận diện đối tượng YOLOX trong hệ thống Torx, cho phép các mô hình PyTorch ExecuTorch chạy trên driver NPU. Tính năng này đã được xác thực trên Arm EthosU NPU sử dụng NXP i.MX93 SoC, trong khi driver Etnaviv cho Vivante NPUs có hỗ trợ hoạt động nhưng vẫn cần hoàn thiện cơ sở hạ tầng để tích hợp với Torx. Việc này là một phần của bản Mesa 26.3 sắp tới. Lập trình viên làm việc với embedded AI và NPU sẽ thấy đây là một bước tiến quan trọng trong việc triển khai các mô hình thị giác máy tính lightweight.

Bài này quan trọng vì cập nhật khả năng hỗ trợ YOLOX trên NPU trong Mesa Torx, mở rộng hiệu năng AI cho các thiết bị nhúng.

After two years of backlash, Microsoft seems to be dropping Copilot+ branding from its new laptops

Sau hai năm phản ứng mạnh mẽ từ người dùng, Microsoft có vẻ đang loại bỏ thương hiệu Copilot+ khỏi dòng laptop mới của mình. Dù các laptop mới đáp ứng đủ yêu cầu cứng về hardware, nhưng không có logo Copilot+ đi kèm. Nguyên nhân có thể do phản hồi tiêu cực từ cộng đồng công nghệ về chiến dịch marketing này. Hệ quả là Microsoft đang tập trung vào trải nghiệm thực tế thay vì đặt nặng vào các yêu cầu hardware cụ thể. Điều này cho thấy xu hướng giảm áp lực marketing về AI, thay vào đó tập trung vào giá trị cốt lõi sản phẩm.

Bài viết này giúp lập trình viên hiểu về xu hướng định vị sản phẩm AI của Microsoft và ảnh hưởng đến phát triển phần mềm trên nền tảng Windows.

RaiderChip Tests Voice-Directed Robot Control on a GenAI NPU

RaiderChip thực hiện kiểm soát robot Unitree bằng giọng nói lên trên một NPU GenAI duy nhất trong môi trường MuJoCo. Công nghệ này cho phép kết hợp lập trình GenAI và các policy robot thời gian thực trên cùng một phần cứng. Việc kiểm chứng này chứng minh khả năng xử lý voice-directed control với độ trễ thấp trên nền tảng NPU GenAI. Kết quả nghiên cứu mở ra hướng mới cho việc tích hợp AI tiến vào hệ thống robot điều khiển bằng giọng nói. Các lập trình viên quan tâm đến robot control có thể tìm hiểu thêm về cách tối ưu hóa policy scheduling trên NPU GenAI.

Bài viết này giúp lập trình viên hiểu cách tích hợp GenAI và điều khiển robot thời gian thực trên một NPU duy nhất.

Core introduces new AI-powered Microsoft Surface devices in South Africa

Core Group has launched the Microsoft Surface Pro and Surface Laptop for Business in South Africa, with dedicated NPUs for on-device AI.

Intel NPU Linux Driver Adding Command-Queue Priority ioctl For Linux 7.4

Đây là bản cập nhật dành cho Linux 7.4, tập trung vào các thay đổi thấp cấp cho driver DRM nhỏ hơn, bao gồm hỗ trợ R-Car V4H DSC và Solomon SSD1351 OLED. Thay đổi đáng chú ý nhất là bổ sung ioctl mới có tên DRM_IVPU_PARAM_CMDQ_PRIORITY cho driver NPU của Intel. ioctl này cho phép người dùng truy vấn và cập nhật động độ ưu tiên lập lịch của một command queue hiện có trên Intel Core Ultra NPUs, kể cả khi hàng công việc đang chờ xử lý. Tính năng này hữu ích cho việc ưu tiên các workload NPU có độ ưu tiên cao hoặc thấp, cung cấp khả năng kiểm soát linh hoạt hơn cho lập trình viên khi làm việc với Intel NPU trên Linux.

Đây là một bài viết quan trọng cho lập trình viên muốn tối ưu hóa hiệu năng công việc trên Intel Core Ultra NPU bằng cách quản lý linh hoạt độ ưu tiên hàng đợi lệnh.

ASUS ExpertBook P5 G2 packs AI performance into a 1.27kg laptop

ASUS ExpertBook P5 G2 là laptop doanh nghiệp nặng chỉ 1.27kg tích hợp NPU 55 Tops hiệu năng cao. Thiết bị kết hợp chip xử lý AI với màn hình 2.5K 144Hz mang lại trải nghiệm hình ảnh sắc nét. Việc tích hợp NPU mạnh mẽ giúp tăng tốc các tác vụ AI mà không ảnh hưởng hiệu năng CPU chính. Laptop này chứng minh có thể cân bằng giữa tính di động và hiệu năng xử lý AI cho nhu cầu công việc.

Laptop ASUS ExpertBook P P2 G2 mang lại hiệu năng AI mạnh mẽ trong thiết kế siêu nhẹ 1.27kg, tối ưu cho công việc di động.

Intel Linux NPU Driver Only Now Officially Supports Ubuntu 26.04 LTS

Intel đã cập nhật driver Linux NPU phiên bản 1.38 để hỗ trợ Ubuntu 26.04 LTS, xuất hiện 5 tháng sau bản phát hành và ngay trước khi Ubuntu 26.10 ra mắt. Driver này đã được kiểm nghiệm trên các chip Meteor Lake, Arrow Lake, Lunar Lake, Panther Lake và Wildcat Lake khi chạy Ubuntu 26.04 LTS với kernel Linux 7.0 mặc định. Ubuntu 24.04 LTS vẫn được hỗ trợ chính thức trong bản cập nhật này. Không có thay đổi nào khác được đưa vào bản phát hành này, và driver có sẵn trên GitHub.

Bài cung cấp thông tin cập nhật quan trọng về driver NPU của Intel cho Ubuntu 26.04 LTS, giúp lập trình viên biết khi nào có thể sử dụng chip mới nhất.

Windows 12’s Hidden Requirement Nobody’s Talking About: RAM You Can No Longer Afford

Windows 12 đòi hỏi RAM khổng lồ mà chưa được leak nào đề cập, tập trung thay vào NPUs và TOPS. Hệ thống AI trên thiết bị mới của Windows sẽ tiêu tốn lượng RAM đáng kể, với ước tính cần ít nhất 32GB cho hiệu năng tốt. Hậu quả là người dùng sẽ phải nâng cấp phần cứng với chi phí cao hơn, trong khi các leak lại chỉ nhấn mạnh vào công nghệ AI thay yêu cầu thực tế này. Bài gốc cung cấp số liệu chi tiết về mức tiêu thụ RAM và so sánh với hệ thống hiện tại, giúp lập trình viên hiểu rõ thách thức khi phát triển ứng dụng cho nền tảng mới.

Bài viết tiết lộ yêu cầu RAM đắt đỏ của Windows 12 mà không ai đề cập đến khi bàn về năng lượng xử lý AI trên thiết bị.