#edge-ai

Credit card-sized Edge AI single board computers are powered by TI AM62A (2 TOPS) or AM68A (8 TOPS) SoC

Hai máy tính nhúng Edge AI cỡ thẻ tín dụng InHand Mo 62A và Mo 68A sử dụng lần lượt bộ vi xử lý TI AM62A (2 TOPS) và AM68A (8 TOPS) của Texas Instruments.

Nếu bạn đang phát triển ứng dụng AI trên thiết bị biên (edge computing) với yêu cầu hiệu suất cao và chi phí tiết kiệm, tiêu đề này sẽ giúp bạn khám phá các chip TI AM62A (2 TOPS) và AM68A (8 TOPS) – những giải pháp mạnh mẽ, tiết kiệm năng lượng cho các dự án Edge AI nhỏ gọn, hiệu quả.

Efinix Titanium Edge FPGA family targets low-power edge AI and vision systems

Efinix ra mắt dòng FPGA Titanium Edge dành cho các ứng dụng AI biên (edge AI) và thị giác máy (machine vision) tiêu thụ điện năng thấp, dựa trên kiến trúc Titanium FPGA của hãng.

Là người phát triển phần mềm, bạn nên đọc bài này để hiểu cách FPGA như Efinix Titanium Edge có thể tối ưu hóa hiệu suất AI và xử lý hình ảnh trên thiết bị biên (edge) với tiêu thụ năng lượng thấp, giúp bạn tìm kiếm giải pháp hiệu quả hơn cho các ứng dụng thực tế.

NASA Puts Google’s Gemma Large Language Model in Orbit

NASA triển khai mô hình ngôn ngữ lớn Gemma 3 của Google trên vệ tinh NAVI-Orbital để phân tích hình ảnh vệ tinh, nén dữ liệu thành văn bản nhằm tối ưu truyền tải và đẩy nhanh phản ứng thảm họa.

Lập trình viên nên đọc bài này để hiểu cách AI hiện đại như Gemma 3 có thể tích hợp với các ứng dụng không gian, mở rộng khả năng xử lý dữ liệu từ vệ tinh và giúp phát triển các giải pháp thông minh cho ngành công nghệ mới.

A Raspberry Pi CM5-compatible Rockchip RK3576 AI Compute Module with WiFi 6, Bluetooth 5.3

Module tính toán Geniatech XPI-3576-CM5 sử dụng vi xử lý Rockchip RK3576 tám nhân (Arm Cortex-A72/A53), tương thích form factor Raspberry Pi CM4/CM5, hỗ trợ tối đa 16GB RAM, tích hợp WiFi 6 và Bluetooth 5.3.

Là người phát triển AI hoặc thiết bị IoT, bạn nên đọc để khám phá cách tích hợp một CPU mạnh mẽ như RK3576—cùng với WiFi 6 và Bluetooth 5.3—để nâng cấp hiệu suất xử lý máy học, xử lý video và ứng dụng IoT hiệu quả hơn trên các dự án mở rộng.

Edge AI vs. Cloud Computer Vision: Which Is Better for Industrial Operations?

Edge AI và Cloud Computer Vision đều đóng vai trò quan trọng trong vận hành công nghiệp, nhưng lựa chọn nào phù hợp hơn phụ thuộc vào nhu cầu cụ thể như độ trễ, băng thông, bảo mật và chi phí.

Nếu bạn đang phát triển hệ thống tự động hóa công nghiệp, đọc bài này để so sánh hiệu quả giữa AI trên thiết bị biên (Edge AI) và xử lý hình ảnh trên đám mây (Cloud Computer Vision) trong việc tối ưu hóa chi phí, độ tin cậy và phản ứng nhanh trong môi trường thực tế.

Fault-Tolerant Quantum Computers, Sustained Performance Defines the Next Phase of Edge AI, Agentic AI for EDA: Embedded Week Insights

Bài viết tuần này điểm qua những nghiên cứu mới nhất về máy tính lượng tử chịu lỗi, giai đoạn tiếp theo của AI biên (edge AI) dựa trên hiệu suất bền vững, và AI tác nhân (agentic AI) ứng dụng trong thiết kế điện tử (EDA).

Lập trình viên AI và phần mềm hãy đọc để hiểu cách các giải pháp fault-tolerant trong máy tính lượng tử và agentic AI có thể nâng cao hiệu quả thiết kế phần mềm, tối ưu hóa hệ thống AI trên thiết bị biên và giải quyết những thách thức mới trong việc tích hợp các công nghệ này vào dự án thực tế.

Why Sustained Performance Defines the Next Phase of Edge AI

Hiệu suất ổn định chứ không phải hiệu năng đỉnh sẽ quyết định giai đoạn tiếp theo của edge AI, khi mà giới hạn về điện năng, nhiệt độ và độ tin cậy ảnh hưởng trực tiếp đến các ứng dụng thực tế.

Lập trình viên phát triển hệ thống AI trên thiết bị biên (edge) nên đọc bài này để hiểu cách tối ưu hóa hiệu suất bền vững thay vì chỉ tập trung vào tính năng mạnh nhất, giúp giải quyết những thách thức thực tế về tiêu thụ năng lượng, nhiệt độ và độ tin cậy trong ứng dụng di động và IoT.

Luxonis M8 Controller Box adds industrial I/Os, CAN Bus, and relay control to OAK4 AI vision cameras

Hộp điều khiển M8 của Luxonis bổ sung thêm các cổng I/O công nghiệp, CAN Bus và điều khiển relay cho camera AI biên OAK4. Thiết bị này kết nối qua cổng M8, mở rộng khả năng xử lý và điều khiển trong môi trường công nghiệp.

Là người phát triển AI vision, bạn nên đọc vì M8 Controller Box mở rộng khả năng tự động hóa và kết nối vật lý cho OAK4, giúp tối ưu hóa ứng dụng công nghiệp với các chức năng I/O, CAN Bus và relay, giúp tiết kiệm thời gian và chi phí trong triển khai hệ thống vision edge.

BrainChip Launches AKD1500 M.2 Module for Fanless Edge AI

BrainChip introduces a new M.2 version of its AKD1500 edge AI accelerator to deliver a compact module for fanless edge AI.

Powerful Compute So Compact, It’s Clutch — Build AI in Your Hand With NVIDIA Jetson

NVIDIA's Jetson platform is highlighted as a compact yet powerful edge AI and robotics development platform. The post, framed around an endorsement by AI investor Sarah Guo, showcases the Jetson Orin Nano Super developer kit as an entry point for students, researchers, and developers building their first AI robots. Key capabilities include 67 TOPS of AI performance, on-device inference without cloud dependencies, support for open-weight models like Mistral, and tools like Jetson Device Skills for deploying AI agents at the edge. Example projects include an autonomous toy EV, a voice-and-vision robot assistant, and a from-scratch AI robot build.

An IP67-rated, rugged Jetson Orin NX/Nano edge AI computer with GMSL2 camera support

DFI X6X-ORN là máy tính nhúng AI biên (Edge AI) không quạt, đạt chuẩn IP67, sử dụng NVIDIA Jetson Orin NX/Nano, hỗ trợ camera GMSL2, phù hợp cho môi trường công nghiệp khắc nghiệt ngoài trời.

Là người phát triển AI cho môi trường khắc nghiệt, bạn nên đọc để tìm hiểu cách tích hợp Jetson Orin NX/Nano với GMSL2 cho camera chịu nước bụi (IP67) và giải pháp fanless hiệu quả, giúp tối ưu hóa hiệu suất AI trên thiết bị ngoại vi đòi hỏi độ bền và hiệu năng cao.

Congatec Launches Ryzen AI-based COM-HPC Module

Congatec introduces a COM-HPC Client Size C module, based on AMD’s Ryzen AI Embedded X100 Series processors for physical AI applications.

A Rockchip RK3588 SMARC 2.1 compliant system-on-module

Jetway ra mắt SMC-ARK1, module hệ thống-on-chip (SoM) tuân thủ tiêu chuẩn SMARC 2.1 dựa trên vi xử lý Rockchip RK3588 8 nhân, hướng đến ứng dụng nhúng.

Là người phát triển hệ thống embedded, bạn nên đọc để khám phá cách Rockchip RK3588, một chip đa lõi cao hiệu suất, kết hợp với tiêu chuẩn SMARC 2.1, mở ra nhiều khả năng cho các ứng dụng IoT, robotics và thiết bị công nghiệp đòi hỏi tính năng mạnh mẽ và hiệu suất ổn định.

Multiverse Computing Announces Series C Fundraising Targeting up to $570 Million

Multiverse Computing huy động thành công 570 triệu USD trong vòng gọi vốn Series C, định giá công ty trước khi rót vốn lên tới 1,7 tỷ USD.

Lập trình viên nên đọc bài này để hiểu về một trong những bước tiến đột phá trong công nghệ lượng tử, đặc biệt là về Multiverse Computing, một công nghệ có thể thay đổi cách chúng ta xử lý dữ liệu và tính toán trong tương lai gần, từ các ứng dụng AI đến các giải pháp khoa học.

The Three Bets Behind Every AIoT Company — and Why Getting Even One Wrong Is Expensive

Mọi công ty AIoT đều phải đặt ba "cược" quan trọng: công nghệ, ứng dụng thị trường và mô hình kinh doanh. Chỉ cần thất bại ở một trong ba lĩnh vực này cũng có thể gây tổn thất lớn cho doanh nghiệp.

Lập trình viên AIoT nên đọc bài này vì nó giải thích rõ cách các công ty phải cân nhắc ba quyết định kỹ thuật quan trọng—và sai lầm trong bất kỳ một trong ba điểm này—có thể khiến dự án rơi vào thất bại về kinh tế ngay từ giai đoạn đầu.

EMASS, Bosch Sensortec Collaborate on Asset Tracking Platform

EMASS partners with Bosch Sensortec to develop a reference design for intelligent asset tracking that combines edge AI processing with multimodal sensing.

Someone squeezed a 28.9M LLM onto an ESP32-S3, and so can you

Một lập trình viên đã thu nhỏ mô hình ngôn ngữ lớn (LLM) 28,9 triệu tham số vào vi điều khiển ESP32-S3, cho phép chạy trên phần cứng hạn chế.

Lập trình viên nên đọc bài này để khám phá cách tích hợp mô hình AI nhỏ, như LLM, vào thiết bị vi xử lý rẻ tiền như ESP32-S3, mở rộng khả năng ứng dụng từ các dự án IoT đến các giải pháp thông minh gia đình với chi phí thấp và hiệu năng đáng kể.

Aetina Adds Jetson T3000 and T2000 Support to Edge AI Systems

Aetina will integrate Nvidia's new Jetson T3000 and T2000 Thor SOMs into upcoming edge AI computing systems for robotics and industrial edge deployments.

A $3,640 NDAA and TAA-compliant AI box based on Raspberry Pi 5 and Hailo-13L

AIS-1000 is a pricey NDAA- and TAA-compliant Raspberry Pi 5 and Hailo-13L-powered AI surveillance system supporting up to 8 IP cameras.

You Moved Inference On-Device for Privacy. You Also Shipped Your Moat to the Attacker.

Khi triển khai mô hình AI trên thiết bị người dùng thay vì đám mây, bạn vô tình trao quyền truy cập mô hình cho kẻ tấn công, khiến các biện pháp bảo mật truyền thống trở nên vô dụng.

Lập trình viên nên đọc bài này để hiểu cách bảo mật mô hình AI trên thiết bị cá nhân có thể trở thành điểm yếu khi không kiểm soát phần cứng, từ đó tránh rủi ro bị tấn công thông qua các lỗ hổng trong on-device inference.

I Kept Trying to Fix the Model. The Problem Was the Light.

Người sáng lập chia sẻ ghi chú xây dựng về hệ thống Inspection Trust Gate, tập trung vào phát hiện độ lệch (drift detection), cổng xác định (deterministic gates) và khả năng truy xuất nguồn gốc (audit lineage) giữa mô hình thị giác máy (vision model) và PLC, đảm bảo tuân thủ EU AI Act.

Những kiến thức về điều khiển định kỳ (deterministic gates), sự thay đổi mô hình (drift detection), và luật lệ AI của EU (EU-AI-Act) sẽ giúp bạn hiểu cách xây dựng hệ thống an toàn và tuân thủ tiêu chuẩn trong ứng dụng AI thực tế, đặc biệt là trong các hệ thống tự động hóa công nghiệp.

Hybrid Microcontrollers Reshape Embedded Computing

Các bộ vi điều khiển lai (MCU) kết hợp lõi chuyên dụng và bộ tăng tốc để giảm độ trễ, tiêu thụ điện năng và độ phức tạp của bảng mạch trong các thiết kế ngày càng phức tạp.

Lập trình viên cần đọc bài này để khám phá cách hybrid microcontroller (MCU) kết hợp các lõi chuyên dụng và accelerators giúp tối ưu hóa hiệu suất cho ứng dụng embedded phức tạp mà không cần thiết kế lại hệ thống từ đầu.

NVIDIA increases the price of Jetson modules and devkits by up to 101%

NVIDIA vừa tăng giá các module Jetson và devkit lên tới 101%, sau khi trước đó đã ngừng sản xuất một số model do giá LPDDR4 cao.

Những thay đổi mới của NVIDIA trong giá các module Jetson và kit phát triển có thể ảnh hưởng đến dự án AI/ML của bạn, đặc biệt là khi chi phí phần cứng tăng đột biến, đòi hỏi bạn phải cân nhắc lại chiến lược triển khai hiệu suất và chi phí.

Ultralytics Optimizes YOLO26 for Intel OpenVINO

Ultralytics optimizes its YOLO26 computer vision models for Intel's OpenVINO toolkit, accelerating the deployment of high-performance edge AI systems

Apple eyes PrismML’s on-device AI for the iPhone

Apple đang trong giai đoạn thảo luận sơ bộ với PrismML về công nghệ nén AI chạy trên thiết bị, giúp mô hình 27 tỷ tham số giảm xuống dưới 4GB để vận hành trên iPhone. Apple chưa đưa ra bình luận nào.

Lập trình viên AI nên theo dõi vì công nghệ on-device AI như PrismML không chỉ mở ra khả năng tối ưu hóa hiệu suất cho thiết bị di động mà còn là hướng đi quan trọng trong tương lai của các ứng dụng máy học nhẹ nhàng, tiết kiệm năng lượng và bảo mật cao.

Microchip Releases Free VectorBlox 3.0 SDK

Microchip upgrades its VectorBlox Accelerator SDK with new capabilities to improve AI inference on PolarFire FPGA and SoC devices.

Unlocking the Next Era of On-Device AI with Google Tensor and Pixel

Build the next generation of offline AI apps. Read our Google I/O Connect recap to learn about Gemma 4 for Pixel 10 and access the new Tensor SDK beta.

Renesas 365 Dev Platform, NOR Flash Safety Features, Edge Intelligence in SDVs: Embedded Week Insights

Tuần qua, các tin tức nổi bật trong lĩnh vực hệ thống nhúng và điện toán biên gồm: nền tảng phát triển Renesas 365 mở rộng sau thương vụ mua Pictorus, tính năng an toàn cho NOR flash trên hệ thống Linux, trí thông minh biên trong kiến trúc xe định nghĩa bằng phần mềm (SDV), cùng loạt sản phẩm mới từ Qualcomm, Advantech và GigaDevice.

Lập trình viên chuyên sâu về hệ thống vi xử lý và ứng dụng biên cạnh nên tìm hiểu để cập nhật các công nghệ mới như Renesas 365 Dev Platform và các tính năng bảo mật NOR Flash, giúp tối ưu hóa phát triển hệ thống Linux và ứng dụng SDV hiệu quả hơn.

Microchip Offers Free MPLAB Compiler and AI Tools

Microchip Technology has made its MPLAB XC Pro compilers and MPLAB Machine Learning development suite free of charge, removing licensing barriers for embedded and edge AI developers. The compilers support 8-bit, 16-bit, and 32-bit MCUs/MPUs with advanced code optimization. The ML suite, available as a plugin for MPLAB and VS Code, enables building and deploying ML models for embedded sensing and IoT. Microchip also extended free licensing to its TÜV SÜD-certified functional safety compilers, though certification documentation remains a paid option. Compiler updates and priority technical support are now included at no extra cost.

Syntiant files for a US IPO, betting public markets want edge AI too

Syntiant, an Irvine-based edge AI chipmaker, has filed an S-1 with the SEC to list Class A shares on the Nasdaq under ticker SYTN. The company designs low-power processors and software for on-device AI in earbuds, wearables, cars, drones, and industrial machinery. It reported $64.5mn in revenue for Q1 fiscal 2026 with a net loss of $26.2mn. Syntiant has raised $311mn to date, backed by Intel, Microsoft, Amazon Alexa Fund, and Bosch Ventures, and recently acquired Knowles' MEMS microphone business for $150mn. The IPO terms and pricing remain undisclosed, with listing expected later in 2025. The company competes with Qualcomm and Ambarella in the low-power inference chip market, with over 100 million processors shipped.

Luffy AI raises £8.1M to put self-tuning AI inside the world’s electric motors

Luffy AI, a UK startup spun out of the Culham nuclear research campus, has raised £8.1M in a Series A led by BGF. The company builds sparse neural networks trained in simulation that self-tune in real time on edge hardware — no cloud connectivity required. Its first application is electric motor control for industrial pumps, fans, and conveyors, targeting the roughly half of global electricity consumed by motors. The approach claims up to 400x efficiency over traditional deep learning, enabling plug-and-play adaptive motor control without specialist engineers on site. Future targets include robotics, drones, and thermal process control.

Small Language Models Power Life-Saving Small AI

Small AI models — those with a few billion parameters or fewer — are enabling life-saving applications in regions with no reliable internet, data centers, or stable electricity. Real-world examples include a handheld pill-authentication spectrometer running on an Android phone in Africa, drone-based crop disease detection in India, malaria mosquito detection, and ECG monitoring on Arduino devices in Brazil. These models are created via pruning, distillation, or quantization of larger models, and increasingly run on commodity hardware like a $50 Arduino with a Qualcomm chipset drawing just 3 watts. Open-weight models like Google DeepMind's Gemma 4 and Alibaba's Qwen 3.5 are accelerating adoption. The World Bank now actively funds small AI development globally. Advocates argue that millions of small, specialized edge models — not one giant centralized model — represent the sustainable future of AI for most of humanity, though infrastructure challenges remain.

NVIDIA Jetson Orin Nano/NX-based Mekotronics AI Box targets humanoid robots, Smart Cities management, transportation applications

Mekotronics has launched an AI Box based on NVIDIA Jetson Orin Nano (4GB/8GB) and Jetson Orin NX (8GB/16GB) modules, targeting humanoid robots, smart transportation (V2X), Smart Cities, Smart Agriculture, and medical imaging. The compact embedded computer (136×79mm PCB) offers standard industrial interfaces including HDMI, six USB Type-A ports, dual Gigabit Ethernet (one with PoE), a 40-pin GPIO header, CAN Bus, UART, two camera connectors, and dual M.2 NVMe slots. It supports up to 157 TOPS with the Orin NX 16GB module and runs JetPack 7.x on Ubuntu 24.04. The design appears cost-optimized compared to rugged competitors like IBASE EC3100 and Forlinx FCU3011, though pricing has not yet been announced.

I stopped running the biggest local LLM that could fit, and a 2B model handles 90% of what I need

Running the largest model that fits on your GPU isn't always the best strategy. Small 2B models like Gemma 4 E2B and Qwen 3.5 2B, purpose-built for edge hardware, handle the majority of everyday tasks — explaining concepts, summarizing, image analysis, structured text tasks — without maxing out VRAM or squeezing other processes. These models aren't stripped-down versions of larger ones; they're architected from the ground up for efficiency on consumer hardware, with features like 128K context windows, multimodal input, and tool calling.

Titan Mini is a smaller Renesas RA8P1-based Edge AI board for RT-Thread RTOS development

The Titan Mini is a compact, lower-cost development board based on the Renesas RA8P1 (R7KA8P1) microcontroller, featuring a 1 GHz Arm Cortex-M85 core, a Cortex-M33 at 250 MHz, and an Arm Ethos-U55 NPU delivering 256 GOPS. Compared to the original Titan board, it reduces memory to 32MB SDRAM and 8MB eMMC, replaces the RJ45 Ethernet port with an FPC connector, and adds a built-in microphone and speaker connector. The board measures 65×55mm and includes a 40-pin Raspberry Pi HAT-compatible GPIO header, USB-C, CAN Bus, JTAG, and optional camera support. RT-Thread provides an SDK and BSP on GitHub with demos including LED blink, display/camera, Ethernet, NPU-accelerated face detection, and a WAV audio player. It sells for $44.23 on AliExpress (Ethernet cable extra), but is not shipped to the EU due to unspecified regulatory/certification issues.

Into the Omniverse: Three Workflows for Improving Vision AI Agent Accuracy With Synthetic Data and Fine-Tuning

Vision AI agents are increasingly used to extract operational intelligence from video data in factories, cities, and warehouses. Three common blockers — data gaps causing accuracy plateaus, lack of fine-tuning expertise, and complex agent assembly — can be addressed using NVIDIA Metropolis blueprints, NVIDIA Omniverse for OpenUSD-based synthetic data generation, and NVIDIA TAO for model fine-tuning. Three real-world workflows illustrate the approach: Roboflow and Corning used synthetic defect images to achieve 95% average precision from just eight real training samples; Linker Vision cut smart city development effort by 85% and incident response times by 80% using the VSS blueprint; and DeepHow's SOP Verification agent at Foxconn improved first-pass yield by 3% and achieved 99% task-level accuracy on assembly line operations.

onsemi Synaptics deal: a $7bn bet on physical AI

Onsemi is acquiring Synaptics in an all-stock deal valued at approximately $7bn (including debt), betting that AI's next growth wave will happen at the edge — in cars, factories, and robots — rather than in cloud data centers. Onsemi brings power and sensing chips; Synaptics contributes connected compute via its Astra platform with AI processors, NPUs, and wireless connectivity. The combined company aims to cover every layer of the Edge AI stack. The deal carries a ~19% premium for Synaptics shareholders, who will own about 12% of the merged entity. Onsemi expects $200m in annual savings and a $30bn expansion of its addressable market by 2030. However, investors reacted cautiously — onsemi shares fell 8.2% after hours — citing the company's failed $6.9bn Allegro MicroSystems bid a year prior, planned job cuts, and a mid-2027 closing timeline subject to regulatory review.

Makerfabs MaTouch ESP32-P4 10.1-inch HMI display features 4G LTE and Ethernet connectivity, a 2MP camera

Makerfabs has released the MaTouch ESP32-P4 TFTTouch 10.1, a development board combining the ESP32-P4 and ESP32-C6 chips with a 10.1-inch 1280×800 IPS touchscreen display. Key differentiators from similar boards include a SIMCom SIM7670G 4G LTE Cat 1 modem with SIM slot, RJ45 Ethernet, and a 2MP MIPI camera. The board also includes WiFi 6, Bluetooth 5, Zigbee/Thread/Matter via the ESP32-C6, audio I/O, microSD, five USB-C ports, and GPIO expansion headers. Software support covers ESP-IDF, Arduino IDE, PlatformIO, and LVGL. It is priced at $79.80 and ships with a 32GB microSD card in a basic enclosure.

A $1199 Edge AI Camera based on Hailo-15H 20 TOPS SoC

Camthink has announced the NeoEyes NE503, a $1199 4K Edge AI camera built around the Hailo-15H SoC featuring a quad-core Cortex-A53 CPU and 20 TOPS AI accelerator. It pairs a Sony IMX678 4K sensor with an 8–32mm F1.6 auto-zoom lens, 8GB LPDDR4, and 64GB eMMC. The camera runs embedded Linux via Yocto, supports containerized apps, and offers a REST API, Python SDK, and CLI tools. Pre-installed models include YOLOv8n for person detection, face landmarks, and CLIP Image Encoder. It supports PoE 802.3AT, is IP67-rated, and operates from -40 to 60°C. Pre-orders are open with shipping expected in late July 2026.

Graperain GR1126MB development board features solder-on 3 TOPS Rockchip RV1126B AI Vision module

Graperain has announced the GR1126MB development board, built around a 42x42mm GR1126B stamp-hole system-on-module powered by the Rockchip RV1126B SoC. The SoC features a quad-core Cortex-A53 CPU, a 3 TOPS NPU supporting TensorFlow, ONNX, PyTorch, and Caffe, plus a 12MP ISP and AI-ISP. The module offers up to 4GB LPDDR4x RAM and 256GB eMMC, with extensive I/O including dual MIPI CSI, Gigabit Ethernet, USB 3.0, CAN Bus, and more. The development board adds WiFi/BT, optional 4G LTE, a 40-pin GPIO header, and dual camera connectors. Software support includes BuildRoot and Debian 12, along with an AI framework for object detection, face recognition, and edge analytics. No pricing has been disclosed.