Running Generative AI On An RP2350

Một người hứng thú đã triển khai mô hình sinh ảnh diffusion trên vi điều khiển RP2350, tạo ra ảnh khuôn mặt 128x128 trong khoảng zwanzig giây. Hệ thống kết hợp decoder của variational auto‑encoder với latent flow diffusion transformer, và các trọng số được lượng hóa thành số nguyên 8‑bit để hai phiên bản mô hình (lớn và nhanh) cùng chương trình suy luận vừa nice trong 4 MB flash. Kết quả có thể xem qua cổng USB hoặc qua board adapter VGA trên bo mát phát triển Waveshare. Điều này cho thấy việc tối ưu lượng hóa và kiến trúc mô hình nhẹ có thể đưa AI sinh tạo vào thiết bị có tài nguyên cực hạn, mở đường cho các ứng dụng IoT thời gian thực.