#diffusion-models

AI Paper Review: Generative Modeling by Estimating Gradients of the Data Distribution

Mô hình diffusion hiện là một trong những hệ thống AI sinh quan trọng nhất, ứng dụng rộng rãi từ tổng hợp ảnh, chỉnh sửa đến tạo video. Các nghiên cứu mới tập trung vào việc ước lượng gradient của phân phối dữ liệu để cải thiện hiệu suất.

Lập trình viên muốn phát triển hoặc tối ưu các mô hình AI sinh tạo, đặc biệt là các ứng dụng như hình ảnh, video hay xử lý dữ liệu khoa học, nên đọc bài này để hiểu cách diffusion models hoạt động dựa trên việc ước lượng gradient của phân bố dữ liệu, giúp cải thiện hiệu quả và độ chính xác trong việc tạo ra nội dung mới.

Scaling Categorical Flow Maps

Các mô hình diffusion liên tục và flow matching có thể thay thế hiệu quả các phương pháp autoregressive trong mô hình ngôn ngữ.

Lập trình viên AI phát triển mô hình ngôn ngữ nên đọc để khám phá cách scaling các bản đồ lưu lượng phân loại có thể thay thế hiệu quả các mô hình tự hồi quy trong việc tạo nội dung tự nhiên, giảm thời gian huấn luyện và tăng khả năng mở rộng cho các ứng dụng lớn.

How to Guide Your Language Flow

We introduce a new method to guide flow matching models. Our approach, which we call probe guidance, uses the frozen internal states of an…

Turn Your Latest Observations Into Timely Weather Decisions With NVIDIA Earth-2

Weather-sensitive industries increasingly have access to observations that offer an earlier, more local view of changing conditions.

Dynamically Scaled Activation Steering

Activation steering has emerged as a powerful method for guiding the behavior of generative models towards desired outcomes such as toxicity…

New method enables AI for safety-critical situations

Trong bối cảnh ứng dụng AI trong các hệ thống an toàn nghiêm ngặt như robot và điều khiển hệ thống vật lý, HardFlow là một thuật toán mới từ MIT giải quyết vấn đề ràng buộc cứng. Thuật toán này cho phép các mô hình AI sinh học đã được huấn luyện sẵn đáp ứng các điều kiện ràng buắc kỹ thuật mà không cần đào tạo lại. HardFlow cải thiện chất lượng giải pháp và đảm bảo an toàn cho hệ thống trong các tình huống quan trọng. Các lập trình viên làm việc trong robotics hay computer vision nên cân nhắc tìm hiểu kỹ thuật này vì nó giải quyết được bài toán kinh điển là giữ nguyên mô hình gốc nhưng vẫn tuân thủ constraint mà không ảnh hưởng đến performance.

HardFlow giúp AI xử lý tình huống an toàn quan trọng mà không cần huấn luyện lại, phù hợp cho robot và hệ thống điều khiển.

Temporally stable generative illumination with a one-step diffusion model

A generative method for real-time global illumination using a single-step latent diffusion model, delivering stable, high-quality lighting without costly iterative processing.

Running Generative AI On An RP2350

Một người hứng thú đã triển khai mô hình sinh ảnh diffusion trên vi điều khiển RP2350, tạo ra ảnh khuôn mặt 128x128 trong khoảng zwanzig giây. Hệ thống kết hợp decoder của variational auto‑encoder với latent flow diffusion transformer, và các trọng số được lượng hóa thành số nguyên 8‑bit để hai phiên bản mô hình (lớn và nhanh) cùng chương trình suy luận vừa nice trong 4 MB flash. Kết quả có thể xem qua cổng USB hoặc qua board adapter VGA trên bo mát phát triển Waveshare. Điều này cho thấy việc tối ưu lượng hóa và kiến trúc mô hình nhẹ có thể đưa AI sinh tạo vào thiết bị có tài nguyên cực hạn, mở đường cho các ứng dụng IoT thời gian thực.

Bài này cho thấy cách chạy mô hình AI tạo hình ảnh hoàn toàn trên RP2350, chứng minh khả năng xử lý AI mạnh mẽ của vi điều khiển này.

MiniMax H3 on vLLM-Omni: From System-Wide Optimization to Real-Time Serving with FastVideo’s FastH3

MiniMax H3 là mô hình sinh video lớn đòi hỏi hệ thống phục vụ mạnh mẽ để đáp ứng yêu cầu thời gian thực. vLLM-Omni thực hiện tối ưu hóa toàn hệ thống – từ quản lý bộ nhớ, chia sẻ kernel tới lập lịch batch động – để mở rộng toàn bộ stack MiniMax H3 trên nhiều GPU mà không làm giảm hiệu suất. Sau khi tích hợp FastVideo’s FastH3, một quy trình bốn bước (encode‑quantize‑sample‑decode) tạo ra video nhanh hơn tốc độ phát lại, giảm latency rõ rệt và tăng throughput đáng kể so với bản gốc. Kết hợp tối ưu hóa hệ thống rộng với một pipeline inference chuyên dụng cho video cho phép đạt được phục vụ thời gian thực mà không cần thay đổi kiến trúc mô hình. Điều này cho thấy việc đầu tư vào lớp phục vụ linh hoạt như vLLM-Omni có thể mở ra khả năng áp dụng các mô hình sinh video lớn trong các ứng dụng tương tác.

Bài viết này giúp lập trình viên hiểu cách tối ưu hóa toàn hệ thống MiniMax H3 và tích hợp FastH3 để tạo video thời gian thực nhanh hơn phát lại.

AI helps design new materials that work in the real world

MIT researchers added a new component to AI models that design new materials, helping ensure the material will be stable and practical for real-world use. The “CrysVCD” approach could reduce the money and time spent on screening out unusable designs.

Bài viết này giúp lập trình viên hiểu cách AI có thể được cải tiến để thiết kế vật liệu thực tế, tiết kiệm thời gian và chi phí trong quá trình phát triển.

438: Are Diffusion Models Better Than LLMs at Web Design?

Chris has Jacob Miller on the show, who is building a tool called DiffUI. The big idea is that it uses a diffusion model to do prompt-to-website design rather than an LLM, because image-based models are more interesting and creative. So stay there for a while, producing really detailed visual mockups and plans, then head…

How a model remembers a face or identity preservation is a sequence problem

Việc tạo ra hai hình ảnh của cùng một người trong các mô hình diffusion thường gặp khó khăn không phải do quá trình diffusion mà do vị trí của ảnh người trong prompt. Khi ảnh được đặt ở các vị trí khác nhau trong chuỗi prompt, mô hình gặp khó kết nối đặc điểm khuôn mặt giữa các bước sinh, dẫn đến việc danh tính bị mất hoặc thay đổi. Điều này cho thấy việc bảo toàn danh tính thực chất là một vấn đề về trình tự: mô hình cần nhớ và tái sử dụng thông tin về khuôn mặt qua các bước của chuỗi điều kiện. Các tác giả đề xuất thay đổi cách định vị ảnh trong prompt hoặc sử dụng các kỹ thuật chuỗi (ví dụ: attention spanning) để cải thiện khả năng ghi nhớ danh tính. Kết quả là, khi xử lý prompt như một chuỗi có thứ tự, khả năng sinh lại cùng một người với độ chính xác cao tăng đáng kể, cung cấp bài học quan trọng về thiết kế điều kiện cho các mô hình sinh ảnh.

Bài viết này giúp lập trình viên hiểu được vấn đề bảo toàn danh tính trong tạo ảnh là bài toán thứ tự, không phải quá trình khuếch tán.

Distributed Layerwise Offload: Scaling Toward 200B+ DiT Models Efficiently in vLLM-Omni

Distributed Layerwise Offload (DLO) trong vLLM-Omni phân mảnh và stream trọng số DiT (Diffusion Transformer) qua nhiều thiết bị, cho phép chạy mô hình Cosmos3 124 GB trên GPU 64 GB HBM, đồng thời hướng tới khả năng mở rộng hiệu quả cho các mô hình DiT 200B+ tham số.

Lập trình viên muốn tối ưu hóa quy trình huấn luyện hoặc serving mô hình AI lớn như DiT phải đọc bài này để hiểu cách phân tán và offload các lớp mô hình hiệu quả, giúp tiết kiệm tài nguyên và mở rộng khả năng xử lý cho các mô hình siêu lớn (200B+) trên các thiết bị có dung lượng bộ nhớ hạn chế.

Environment-Aware TTS Just Sounds Better: The Key to Natural-Sounding AI

Tổng hợp từ nghiên cứu mới, công nghệ TTS (Text-to-Speech) có tính "Environment-Aware" giúp giọng nói AI nghe tự nhiên hơn bằng cách điều chỉnh theo môi trường âm thanh xung quanh.

Một lập trình viên nên đọc bài này để hiểu cách thiết kế hệ thống giọng nói tự động (TTS) thông minh hơn bằng cách tích hợp thông tin môi trường, giúp cải thiện chất lượng âm thanh tự nhiên và mở rộng khả năng ứng dụng trong các ứng dụng AI thực tế.

These startups are chasing the next big thing in LLMs

Các startup đang theo đuổi những đột phá mới trong lĩnh vực mô hình ngôn ngữ lớn (LLM) để cạnh tranh với những "ông lớn" AI.

Những startup này không chỉ là những đối thủ cạnh tranh mà còn là những nguồn cảm hứng mới cho lập trình viên tìm hiểu cách áp dụng LLMs hiệu quả hơn, từ những giải pháp mở rộng khả năng ứng dụng đến những kỹ thuật tối ưu hóa chi phí và hiệu suất, giúp bạn xây dựng các giải pháp AI thực tế hơn trong công việc.