Printing Fungal Art With Laser Control

A How-To Guide On Fine-Tuning

Bài viết hướng dẫn fine-tuning LLM qua hai ví dụ: fine-tuning thủ công Mixtral 8x7B theo phong cách viết cá nhân bằng ghi chú và bài luận, và sử dụng PromptLayer để fine-tune GPT-3.5 thành công cụ tạo bài tập thể dục rẻ hơn nhờ dữ liệu do GPT-4 sinh ra. Nội dung đề cập đến thu thập dữ liệu, định dạng, tạo cặp huấn luyện bằng LLM, cũng như những khó khăn lặp đi lặp lại của phương pháp thủ công so với quy trình tối ưu hóa bằng PromptLayer, kết luận rằng fine-tuning thường phức tạp hơn RAG trong hầu hết trường hợp.

Là người phát triển muốn tối ưu hiệu suất của AI cho ứng dụng cụ thể mà không cần rủi ro phức tạp của fine-tuning thủ công, bài này giúp bạn so sánh cách chọn giữa RAG và các kỹ thuật fine-tuning chi tiết.

Amazon SageMaker AI now supports serverless model customization for Gemma 4 models

Amazon SageMaker AI vừa bổ sung hỗ trợ tùy chỉnh serverless cho các model Gemma 4 E4B và 31B của Google DeepMind, cho phép fine-tuning có giám sát (SFT), tối ưu hóa ưu tiên trực tiếp (DPO) và fine-tuning tăng cường (RFT) mà không cần quản lý hạ tầng. Người dùng chỉ trả tiền theo lượt sử dụng và có thể triển khai qua SageMaker Studio hoặc SDK Python.

Lập trình viên AI nên đọc để khám phá cách tối ưu hóa chi phí và tăng hiệu quả khi huấn luyện các mô hình lớn như Gemma 4 trên AWS với các phương pháp fine-tuning tiên tiến mà không phải lo về quản lý hạ tầng.

Scaling Laws, Carefully

Bài viết phân tích sâu về luật scaling (quy luật mở rộng) trong mô hình ngôn ngữ lớn, từ những nghiên cứu ban đầu (Amari 1992, Hestness 2017) đến các công trình quan trọng như Kaplan et al. và Chinchilla. Nó giải thích mối quan hệ power-law giữa kích thước mô hình, dữ liệu và compute, đồng thời điều chỉnh bất đồng giữa hai nghiên cứu này, cũng như đề cập đến các thách thức thực tế khi áp dụng luật scaling như độ chính xác làm tròn, chọn vùng fit và ảnh hưởng của lặp dữ liệu.

Lập trình viên xây dựng mô hình AI cần hiểu về quy luật mở rộng của mô hình để tối ưu hóa hiệu suất, chi phí và hiệu quả của các mô hình lớn như LLM từ những nguyên tắc cơ bản về phân phối dữ liệu và tính toán.

Toward More Controllable AI Video Editing: An Early Research Exploration at Netflix

Netflix giới thiệu hai mô hình chỉnh sửa video AI giai đoạn đầu là Vera và VOID. Vera sử dụng mô hình diffusion phân lớp, chỉ tái tạo vùng chỉnh sửa (kèm alpha matte) thay vì toàn bộ clip, bảo toàn nội dung chưa chỉnh sửa. VOID chuyên xóa vật thể trong video với kỹ thuật inpainting hợp lý vật lý, tái tạo cảnh thực tế khi vật thể bị loại bỏ. Cả hai mô hình đều vượt trội so với các phương pháp hiện có trong nghiên cứu.

Lập trình viên muốn phát triển các giải pháp AI tiên tiến trong xử lý video nên tham khảo để hiểu cách thiết kế mô hình hiệu quả như Vera và VOID, từ kiến trúc đặc biệt đến kỹ thuật điều khiển chi tiết để nâng cao chất lượng và tính khả thi của các ứng dụng AI video trong tương lai.

The Hidden Infrastructure Challenge Behind Every AI-Generated Avatar

Virtual avatar marketplaces generate billions in revenue but face deep infrastructure challenges that 2D computer vision techniques cannot solve. Classifying and recommending millions of 3D assets requires new taxonomies that account for virtual-only attributes like particle effects, animation triggers, and physics-defying geometry. Text-to-3D multimodal matching struggles due to sparse paired datasets and the difficulty of understanding compositional relationships between items. Real-time avatar reconstruction pipelines are computationally expensive, and standard collaborative filtering recommendation systems break down due to shifting user intent, inconsistent creator metadata, and cold-start problems. Semantic understanding of virtual objects is further complicated because they often serve social or platform-specific purposes with no physical-world analog.

The Fundamentals of AI: Making AI practical

Bài viết cung cấp cái nhìn tổng quan về các kỹ thuật kỹ thuật biến các mô hình ngôn ngữ lớn từ sản phẩm nghiên cứu thành hệ thống sẵn sàng sản xuất. Nó đề cập đến các chiến lược fine-tuning như LoRA, QLoRA, giải pháp catastrophic forgetting bằng modular adapters, kiến trúc mixture-of-experts, chain-of-thought prompting, cũng như thách thức triển khai thực tế như chi phí GPU, độ trễ và bảo mật doanh nghiệp.

Là lập trình viên muốn xây dựng các ứng dụng AI hiệu quả từ nghiên cứu đến sản phẩm thực tế, bài này giúp bạn hiểu cách chuyển đổi mô hình AI từ lý thuyết sang thực tế với các kỹ thuật cụ thể như fine-tuning hiệu quả, giải quyết vấn đề latency và bảo mật doanh nghiệp.

Silent speech with ultrasound — Aleph

A team trained a model to decode speech from ultrasound video of the tongue during silent articulation, achieving a 15.6% word error rate on open-vocabulary speech — approaching lip-reading benchmarks despite using only 50 hours of training data collected over one month. The system uses a ResNet-18 2+1d video encoder aligned to Whisper's embedding space, enabling the Whisper decoder to transcribe tongue movements into text. Notably, the model generalizes to new speakers without retraining. Data was collected using vocalized speech (to enable audio quality checks) with the assumption that tongue movements transfer to silent speech. The two main remaining hardware challenges are miniaturizing the ultrasound probe and replacing gel coupling with hydrogel for practical wearable use.