An Introduction to Token Pruning for VLMs

How to Run an Autoresearch Workflow with RL Agent Skills and NVIDIA NeMo

Các tác nhân AI (AI agent) đang trở thành công cụ hữu ích để vận hành các quy trình ML dài hạn, có thể kiểm tra kho lưu trữ, thiết lập môi trường runtime…

Lập trình viên muốn tự động hóa và tối ưu hóa các dự án ML phức tạp bằng cách kết hợp trí tuệ nhân tạo tự động tìm kiếm, xử lý các tác vụ như cấu hình môi trường, quản lý dữ liệu hoặc tối ưu hóa pipeline mà không cần viết nhiều mã thủ công.

Post-Train NVIDIA Cosmos 3 in One Day Using Agent Skills

Nếu các tác nhân AI lập trình tự động có thể nâng độ chính xác của mô hình lý luận thị giác lên trên 90% với nỗ lực thủ công tối thiểu, thì khả năng thích ứng của chúng sẽ được cải thiện đáng kể.

Lập trình viên nên đọc bài này để khám phá cách AI tự động hóa và tích hợp các kỹ năng agent có thể tự động hóa và cải thiện hiệu quả của các mô hình lý luận hình ảnh mà không cần phụ thuộc vào công việc thủ công phức tạp.

A better way to turn 2D designs into 3D models for rapid prototyping

Hệ thống "GIFT" mới sử dụng AI đa mô hình ngôn ngữ-thị giác để tạo ra các chương trình CAD chính xác từ thiết kế 2D, phục vụ mô phỏng và kiểm thử vật thể 3D. Phương pháp này vượt trội về độ chính xác so với các kỹ thuật khác nhưng chỉ tiêu tốn một phần nhỏ tài nguyên tính toán.

Lập trình viên chuyên về CAD và prototyping sẽ tìm hiểu GIFT để tối ưu hóa quá trình chuyển đổi thiết kế 2D sang mô hình 3D với độ chính xác cao hơn và chi phí tính toán thấp hơn, giúp tiết kiệm thời gian và nguồn lực trong sản xuất nhanh.

Quality Assurance Agent: Reimagining Software Quality with AI-Driven Autonomous Testing

LinkedIn built an autonomous QA Agent that uses Vision-Language Models (VLMs) and a multi-model architecture to test iOS, Android, and Web apps without relying on brittle selectors. The system uses a hybrid 'System 1/System 2' approach: deterministic replay for known UI paths and VLM-based planning when the UI changes. Multiple evaluators act as guardrails to catch hallucinations and false positives. A golden dataset framework enables reproducible, offline evaluation and safe experimentation with new model configurations. The agent has found over 200 bugs, caught critical regressions in revenue flows, and enabled non-engineers to author tests via natural language. Future plans include shifting testing left into the development cycle, automated triage, specialized sub-agents for accessibility and i18n, and exploratory testing.

How Databricks is turning video into searchable, actionable intelligence

Databricks biến video thành dữ liệu có thể tìm kiếm và xử lý bằng cách ứng dụng kỹ thuật dữ liệu quy mô lớn, sử dụng Serverless GPU Compute, Lakeflow pipelines và vision language models (VLM) như SAM3 của Meta. Hệ thống cho phép truy vấn bằng ngôn ngữ tự nhiên để tìm kiếm và tóm tắt nội dung video, ví dụ giảm 26 phút video camera giao thông xuống dưới 2 phút đoạn quan trọng nhờ AI. Pipeline hỗ trợ nhiều mô hình qua MLflow, kích hoạt sự kiện tự động, xử lý đồng thời và có thể mở rộng cho các trường hợp như kiểm tra cơ sở hạ tầng, an ninh công cộng hay hoạt động sân bay, với mã nguồn mở trên GitHub.

Lập trình viên nên đọc bài này để khám phá cách Databricks biến phân tích video thành một giải pháp hiệu quả bằng công nghệ data engineering, từ việc xử lý dữ liệu lớn đến tích hợp mô hình AI tiên tiến, giúp tự động hóa và tối ưu hóa các ứng dụng thực tế từ các thiết bị giám sát đến công tác an ninh.

The HBM Tax: Why Vision Encoders and Language Decoders Fight Over Your GPU

Vision-language models (VLMs) suffer a hidden performance penalty called the HBM tax when both vision encoding and language decoding run on the same GPU. Vision encoding is compute-bound (85%+ GPU utilization, <5% memory bandwidth), while language decoding is memory-bound (80%+ HBM bandwidth, <10% compute). Running both on one GPU permanently underserves each phase. The root cause is image tokens entering the KV cache at prefill and persisting through every decode step, inflating memory traffic per generated token. The fix is modality-level disaggregation: split at the boundary between the vision encoder output and the language model input. This transfers only ~4.5 MB of embeddings (vs ~350 MB KV cache) per request — a 78x–196x reduction depending on model architecture — small enough to work over standard 25 Gbps cloud networking without NVLink. A heterogeneous deployment (compute-dense GPU like L40S for encoding, HBM-rich GPU like H100/H200 for decoding) delivers ~37–40% cost savings with no latency regression. The approach is validated by a March 2026 paper (arXiv:2603.12707) and is practical on DigitalOcean GPU Droplets using two pools connected via private VPC networking.