#dynamic-programming

Time Complexities Reference Charts

Time complexities is an important aspect before starting out with competitive programming. If you are not clear with the concepts of finding out complexities of algorithms, it is my blunt opinion…

Subsets with MEX in Range

Learn how to count array subsets whose MEX falls within a given range using frequencies, powers of two, and modular arithmetic in Java.

The new cost-based join optimizer with reordering support for non-inner joins

ClickHouse’s new exhaustive cost-based join optimizer safely reorders inner, outer, semi, and anti joins to find the cheapest valid plan.

Maximum Weight Transformation of String

Bài viết giải quyết bài toán tối ưu hóa trọng số chuoi nhị phân bằng dynamic programming để tạo các cặp xen kẽ không chồng chéo. Phương pháp xử lý từng ký tự với chi phí toggle giữa 0 và 1, sử dụng mảng dp để lưu kết quả tối ưu tại mỗi vị trí. Kết quả thu được công thức dp[i] = max(dp[i-1] + cost[i], dp[i-2] + weight(i, i-1)) để so sánh việc giữ nguyên hoặc ghép cặp. Giải pháp này đạt độ phức tạp thời gian O(n) và không gian O(n), hiệu quả cho chuỗi lớn.

Bài hướng dẫn này giúp lập trình viên tối ưu hóa chuỗi nhị phân bằng cách áp dụng phương pháp quy hoạch động hiệu quả.

0/1 Knapsack Problem in PyTorch

PyTorch's default activation memory budget solver (dp_knapsack) builds a full 2D dynamic programming table to decide which operations to save versus recompute during memory planning, which becomes a RAM bottleneck for large graphs. A new solver, dp_knapsack_sliding_hirschberg, combines a sliding window trick with the Hirschberg divide-and-conquer technique to shrink the table to just two rows, cutting peak memory usage by roughly 20x (handling 2000 items versus 100 on a 64GB machine) and yielding about a 37% runtime speedup. The post explains how the original DP knapsack algorithm and backtracking work, then walks through how the new approach eliminates backtracking by building saved/recomputable item lists during recursion. It also notes that ilp_knapsack (via SciPy) is much faster if dependency on SciPy is acceptable, and greedy_knapsack is fastest but inexact. Usage requires explicitly setting torch._functorch.config.activation_memory_budget_solver.