Polynomial Regression in Machine Learning: Teaching Linear Regression to Bend

Hồi quy tuyến tính là mô hình cơ bản thường được học đầu tiên trong machine learning vì sự đơn giản và khả năng giải thích dễ dàng. Khi mối quan hệ giữa đặc trưng và mục tiêu không phải là đường thẳng trực tiếp, ta mở rộng mô hình bằng cách thêm các bậc cao của đặc trưng — tức là hồi quy đa thức — để cho phép đường hồi quy “uốn cong” và bắt được xu hướng phi tuyến. Tuy nhiên, việc tăng bậc đa thức làm tăng độ linh hoạt của mô hình, dẫn đến nguy cơ 과적 hợp khi bậc quá cao hoặc dữ liệu có nhiễu. Điều này thể hiện qua sai số trên tập huấn luyện giảm mạnh nhưng sai số trên tập kiểm tra tăng lại, cho thấy sự trade‑off giữa bias và variance. Bài học chính là cần chọn bậc đa thức thông qua kiểm tra chéo hoặc sử dụng kỹ thuật điều chuẩn (regularization) để cân bằng giữa khả năngFit và khả năng tổng quát.