Lasso thực hiện thu nhỏ để có "góc" trong ràng buộc, theo hai chiều tương ứng với hình thoi. Nếu tổng các hình vuông "chạm" vào một trong các góc này, khi đó hệ số tương ứng với trục được thu hẹp về không. … Do đó, lasso thực hiện việc thu nhỏ và (hiệu quả) lựa chọn tập hợp con.
Tại sao lasso cho hệ số bằng 0?
Lasso thực hiện thu nhỏ để có "góc" trong ràng buộc, theo hai chiều tương ứng với hình thoi. Nếu tổng các hình vuông "chạm" vào một trong các góc này, khi đó hệ số tương ứng với trục được thu hẹp về 0.
Tại sao lasso thu nhỏ về 0 mà không phải là Ridge?
Người ta nói rằng vì hình dạng của ràng buộc trong LASSO là một hình thoi, giải pháp bình phương nhỏ nhất thu được có thể chạm vào góc của hình thoi, do đó nó dẫn đến sự co lại của một số biến. Tuy nhiên, trong hồi quy sườn núi, vì nó là một đường tròn, nó thường sẽ không chạm vào trục
Tại sao hồi quy sườn núi lại thu nhỏ hệ số?
hồi quy Ridge thu hẹp tất cả các hệ số hồi quy về 0; lasso có xu hướng đưa ra một tập hợp các hệ số hồi quy bằng không và dẫn đến một giải pháp thưa thớt. Lưu ý rằng đối với cả hồi quy sườn núi và hồi quy lasso, các hệ số hồi quy có thể chuyển từ giá trị dương sang giá trị âm khi chúng được thu hẹp về 0.
Hệ số lasso có bị chệch hướng không?
… sự co rút lasso làm cho ước tính của các hệ số khác 0 có xu hướng về 0và nói chung chúng không nhất quán [Lưu ý thêm: Điều này có nghĩa là, như kích thước mẫu tăng lên, các ước lượng hệ số không hội tụ].
