Ridge、Lasso、Elastic Net 三者之间的关系
由bqd3cxix创建，最终由bqd3cxix 被浏览 2 用户
###三者的关系
Ridge 回归：使用 L2 正则化（平方和惩罚），会把所有特征的系数缩小，但不会把任何系数压到 0，因此不会做特征选择，适合处理多重共线性。 Lasso 回归：使用 L1 正则化（绝对值和惩罚），会把不重要特征的系数直接压到 0，实现自动特征选择，但在高度相关的特征中表现不稳定。 Elastic Net（弹性网络）：是 Lasso + Ridge 的混合体，同时使用 L1 和 L2 正则化，既保留了 Lasso 的特征选择能力，又继承了 Ridge 对多重共线性的稳定性。 从数学上看，它们的关系非常清晰： 当弹性网络的 l1_ratio = 1 时，它就退化为 Lasso。 当弹性网络的 l1_ratio = 0 时，它就退化为 Ridge。
- 核心对比表 特性 Ridge Lasso Elastic Net 正则化项 L2 (平方和) L1 (绝对值和) L1 + L2 (混合) 特征选择 ❌ 无（系数不为 0） ✅ 强（系数可归 0） ✅ 有（可调稀疏度） 多重共线性 ✅ 处理得好 ❌ 表现差（随机选特征） ✅ 处理得好（群选特征） 稳定性 ✅ 高 ❌ 低 ✅ 高 适用场景 特征多、有共线性 需要稀疏解、特征筛选 高维数据、特征高度相关
- 一句话总结 Ridge：适合 “特征多但都有点用” 的场景，帮你把系数平滑一下。 Lasso：适合 “很多特征没用” 的场景，帮你自动筛选掉不重要的。 Elastic Net：是前两者的 “折中方案”，在高维、特征相关的量化金融等场景中表现更稳健。
\