最小二乘法，岭回归，LASSO

• sayato 发布于
• 1321 收藏

1. 最小二乘法：基于均方误差最小化来进行模型求解的方法求解过程：参考：https://mp.csdn.net/postedit/798893352. 岭回归：在最小二乘法的基础上引入L2范数正则化处处可导，因此岭回归有闭式解。3. LASSO：在最小二乘法的基础上引入L1范数正则化在0点位置不可导，因此LASSO没有闭式解。常用近端梯度下降（PGD）算法（周志华《机器学习》）和快速迭代收缩阈值（...