在Logistic Regression 中,如果同时加入L1和L2范数,不会产生什么效果()

2190 次浏览
  • A、以做特征选择,并在一定程度上防止过拟合
  • B、能解决维度灾难问题
  • C、能加快计算速度
  • D、可以获得更准确的结果
之前的解析 有些问题,特完善如下。L1范数是向量中各个元素的绝对值之和,又叫稀疏规则算子。L1正则化通过向代价函数中添加权重向量的L1范数(即正则化项),使得优化后的模型中无用特征对应的权值变为0,相当于减少了特征维数,实现了特征的自动选择,所以LR中加入L1范数可以进行特征选择、解决维度灾难问题、加快计算速度;L2范数是向量中各个元素平方和的1/2次方。L2正则化通过向代价函数中添加权重向量的L2范数,使得优化后的模型中所有的权值w尽可能趋于0但不为0,通过L2范数,可以实现对模型空间的限制,从而在一定程度上避免了过拟合;过拟合的时候,拟合函数需要顾忌每一个点,最终形成的拟合函数波动很大, 在某些小区间里,函数值的变化很大,也就是w非常大。所以LR中加入L2范数可以在一定程度上防止过拟合;在LR中同时加入L1和L2范数不会产生结果更准确的效果。
挑战成功
1年前
挑战失败
1年前
挑战失败
1年前
挑战失败
1年前
挑战成功
2年前
挑战成功
2年前
挑战失败
2年前
挑战失败
2年前
挑战失败
2年前
gy
挑战成功
2年前

微信公众号

有课学公众号
  • 微信公众号: geekdaxue