HeadlinesBriefing favicon HeadlinesBriefing.com

鲁棒线性回归对抗异常值

Towards Data Science •
×

一个简单的模型存在一个严重的问题:一条直线看起来可能很令人信服,但一旦出现不良测量值,它就会被拉离原来的方向。线性回归在物理解释、资源受限设备和计算延迟方面仍然很有价值,但普通最小二乘法认为每个观测值都是可信的。一个故障传感器、通信错误或偏差测量值可能会产生远离预期关系的观测值。由于 OLS 对每个残差进行平方处理,少数这样的观测值可能会产生不成比例的影响。鲁棒估计器试图防止这些观测值主导拟合。图 1 和图 2 展示了图像变化有多快。当观测值干净时,OLS 紧密地跟随名义关系。当 30% 的响应被替换为异常值时,相同的估计器会被猛烈地拉开。然而,一个有代表性的鲁棒拟合仍然更接近于由名义观测值支持的关系。本文比较了 OLS(非鲁棒基准)与五种鲁棒估计器:Huber 回归、RANSAC、带 Geman–McClure 损失的渐进非凸性、带截断最小二乘损失的 GNC 和自适应选择性异常值拒绝。评估估计器时使用预测误差和运行时间,以捕捉统计准确性和计算效率。作者在原始研究中开发了 ASOR,确保了与 Monte Carlo 实现中记录设置的透明比较。

关键实体:公司:Towards Data Science | 人物:Legendre, Huber, Fischler and Bolles, Geman, Mc Clure, Yang, Chughtai

常见问题:鲁棒估计器如何处理线性回归中的异常值?

鲁棒估计器通过对偏离模型的残差进行加权或拒绝来防止异常观测值主导拟合,即使在 30% 的污染情况下也能保持准确性。