Простая модель с серьезной слабостью: прямая линия может выглядеть убедительно, пока плохие измерения не отклонят ее от курса. Линейная регрессия остается ценной для физической интерпретации, устройств с ограниченными ресурсами и вычислительной задержки, но Обыкновенные наименьшие квадраты считают каждое наблюдение заслуживающим доверия. Ошибочный датчик, ошибка связи или предвзятое измерение могут привести к наблюдениям, которые сильно отклоняются от предполагаемой зависимости. Поскольку OLS возводит каждый остаток в квадрат, несколько таких наблюдений могут иметь непропорционально большое влияние. Устойчивые оценщики пытаются предотвратить, чтобы эти наблюдения доминировали в подгонке. Фигуры 1 и 2 показывают, насколько быстро может измениться картина. При чистых наблюдениях OLS следует номинальной зависимости тесно. После того, как 30% ответов были заменены выбросами, тот же оценщик резко отклоняется. Однако репрезентативная устойчивая подгонка остается гораздо ближе к зависимости, поддерживаемой номинальными наблюдениями. Эта статья сравнивает OLS как неустойчивый базовый метод с пятью устойчивыми оценщиками: регрессией Хьюбера, RANSAC, Graduated Non-Convexity с потерей Geman-McClure, GNC с потерей Truncated Least-Squares и Adaptive Selective Outlier Rejecting. Оценщики оцениваются по ошибке предсказания и времени выполнения, чтобы захватить как статистическую точность, так и вычислительную эффективность. Автор разработал ASOR в исходном исследовании, цитируемом здесь, обеспечивая прозрачное сравнение с задокументированными настройками в различных реализациях Монте-Карло.

Ключевые сущности: Компании: Towards Data Science | Люди: Лежандр, Хьюбер, Фишлер и Боллес, Геман, Мак-Клур, Ян, Чугтай