Exact Evaluation of Linear Regression Models by the Least Absolute Deviations Method Based on the Descent Through the Nodal Straight Lines

Abstract

При построении линейных моделей во многих случаях приходится сталкиваться со стохастической неоднородностью экспериментальных данных. Это проявляется в нарушении условий теоремы Гаусса-Маркова, в частности наблюдения могут быть засорены грубыми ошибками. В этих условиях оценивание параметров моделей требуется выполнять с помощью устойчивых методов. К их числу относят метод наименьших модулей. Однако известные алгоритмы его реализации являются достаточно эффективными лишь для малых размерностей моделей и ограниченного объема выборок. Цель данного исследованияразработка эффективных вычислительных алгоритмов реализации метода наименьших модулей, не имеющих ограничений на порядок моделей и объем экспериментальных данных. Описаны алгоритмы точного решения задачи оценивания параметров линейных регрессионных моделей методом наименьших модулей. Они основаны на спуске по узловым прямым. Для снижения вычислительных затрат использована особенность узловых прямыхвсе расположенные на каждой такой прямой узловые точки являются пересечением набора гиперплоскостей, из которых различными является только одна гиперплоскость. Данные алгоритмы значительно выигрывают по сравнению с известным переборным алгоритмом и могут эффективно использоваться на практике. Получена оценка вычислительной сложности алгоритма спуска по узловым прямым. Приведена схема алгоритма. Ключевые слова: метод наименьших модулей; линейная регрессионная модель; алгоритм; узловая точка; узловая прямая; гиперплоскость; вычислительная сложность.

Linear regression modeling in monitoring tasks based on the method of least absolute deviations

“…Since all the other rows of matrix (7) remain the same, we also do not accumulate rounding errors. It is known that the algorithm of descent through nodal straight lines using sparse matrices and considering the direction of descent has an average computational complexity [15]. Now, the effect on the computational complexity by the proposed modification shall be highlighted.…”

Parametric Identification of Quasilinear Difference Equation

“…Алгоритм ВМНМ-оценивания для задачи (5) приводит к решению задачи кусочно-линейного программирования ( , ) Az является оптимальным двойственным решением задачи (15)- (17).…”

“…Кусочно-линейная форма целевой функции и простая структура допустимого множества задачи (15)- (17) дает основание полагаться на возможность ее более эффективного решения задачи. Решения таких задач, как (15)- (17), возможны с помощью алгоритма, основанного на методе проекции градиента [8,9]. В рассматриваемом здесь случае, благодаря простоте структуры допустимого множества, вычислительная сложность алгоритма не превышает величины Physics, 2019, vol.…”

“…32-38 Конец описания алгоритма PrGrad Теорема. Алгоритм PrGrad корректно решает проблему (15)- (17). Его вычислительная сложность не превышает величины…”