Elimination of some unknown parameters and its effect on outlier detection

Abstract

Outliers in observation set badly affect all the estimated unknown parameters and residuals, that is because outlier detection has a great importance for reliable estimation results. Tests for outliers (e.g. Baarda's and Pope's tests) are frequently used to detect outliers in geodetic applications. In order to reduce the computational time, sometimes elimination of some unknown parameters, which are not of interest, is performed. In this case, although the estimated unknown parameters and residuals do not change, the cofactor matrix of the residuals and the redundancies of the observations change. In this study, the effects of the elimination of the unknown parameters on tests for outliers have been investigated. We have proved that the redundancies in initial functional model (IFM) are smaller than the ones in reduced functional model (RFM) where elimination is performed. To show this situation, a horizontal control network was simulated and then many experiences were performed. According to simulation results, tests for outlier in IFM are more reliable than the ones in RFM. Keywords: Elimination; Tests for Outliers; Reliability; Adjustment. RESUMOErros grosseiros nas observações afetam de forma negativa todos os parâmetros estimados e os resíduos, razão pela qual a detecção de erros grosseiros tem grande importância na estimativa confiável dos resultados. Diversos testes (por exemplo Elimination of some unknown parameters and its effect on outlier detections. Bol. Ciênc. Geod., sec. Artigos, Curitiba, v. 18, n o 3, p.347-362, jul-set, 2012. 3 4 8 testes de Baarda e Pope) são utilizados frequentemente na detecção de erros grosseiros em aplicações geodésicas. Muitas vezes, visando reduzir o tempo computacional, é realizada a eliminação de alguns parâmetros que não são de interesse. Nesse caso, embora a estimativa dos parâmetros e resíduos não sofra modificações, a matriz cofatora dos resíduos e a redundância das observações mudam. Nesse estudo, são realizados testes para erros grosseiros e investigados os efeitos da eliminação dos parâmetros desconhecidos. Foi provado que quando a eliminação é realizada, as redundâncias no modelo funcional inicial (IFM -Initial Functional Model) são menores que no modelo funcional reduzido (RFMReduced Functional Model). Para ilustrar essa situação, uma rede de controle horizontal foi simulada e muitos experimentos foram realizados. De acordo com os resultados da simulação, testes para erros grosseiros com IFM são mais confiáveis que com RFM.

Outlier=gross Error? Do Only Gross Errors Cause Outliers in Geodetic Networks? Addressing These and Other Questions

“…Nevertheless, there is a continuous research on outliers in geodetic networks. Among others, in addition to those papers already mentioned in this article, we can also cite: (Klein, Matsuoka and Souza 2011), (Baselga 2011), (Hekimoglu, Erdogan and Tunalioglu 2012), (Klein et al 2012), (Hekimoglu and Erdogan 2013), (Klein, Matsuoka and Monico 2013), (Erdogan 2014), (Guo 2015), (Klein, Matsuoka and Guzatto 2015), (Zhao and Gui 2017), (Rofatto, Matsuoka and Klein 2017), (Teunissen 2018) and (Rofatto, Matsuoka and Klein 2018).…”