Aplicação das normas L1 e L∞ em redes altimétricas: identificação de outliers e construção do modelo estocástico



Document title: Aplicação das normas L1 e L∞ em redes altimétricas: identificação de outliers e construção do modelo estocástico
Journal: Revista cartográfica
Database: PERIÓDICA
System number: 000450995
ISSN: 0080-2085
Authors: 1
1
Institutions: 1Instituto Militar de Engenharia, Rio de Janeiro. Brasil
Year:
Season: Jul-Dic
Number: 101
Pages: 135-153
Country: México
Language: Portugués
Document type: Artículo
Approach: Analítico, descriptivo
English abstract In this paper, applications of L1 norm minimization (ML1) and of L∞ norm minimization (ML∞) in the estimation of leveling networks were investigated. Leveling networks simulated by the Monte Carlo technique and real data from the Brazilian leveling network were employed in the experiments. In the identification of outliers by ML1, it was verified that the adjustment with unit weights presented advantageous conditions in relation to the usual stochastic model of weights of observations as proportional to the inverse of the length of the leveling lines. The Classificador VL1, which stipulates a cut-off value for the residuals of the adjustment by ML1 from which the respective observation is classified as outlier, was proposed. Its success rate in identifying outliers was higher than that of the iterative data snooping procedure in poor network geometry scenarios. The application investigated for ML∞ is after the treatment of outliers. An alternative stochastic model for network adjustment by Least Squares (LS) that took advantage of the characteristic of minimization of the maximum absolute residual of the network in the adjustment by ML∞ was analyzed. In addition to this minimization, the adjustment of the network by LS with the proposed model generated, in most cases, residuals and precision of these and of the estimated parameters more homogeneous, with lower standard deviation, than those with the usual stochastic model. All results are especially relevant for the case of altimetric networks
Portuguese abstract Nesse artigo, aplicações da minimização da norma L1 (ML1) e da norma L∞ (ML∞) na estimação de redes altimétricas foram investigadas. Redes de nivelamento simuladas pela Técnica de Monte Carlo e dados reais da rede brasileira de nivelamento foram empregados nos experimentos. Na identificação de outliers pela ML1, foi verificado que o ajustamento com pesos unitários apresentou condições vantajosas em relação ao modelo estocástico usual dos pesos proporcionais ao inverso do comprimento das linhas de nivelamento. O Classificador VL1, que estipula um Valor de Corte para os resíduos do ajustamento pela ML1 a partir do qual a respectiva observação passa a ser classificada como outlier, foi proposto. A taxa de sucesso dele na identificação de outliers foi superior à do procedimento data snooping iterativo em cenários de geometria da rede deficiente. Já a aplicação da ML∞ investigada é posterior ao tratamento de outliers. Um modelo estocástico alternativo para ajustamento da rede pelo MMQ que aproveitou a característica de minimização do máximo resíduo absoluto da rede no ajustamento pela ML∞ foi analisado. Além dessa minimização, o ajustamento da rede pelo MMQ com o modelo alternativo gerou, na significativa maioria dos casos, resíduos e precisão desses e dos parâmetros estimados mais homogêneos, com menor desvio padrão, que aqueles com o modelo estocástico usual. Todos os resultados são especialmente relevantes para o caso de redes altimétricas
Disciplines: Geografía
Keyword: Cartografía,
Normas ML,
Modelos estocásticos,
Monte Carlo
Keyword: Redes de nivelación,
Cartography,
ML norms,
Stochastic model,
Monte Carlo,
Leveling networks
Full text: Texto completo (Ver HTML) Texto completo (Ver PDF)