Robust extreme learning machine

Horata, Punyaphol; Chiewchanwattana, Sirapat; Sunat, Khamron

doi:10.1016/j.neucom.2011.12.045

Cited by 143 publications

(42 citation statements)

References 24 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…ELM is characterized by the fact that the weight matrix and biasing of the input layer and the hidden layer are generated randomly only at one time, without the need of iterative optimization. The only solution to the parameter is the weight matrix of hidden layer and output layer, which is obtained by the generalized inverse matrix method, so that the solving process is more quickly [265,266]. ELM has achieved good application in speech recognition, fault diagnosis, and image classification, especially the ELM has been applied to the fault diagnosis of the power transformer currently due to the characters of fast learning speed and good generalization of it.…”

Section: Ml-based Transformer Fault Diagnosismentioning

confidence: 99%

Dissolved Gas Analysis Principle-Based Intelligent Approaches to Fault Diagnosis and Decision Making for Large Oil-Immersed Power Transformers: A Survey

Cheng

2018

Energies

View full text Add to dashboard Cite

Abstract:Compared with conventional methods of fault diagnosis for power transformers, which have defects such as imperfect encoding and too absolute encoding boundaries, this paper systematically discusses various intelligent approaches applied in fault diagnosis and decision making for large oil-immersed power transformers based on dissolved gas analysis (DGA), including expert system (EPS), artificial neural network (ANN), fuzzy theory, rough sets theory (RST), grey system theory (GST), swarm intelligence (SI) algorithms, data mining technology, machine learning (ML), and other intelligent diagnosis tools, and summarizes existing problems and solutions. From this survey, it is found that a single intelligent approach for fault diagnosis can only reflect operation status of the transformer in one particular aspect, causing various degrees of shortcomings that cannot be resolved effectively. Combined with the current research status in this field, the problems that must be addressed in DGA-based transformer fault diagnosis are identified, and the prospects for future development trends and research directions are outlined. This contribution presents a detailed and systematic survey on various intelligent approaches to faults diagnosing and decisions making of the power transformer, in which their merits and demerits are thoroughly investigated, as well as their improvement schemes and future development trends are proposed. Moreover, this paper concludes that a variety of intelligent algorithms should be combined for mutual complementation to form a hybrid fault diagnosis network, such that avoiding these algorithms falling into a local optimum. Moreover, it is necessary to improve the detection instruments so as to acquire reasonable characteristic gas data samples. The research summary, empirical generalization and analysis of predicament in this paper provide some thoughts and suggestions for the research of complex power grid in the new environment, as well as references and guidance for researchers to choose optimal approach to achieve DGA-based fault diagnosis and decision of the large oil-immersed power transformers in preventive electrical tests.

show abstract

Section: Ml-based Transformer Fault Diagnosismentioning

confidence: 99%

Dissolved Gas Analysis Principle-Based Intelligent Approaches to Fault Diagnosis and Decision Making for Large Oil-Immersed Power Transformers: A Survey

Cheng

2018

Energies

View full text Add to dashboard Cite

show abstract

“…Devido principalmenteà sua rapidez na aprendizagem e facilidade de implementação [5], vários autores têm aplicado a rede ELM padrão (e sofisticadas variações suas) a um número de problemas complexos em classificação de padrões e regressão [1], [4], [13]- [18].…”

Section: Introductionunclassified

“…Os trabalhos acima mencionados não têm abordado questões importantes de desempenho do modelo na presença de outliers nos dados, com o trabalho de Horata et al [4] sendo aúnica exceção. Na verdade, nosúltimos anos, tem-se observado um interesse crescente no desenvolvimento de arquiteturas de redes neurais que são robustas a outliers, incluindo propostas para o projeto de redes RBF [10], [11], redes echo-state [12] e até mesmo redes ELM [4].…”

Section: Introductionunclassified

See 1 more Smart Citation

Máquina de Aprendizado Extremo Robusta para Classificação com Outliers

Barros¹,

Barreto²

2016

Anais Do 11. Congresso Brasileiro De Inteligência Computacional

View full text Add to dashboard Cite

Resumo-A Máquina de Aprendizado Extremo (ELM -Extreme Learning Machine), recentemente proposta por Huang et al.[6],é uma arquitetura de rede neural com umaúnica camada oculta, que tem sido aplicada com sucesso a tarefas de classificação e regressão não-linear [5]. Um passo fundamental no projeto da ELMé o cálculo da matriz de pesos de saída, um passo usualmente realizado por meio do método mínimos quadrados ordinários (OLS -Ordinary Least-Squares), também conhecido como a técnica da inversa generalizada Moore-Penrose. A partir da teoria de regressão robusta,é bem conhecido que o método OLS produz modelos preditivos altamente sensíveis a outliers nos dados. Nesse artigo, desenvolvemos uma extensão da ELM queé robusta a outliers causados por erros na rotulação dos dados. Para lidar com esse problema, sugerimos o uso de estimadores-M , um framework de estimação de parâmetros largamente utilizado em regressão robusta, para calcular a matriz de pesos de saída, em vez de usar a solução OLS padrão. O modelo propostoé robusto a ruído no rótulo não apenas próximò as fronteiras das classes, mas também distante dessa fronteiras, que podem resultar em erros na rotulação ou erros grosseiros na medição das características de entrada. Mostramos a utilidade da abordagem proposta de classificação através de resultados de simulação usando dados sintéticos e do mundo real. I. INTRODUÇÃONosúltimos anos, tem havido um interesse cada vez maior em uma classe de modelo de rede neural supervisionado, com umaúnica camada oculta, genericamente chamado Máquina de Apredizado Extremo (ELM -Extreme Learning Machine), na qual os pesos entre as camadas de entrada e oculta são escolhidos aleatoriamente, e entre as camadas oculta e de saída, são determinados analiticamente. Devido principalmenteà sua rapidez na aprendizagem e facilidade de implementação [5] Vale ressaltar que todos os trabalhos anteriores (sem exceção!) abordaram a questão da robustez a outliers para problemas de regressão, tais como aproximação de função e predição de séries temporais. No entanto, em muitos problemas de classificação de padrões do mundo real, os rótulos providos para as amostras de dados são ruidosos. Existem tipicamente dois tipos de ruído em rótulos. Ruído próximò as fronteiras das classes, que muitas vezes ocorrem porqueé difícil rotular de forma consistente pontos de dados ambíguos. Erros de rotulação longe das fronteiras das classes, que podem ocorrer por causa de enganos na rotulação ou erros grosseiros na medição das características de entrada. Erros de rotulação longe da fronteira compreendem uma categoria particular de outliers [9]. Na verdade, não fomos capazes de encontrar umúnico artigo que avaliasse a robustez de modelos de redes neurais, especialmente as redes baseadas em ELM, em problemas de classificação na presença de outliers. Portanto, a fim de permitir que classificadores baseados em ELM tratem eficientemente erros de rotulação, nesse artigo propomos o uso de estimadores-M [8], um framework largamente utilizado para estimação de parâmetros em...

show abstract

“…Due to its excellent features, ELM has been successfully used in many areas and there has been increasing research interest in it [17][18][19]. Many researchers have came up with some methods to improve ELM theories, such as ELMs for noisy/missing data [20,21] and imbalanced data [22]. In [23], minimum class variance extreme learning machine (MCVELM) was proposed for human action recognition and achieved excellent performance.…”

Section: Introductionmentioning

confidence: 99%

Regularized minimum class variance extreme learning machine for language recognition

Zhang

et al. 2015

J AUDIO SPEECH MUSIC PROC.

View full text Add to dashboard Cite

Support vector machines (SVMs) have played an important role in the state-of-the-art language recognition systems. The recently developed extreme learning machine (ELM) tends to have better scalability and achieve similar or much better generalization performance at much faster learning speed than traditional SVM. Inspired by the excellent feature of ELM, in this paper, we propose a novel method called regularized minimum class variance extreme learning machine (RMCVELM) for language recognition. The RMCVELM aims at minimizing empirical risk, structural risk, and the intra-class variance of the training data in the decision space simultaneously. The proposed method, which is computationally inexpensive compared to SVM, suggests a new classifier for language recognition and is evaluated on the 2009 National Institute of Standards and Technology (NIST) language recognition evaluation (LRE). Experimental results show that the proposed RMCVELM obtains much better performance than SVM. In addition, the RMCVELM can also be applied to the popular i-vector space and get comparable results to the existing scoring methods.

show abstract

Robust extreme learning machine

Cited by 143 publications

References 24 publications

Dissolved Gas Analysis Principle-Based Intelligent Approaches to Fault Diagnosis and Decision Making for Large Oil-Immersed Power Transformers: A Survey

Dissolved Gas Analysis Principle-Based Intelligent Approaches to Fault Diagnosis and Decision Making for Large Oil-Immersed Power Transformers: A Survey

Máquina de Aprendizado Extremo Robusta para Classificação com Outliers

Regularized minimum class variance extreme learning machine for language recognition

Contact Info

Product

Resources

About