Simple Ensemble of Extreme Learning Machine

Liu, Yu; Xu, Xiujuan; Wang, Chunyu

doi:10.1109/cisp.2009.5303973

Cited by 9 publications

(6 citation statements)

References 10 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…We use random values of a, b and for changing the dataset for each classifier. The impact of transformation function on the classification ability of complex valued neural networks has been stressed on [14], [15] and [16]. Thus creating diverse datasets from the original dataset by randomizing the parameters a, b and are supposed to bring good performance results in bagging.…”

Section: Proposed Work: Cc-elm Based Ensemble Methods (Baggingc1)mentioning

confidence: 99%

“…Each base learner in the ensemble can be generated either by creating diversity in the dataset used for each classifier by using subsets of a larger dataset or the whole dataset by creating diversity in terms of settings in the learning algorithm [14]. Yu Liu [15] proved that variation among components input weights and initial parameter forces those components to have diverse output space which increases the diversity and generalization ability of an ensemble model. Jiuwen Cao et.…”

Section: Introductionmentioning

confidence: 99%

See 1 more Smart Citation

The Impact of Randomization on Circular-Complex Extreme Learning Machine for Real Valued Classification Problems

GovindSingh¹,

Pandey²

2014

IJCA

View full text Add to dashboard Cite

Extreme Learning Machine (ELM) has recently emerged as a fast classifier giving good performance. Circular-Complex extreme learning machine (CC-ELM) is recently proposed complex variant of ELM which has fully complex activation function. It has been shown that CC-ELM outperforms real valued and other complex valued classifiers. In both CCELM & ELM parameters between input and hidden layer are initialized randomly and the weights between hidden and output layer are obtained analytically. Due to this randomization, the performance of both ELM & CC-ELM fluctuates. In this paper, performance fluctuation due to random parameter of CC-ELM and the circular transformation function have been analyzed first, then by using an Ensemble approach namely Bagging, a variants Bagging.C1 is proposed to bring the stability in the performance of CC-ELM. In Bagging.C1 various data samples are generated by using random parameters of circular transformation function. Performance of proposed classifier ensemble is evaluated using a set of benchmark real-valued classification problems from the University of California, Irvine machine learning repository.

show abstract

Section: Proposed Work: Cc-elm Based Ensemble Methods (Baggingc1)mentioning

confidence: 99%

Section: Introductionmentioning

confidence: 99%

The Impact of Randomization on Circular-Complex Extreme Learning Machine for Real Valued Classification Problems

GovindSingh¹,

Pandey²

2014

IJCA

View full text Add to dashboard Cite

show abstract

“…Devido principalmenteà sua rapidez na aprendizagem e facilidade de implementação [5], vários autores têm aplicado a rede ELM padrão (e sofisticadas variações suas) a um número de problemas complexos em classificação de padrões e regressão [1], [4], [13]- [18].…”

Section: Introductionunclassified

Máquina de Aprendizado Extremo Robusta para Classificação com Outliers

Barros¹,

Barreto²

2016

Anais Do 11. Congresso Brasileiro De Inteligência Computacional

View full text Add to dashboard Cite

Resumo-A Máquina de Aprendizado Extremo (ELM -Extreme Learning Machine), recentemente proposta por Huang et al.[6],é uma arquitetura de rede neural com umaúnica camada oculta, que tem sido aplicada com sucesso a tarefas de classificação e regressão não-linear [5]. Um passo fundamental no projeto da ELMé o cálculo da matriz de pesos de saída, um passo usualmente realizado por meio do método mínimos quadrados ordinários (OLS -Ordinary Least-Squares), também conhecido como a técnica da inversa generalizada Moore-Penrose. A partir da teoria de regressão robusta,é bem conhecido que o método OLS produz modelos preditivos altamente sensíveis a outliers nos dados. Nesse artigo, desenvolvemos uma extensão da ELM queé robusta a outliers causados por erros na rotulação dos dados. Para lidar com esse problema, sugerimos o uso de estimadores-M , um framework de estimação de parâmetros largamente utilizado em regressão robusta, para calcular a matriz de pesos de saída, em vez de usar a solução OLS padrão. O modelo propostoé robusto a ruído no rótulo não apenas próximò as fronteiras das classes, mas também distante dessa fronteiras, que podem resultar em erros na rotulação ou erros grosseiros na medição das características de entrada. Mostramos a utilidade da abordagem proposta de classificação através de resultados de simulação usando dados sintéticos e do mundo real. I. INTRODUÇÃONosúltimos anos, tem havido um interesse cada vez maior em uma classe de modelo de rede neural supervisionado, com umaúnica camada oculta, genericamente chamado Máquina de Apredizado Extremo (ELM -Extreme Learning Machine), na qual os pesos entre as camadas de entrada e oculta são escolhidos aleatoriamente, e entre as camadas oculta e de saída, são determinados analiticamente. Devido principalmenteà sua rapidez na aprendizagem e facilidade de implementação [5] Vale ressaltar que todos os trabalhos anteriores (sem exceção!) abordaram a questão da robustez a outliers para problemas de regressão, tais como aproximação de função e predição de séries temporais. No entanto, em muitos problemas de classificação de padrões do mundo real, os rótulos providos para as amostras de dados são ruidosos. Existem tipicamente dois tipos de ruído em rótulos. Ruído próximò as fronteiras das classes, que muitas vezes ocorrem porqueé difícil rotular de forma consistente pontos de dados ambíguos. Erros de rotulação longe das fronteiras das classes, que podem ocorrer por causa de enganos na rotulação ou erros grosseiros na medição das características de entrada. Erros de rotulação longe da fronteira compreendem uma categoria particular de outliers [9]. Na verdade, não fomos capazes de encontrar umúnico artigo que avaliasse a robustez de modelos de redes neurais, especialmente as redes baseadas em ELM, em problemas de classificação na presença de outliers. Portanto, a fim de permitir que classificadores baseados em ELM tratem eficientemente erros de rotulação, nesse artigo propomos o uso de estimadores-M [8], um framework largamente utilizado para estimação de parâmetros em...

show abstract

“…The computational burden has been greatly reduced as the only cost is solving a linear system. At the same time, numerous applications have shown that ELM can provide a comparable or better generalization performance than the popular support vector machine (SVM) [13] [14] and the BP method in most cases [15]- [17].…”

Section: Extreme Learning Machine (Elm) Algorithmmentioning

confidence: 99%

Forecasting Outlier Occurrence in Stock Market Time Series Based on Wavelet Transform and Adaptive ELM Algorithm

Hosseinioun

2016

JMF

View full text Add to dashboard Cite

In financial field, outliers represent volatility of stock market, which plays an important role in management, portfolio selection and derivative pricing. Therefore, forecasting outliers of stock market is of the great importance in theory and application. In this paper, the problem of predicting outliers based on adaptive ensemble models of Extreme Learning Machines (ELMs) is considered. We found out that the proposed model is applicable for outlier forecasting and outperforms the methods based on autoregression (AR) and extreme learning machine (ELM) models.

show abstract

Simple Ensemble of Extreme Learning Machine

Cited by 9 publications

References 10 publications

The Impact of Randomization on Circular-Complex Extreme Learning Machine for Real Valued Classification Problems

The Impact of Randomization on Circular-Complex Extreme Learning Machine for Real Valued Classification Problems

Máquina de Aprendizado Extremo Robusta para Classificação com Outliers

Forecasting Outlier Occurrence in Stock Market Time Series Based on Wavelet Transform and Adaptive ELM Algorithm

Contact Info

Product

Resources

About