Proposing a classifier ensemble framework based on classifier selection and decision tree

Parvïn, Hamïd; Mirnabibaboli, Miresmaeil; Alinejad‐Rokny, Hamid

doi:10.1016/j.engappai.2014.08.005

Cited by 147 publications

(50 citation statements)

References 14 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Other researches focused on bibliometric inputs related with usage y application of the document classification in business and companies [9][10][11][12][13], the learning engine with unbalanced data [14], knowledge management [15][16][17][18][19], Algorithms theory and computational methodologies [20][21][22][23][24][25], computational electronic services [26][27][28], digital information management and context management for smart environments [29][30][31][32][33][34], quality based research and e-assessment [35][36][37][38][39][40], e-business and interpretation techniques [16,[41][42][43][44][45] to identify new concepts, theories, methods and techniques that allow its effective application on hybrid and technological emergent environments [18,[46][47][48][49][50] Nonetheless, there are few researches that allow to obtain or to build a state of the art of particular subject in semiautomatic manner within a time frame. The...…”

Section: Review Of Previous Researchesmentioning

confidence: 99%

State of the Art Construction Based on the J48 Classifier: Case Study of Internet of Things

Anzola

Rojas

Bermúdez

2015

Lecture Notes in Business Information Processing

View full text Add to dashboard Cite

Abstract. The bibliometric technics allow us to illustrate aspects of interpretation of data obtained through data bases that are focus in science spreading, which offers an aggregated value to researchers. In this article, we explore the importance of such obtained information from articles' query; in this particular case study the Internet of Things (IoT). The obtained and preprocessed metadata is used to feed the decision tree classification (J48) algorythms, as a result of the training stage, we generated a decision tree/classification where the subjects of research are visualized within a four year time frame. The construction of this classification tree is based in entropy, thus, the order or disorder in which the subjects of research can be interpreted within a level of relevancy in the time frame mentioned. We conceived the visualization and interpretation as the state of the art for the subjects addressed for a particular case, which help researchers to infer tendencies within specific subjects of research.

show abstract

Section: Review Of Previous Researchesmentioning

confidence: 99%

State of the Art Construction Based on the J48 Classifier: Case Study of Internet of Things

Anzola

Rojas

Bermúdez

2015

Lecture Notes in Business Information Processing

View full text Add to dashboard Cite

show abstract

“…Em geral, os métodos ensemble diferem entre si em relação a três aspectos principais: a escolha do classificador de base, a estratégia de combinação das saídas e o tratamento dos dados de entrada. Em relação ao primeiro aspecto, modelos de Árvore de Decisão e Redes Neurais Artificiais são os mais comumente empregados [1], [9], [10]. O segundo aspecto mencionado trata das estratégias usuais para combinar as saídas dos classificadores de base que incluem a média das hipóteses e também votos, ponderados ou não.…”

Section: Trabalhos Relacionadosunclassified

“…Alguns méto-dos focam em produzir diversidade ao aplicar estratégias de seleção de características [14], contudo abordagens baseadas em agrupamento [9] e estratégias evolucionárias [10] são as mais comumente usadas. Entretanto, não existem estudos conclusivos definindo qual medida de diversidade é a mais adequada.…”

Section: Trabalhos Relacionadosunclassified

Um Classificador Kernel Composto por um Comitê de Perceptrons Balanceados

Enes¹,

Villela²,

Neto³

2015

Anais Do 12. Congresso Brasileiro De Inteligência Computacional

View full text Add to dashboard Cite

Resumo-Recentemente, abordagens baseadas em comitês de classificadores e métodos ensemble têm sido bastante exploradas por serem uma alternativa simples e eficaz para a construção de classificadores mais acurados. A melhoria da capacidade de generalização de um ensemble está diretamente relacionada a acurácia de cada classificador individual, bem como a diversidade dos classificadores que o compõem. Sendo assim, contribuições nesse escopo ainda são relevantes. Nesse trabalho, é apresentada uma extensão de um modelo ensemble baseado em Perceptrons balanceados que permite a inclusão de funções kernel e a solução de problemas não-linearmente separáveis. Visando a melhoria da acurácia do classificador individual, o hiperplano solução é balanceado. Além disso, uma medida de dissimilaridade é introduzida com intuito de maximizar a diversidade do ensemble. Essa estratégia permite a aceitação de um novo componente no comitê se, e somente se, uma distância mínima pré-estabelecida é mantida entre o novo candidato e todos os outros componentes. Um estudo experimental foi conduzido em bases de dados não-linearmente separáveis. Os resultados obtidos mostraram que o método proposto foi capaz de superar outros algoritmos avaliados, como o AdaBoost e o SVM, na maior parte dos casos testados. Além disso, o método proposto superou consistentemente o classificador de base empregado.Keywords-Ensemble; Perceptron kernel; Classificação. I. INTRODUÇÃORecentemente, abordagens baseadas em métodos ensemble têm sido amplamente difundidas, tornando-se uma área de pesquisa importante e ativa, por serem uma alternativa eficaz para a criação de classificadores mais acurados. De fato, resultados teóricos e empíricos demonstram que métodos ensemble apresentam desempenho superior em relação aos classificadores individuais que os compõemUm ensemble consiste em um comitê de classificadores cujas hipóteses individuais são induzidas separadamente e as decisões referentes a cada hipótese são combinadas através de um método de consenso para a classificação de novas amostras apresentadas. Entre as estratégias mais comuns para combinar decisões destacam-se a média e o voto, ponderado ou não, das soluções. Para a construção de um modelo ensemble, dois aspectos fundamentais devem ser observados, a acurácia individual do classificador de base e a diversidade dos componentes do comitê [1]. Em relação a acurácia individual, um classificador é dito acurado se a taxa de erro fornecida por ele é inferior àquela fornecida por qualquer outra escolha aleatória. Além disso, a diversidade dos componentes é extremamente importante para possibilitar a correção de amostras classificadas incorretamente por um ou mais classificadores individuais.Nesse sentido, a diversidade do comitê implica diretamente na independência de seus componentes.Considerando as duas premissas anteriormente descritas, este trabalho apresenta uma extensão da formulação do método Ensemble of Balanced Perceptrons [4], para possibilitar a utilização de funções kernel e a solução de problemas não-li...

show abstract

“…Other works [16][17][18][19] presented a comparative study on various ensemble methods, such as bagging, boosting, random subspace, decorate, and rotation forest, for credit scoring. 21 This approach strengthens the classifiers in error-prone subspaces and, consequently, leads to higher performance for the classification. Kim and Upneja 20 proposed AdaBoosted decision tree (DT) for predicting the complex dynamics of restaurant financial distress.…”

Section: Introductionmentioning

confidence: 97%

A novel hybrid credit scoring model based on ensemble feature selection and multilayer ensemble classification

Tripathi

Edla

Cheruku

et al. 2019

Computational Intelligence

View full text Add to dashboard Cite

Credit scoring focuses on the development of empirical models to support the financial decision-making processes of financial institutions and credit industries. It makes use of applicants' historical data and statistical or machine learning techniques to assess the risk associated with an applicant. However, the historical data may consist of redundant and noisy features that affect the performance of credit scoring models. The main focus of this paper is to develop a hybrid model, combining feature selection and a multilayer ensemble classifier framework, to improve the predictive performance of credit scoring. The proposed hybrid credit scoring model is modeled in three phases. The initial phase constitutes preprocessing and assigns ranks and weights to classifiers. In the next phase, the ensemble feature selection approach is applied to the preprocessed dataset. Finally, in the last phase, the dataset with the selected features is used in a multilayer ensemble classifier framework. In addition, a classifier placement algorithm based on the Choquet integral value is designed, as the classifier placement affects the predictive performance of the ensemble framework. The proposed hybrid credit scoring model is validated on real-world credit scoring datasets, namely, Australian, Japanese, German-categorical, and German-numerical datasets.

show abstract

Proposing a classifier ensemble framework based on classifier selection and decision tree

Cited by 147 publications

References 14 publications

State of the Art Construction Based on the J48 Classifier: Case Study of Internet of Things

State of the Art Construction Based on the J48 Classifier: Case Study of Internet of Things

Um Classificador Kernel Composto por um Comitê de Perceptrons Balanceados

A novel hybrid credit scoring model based on ensemble feature selection and multilayer ensemble classification

Contact Info

Product

Resources

About