Aprendizado supervisionado com conjuntos de dados desbalanceados

Abstract

Supervised Learning with Imbalanced Data Sets: An OverviewTraditional learning algorithms induced by complex and highly imbalanced training sets may have difficulty in distinguishing between examples of the groups. The tendency is to create classification models that are biased toward the overrepresented (majority) class, resulting in a low rate of recognition for the minority group. This paper provides a survey of this problem which has attracted the interest of many researchers in recent years. In the scope of two-class classification tasks, concepts related to the nature of the imbalanced class problem and evaluation metrics are presented, including the foundations of the ROC (Receiver Operating Characteristic) analysis; plus a state of the art of the proposed solutions. At the end of the paper a brief discussion on how the subject can be extended to multiclass learning is provided.KEYWORDS: imbalanced data sets, supervised learning, evaluation metrics, ROC analysis, resampling methods, costsensitive approach. RESUMOAlgoritmos de aprendizado tradicionais induzidos por conjuntos de treinamento complexos e altamente desbalanceados têm apresentado dificuldade em diferenciar entre os grupos. A tendência é produzir modelos (ou regras) de classificação que favorecem a classe com maior probabilidade de ocorrên-cia (majoritária), resultando em uma baixa taxa de reconhecimento para o grupo minoritário. O objetivo desse artigo é fornecer uma investigação sobre esse problema, que tem atraído o interesse de muitos pesquisadores nos últimos anos. No escopo de tarefas de classificação binária, são apresentados conceitos associados à natureza do problema de classes desbalanceadas e métricas de avaliação, incluindo os fundamentos da análise ROC (Receiver Operating Characteristic); além do estado da arte das soluções propostas na literatura. Uma breve discussão a respeito de como os tópicos abordados no artigo podem ser estendidos para o aprendizado multiclasse é também fornecida. PALAVRAS-CHAVE:classes desbalanceadas, aprendizado supervisionado, métricas de avaliação, análise ROC, méto-dos de reamostragem, abordagem sensível ao custo.

Statistical Pattern Recognition for Thresholding between Human Skin and Background in Color Images

“…We evaluated the predictive capability of the mechanistic models and the classification algorithms using widespread performance metrics for binary classification problems. According to Castro and Braga (2011), these criteria either focus on the detection of the minority class in unbalanced classification problems or consider the discrimination of both classes as having the same relevance. All metrics used in this assessment yield values between 0 (poor performance) and 1 (high performance).…”

“…It is calculated as the harmonic mean of the recall and precision, usually being β = 1 (12). Β is used to determine the relative importance of recall and precision (Castro and Braga, 2011 …”

Otimização do desempenho de um classificador por modificação no processo de seleção de características

“…Muitos trabalhos na área de reconhecimento de padrões tem a análise de desempenho de seus algoritmos baseada na acurácia dos seus classificadores. Entretanto, sabe-se que a acurácia pode mascarar taxas de erros de classificação quando se trabalha com classes desbalanceadas [21].…”

“…Os gráficos para as curvas ROC são bidimensionais, nos quais o eixo das ordenadas plota-se a sensibilidade e no eixo das abscissas a especificidade [22]. A curva ROC de um classificador ideal possui o formato da função Heaviside (Heaviside step function) [21].…”

A Survey on Class Imbalance Learning on Automatic Visual Inspection

“…En el caso específico de dos clases, este problema se identifica porque existe un número muy pequeño de instancias de una de las clases, en comparación con el número de instancias de la otra. En la literatura existen diferentes estudios que abordan el problema del desbalanceo entre clases, muchos proponen soluciones específicas al problema [13]- [15] y otros pocos estudian las causas del mismo [16]- [19]. Sin embargo, la conclusión general es que ante un conjunto de datos de entrenamiento desbalanceado, los algoritmos de aprendizaje tradicionales generan superficies de decisión que tienden a estar sesgadas por la clase mayoritaria, como se ilustra en la Fig.…”