Local Interpretable Model-Agnostic Explanations for Classification of Lymph Node Metastases

Abstract

An application of explainable artificial intelligence on medical data is presented. There is an increasing demand in machine learning literature for such explainable models in health-related applications. This work aims to generate explanations on how a Convolutional Neural Network (CNN) detects tumor tissue in patches extracted from histology whole slide images. This is achieved using the “locally-interpretable model-agnostic explanations” methodology. Two publicly-available convolutional neural networks trained on the Patch Camelyon Benchmark are analyzed. Three common segmentation algorithms are compared for superpixel generation, and a fourth simpler parameter-free segmentation algorithm is proposed. The main characteristics of the explanations are discussed, as well as the key patterns identified in true positive predictions. The results are compared to medical annotations and literature and suggest that the CNN predictions follow at least some aspects of human expert knowledge.

Survey of XAI in Digital Pathology

“…Palatnik de Sousa et al [83] explored an AI algorithm that classifies lymph node metastases by creating heatmaps of the area in the input patch that contributed most to the prediction. The authors found that deep learning algorithms trained for this task have underlying 'reasoning' behind their predictions similar to human logic.…”

Classificações Explicáveis para Imagens de Células Infectadas por Malária

“…A segmentação FHA já foi aplicada com sucesso, na literatura, para uma tarefa similar de classificação de imagens histopatológicas [Palatnik de Sousa et al 2019]. Esse algoritmo consiste numa oversegmentation da imagem feita através de clustering das regiões com base no método de minimum spanning trees [Felzenszwalb and Huttenlocher 2004].…”

“…Uma varredura mais detalhada de parâmetros e a análise de outros métodos de segmentação certamente poderiam ser proveitosos. No entanto, isso fica fora do escopo deste trabalho, dado o tempo e custo computacional requerido para todos os testes, e dado que a heurística encontrada, com este algoritmo já usado para aplicação similar [Palatnik de Sousa et al 2019], parece ser suficiente para segmentar as regiões de maior interesse das imagens pertencentesà base de dados aqui analisada.…”

“…A dificuldade descrita na seção anterior, relacionadaà geração de segmentaçõesúteis para as explicações, foi discutida em [Palatnik de Sousa et al 2019], que propuseram um método alternativo independente de parâmetros de segmentação. Esse método, denominado SquareGrid, consiste em dividir a imagem em grades quadradas progressivamente menores.…”

“…Um dos primeiros estudos neste sentido [Palatnik de Sousa et al 2019] mostrou queé possível usar a técnica LIME para gerar explicações para as classificações de uma CNN que identifica metástases em patches de histopatologia da base de dados Patch-Camelyon [Veeling et al 2018]. Adicionalmente, ficou demonstrado que estas explicações estavam majoritariamente de acordo com anotações feitas por médicos patologistas [Palatnik de Sousa et al 2019]. Esse estudo também evidenciou que, ao menos no caso das metástases, o algoritmo de segmentação utilizado para gerar as explicações influencia bastante os resultados.…”