Visualizing Convolutional Neural Networks to Improve Decision Support for Skin Lesion Classification

Abstract

Because of their state-of-the-art performance in computer vision, CNNs are becoming increasingly popular in a variety of fields, including medicine. However, as neural networks are black box function approximators, it is difficult, if not impossible, for a medical expert to reason about their output. This could potentially result in the expert distrusting the network when he or she does not agree with its output. In such a case, explaining why the CNN makes a certain decision becomes valuable information. In this paper, we try to open the black box of the CNN by inspecting and visualizing the learned feature maps, in the field of dermatology. We show that, to some extent, CNNs focus on features similar to those used by dermatologists to make a diagnosis. However, more research is required for fully explaining their output.

A Survey on Explainable Artificial Intelligence (XAI): Toward Medical XAI

“…Saliency map has also been computed using primitive gradient of loss, providing interpretability to the NN used for electroencephalogram (EEG) sleep stage scoring [154]. There has even been a direct comparison between the feature maps within CNN and skin lesion images [155], overlaying the scaled feature maps on top of the images as a means to interpretability. Some images correspond to relevant features in the lesion, while others appear to explicitly capture artifacts that might lead to prediction bias.…”

Алгоритми Багаторівневого Навчання Для Вирішення Задачі Класифікації Захворювань Шкіри.

“…ЗНМ має значну концептуальну основу, що включає поділ ваг, локальне сприйняття області і тимчасову область або простір понижувальної дискретизації, які гарантують відносні незмінні характеристики зміщення, спотворення і масштабування. Для класифікації уражень шкіри існує незначна кількість досліджень щодо застосування ЗНМ для розпізнавання, але, слід зазначити про проекти ЗНМ, такі як Inception (GoogleNet), AlexNet, QuocNet, BNInception-V2 і Inception-V3 [2,4,5,10,[12][13][14][15][16][17][18][19][20][21][22][23]. Поряд з тим, необхідно виконати аналіз існуючих досліджень з розглядаємої проблеми класифікації уражень шкіри.…”

“…Аналіз досліджень. Серед праць, присвячених багаторівневому навчанню для вирішення задачі класифікації захворювань шкіри, слід відмітити [12][13][14][15][16][17][18][19][20][21][22][23], які стосуються мети наукової праці, її завдань, предмета та об'єкта. Перш за все, це роботи, в яких розглядаються задачі класифікації захворювань шкіри на основі ЗНМ з використанням ГН.…”

“…Виклад основного матеріалу й обґрунтування отриманих результатів дослідження. Для розробки технічного рішення щодо побудови ЗНМ з ГН для класифікації захворювань шкіри виконаємо повний аналіз наукових праць [12][13][14][15][16][17][18][19][20][21][22][23]. Так, у роботі [12] наведено порівняльні результати діагностичних показників ЗНМ і міжнародної групи з 58 дерматологів, включаючи 30 експертів при виявленні меланоми.…”

“…У [13] виконали подальші спроби, відштовхуючись від праці [13], де була зроблена спроба ототожнення роботи ЗНМ і дерматолога. Оскільки НМ є наближеннями до функції чорного ящика, а медичному експерту важко міркувати про їх результати, то він не довірятиме мережі в разі незгоди з її висновками.…”