Hyperparameter tuning of convolutional neural networks for building construction image classification

Ottoni, André Luiz Carvalho; Novo, Marcela Silva; Costa, Dayana Bastos

doi:10.1007/s00371-021-02350-9

Cited by 7 publications

(4 citation statements)

References 68 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Após o treinamento de cada modelo, foi realizada a comparac ¸ão entre eles. Para isso, foi proposta uma análise rankings dos modelos, inspirada em outros estudos da literatura que realizam ranqueamento de hiperparâmetros, como descrito em [38], [39].…”

Section: Análise Dos Modelos De Aprendizado Profundounclassified

Análise de Modelos de Aprendizado Profundo para Sistemas Embarcados aplicados à Classificação de Rachaduras em Construções

Arcanjo,

Carvalho Ottoni

2023

Anais Do XVI Congresso Brasileiro De Inteligência Computacional

View full text Add to dashboard Cite

A Inteligência Artificial (IA) tem sido aplicada em diversas áreas para otimizar tarefas, agilizar atividades e reduzir custos. Na construção civil, a IA tem sido utilizada atrav es´ do aprendizado de máquina e da visão computacional para automatizar a inspeção visual em obras e construções. Um dos principais usos e na detecção de patologias, como rachaduras, trincas e fissuras em estruturas como edifícios, pontes, tubulaçoes, e afins. Outra área que vem aplicando técnicas de aprendizado de máquina e a de sistemas embarcados. E possível encontrar cada vez mais dispositivos com menor poder de processamento e menor capacidade de memoria utilizando alguma técnica de aprendizado de maquina. Pode-se citar os smartwatches, assistentes virtuais, entre outros. O presente trabalho tem como objetivo selecionar modelos de aprendizado de máquina para a detecção de rachaduras em estruturas de concreto utilizando a plataforma Edge Impulse. Para isso, foram avaliadas diferentes versões da arquitetura de redes neurais MobileNet, levando em consideração critérios como acurácia, consumo de recursos (memoria RAM e capacidade de armazenamento em Flash) e tempo de inferência. Ao término do processo, foram selecionados seis modelos candidatos que demonstraram potencial para serem implementados no dispositivo embarcado. Esses modelos apresentaram uma excelente acurácia, com valores variando de 97% a 99,6%. Além disso, o consumo de memória RAM necessario não ultrapassou 280 Kb, enquanto a utilização de memoria FLASH ficou abaixo de 225 Kb. Em relação ao tempo de inferência, o modelo mais r apido registrou um tempo de 328 ms, enquanto o modelo mais lento atingiu 1240 ms. Todas as configuraçoes da plataforma e a construção do modelo foram realizadas considerando o dispositivo embarcados de referência ESP32-CAM. Espera-se que este trabalho contribua para a seleção de modelos eficientes para a detecção de rachaduras em concretos, facilitando a implementação em sistemas embarcados.

show abstract

Section: Análise Dos Modelos De Aprendizado Profundounclassified

Análise de Modelos de Aprendizado Profundo para Sistemas Embarcados aplicados à Classificação de Rachaduras em Construções

Arcanjo,

Carvalho Ottoni

2023

Anais Do XVI Congresso Brasileiro De Inteligência Computacional

View full text Add to dashboard Cite

show abstract

“…The CNN architecture used in this work was proposed by [25] and used in other works in the literature [26,39]. This architecture has 12 layers, four convolutional, four Max Pooling, one Flatten, one Dropout, a dense layer with 512 neurons and the output layer with the classifier neuron.…”

Section: Convolutional Neural Network Architecturementioning

confidence: 99%

“…[28][29][30]. In this aspect, ANNs have several applications, such as: facial recognition [31,32], stock exchange [33][34][35], autonomous vehicles [36][37][38] and building construction [26,39].…”

Section: Introductionmentioning

confidence: 99%

See 1 more Smart Citation

Tuning of Data Augmentation Hyperparameters to Covid-19 Detection in X-Ray Images with Deep Learning

Rici¹,

Santos²,

Ottoni³

2022

Learn. Nonlin. Mod.

View full text Add to dashboard Cite

The Covid-19 pandemic has been declared in 2020 by the World Health Organization. One of the most relevant aspects of this respiratory disease is the fact that the infection caused by the new coronavirus has a high rate of spread. Thus, rapid and accurate diagnosis can contribute to reducing the transmission rate. In this aspect, in the literature, Deep Learning techniques are studied for application in the detection of this disease through X-ray images of the patient’s lung. However, one of the challenges in this area is the training of Convolutional Neural Network models with a database with few samples. One possibility is the generation of artificial images through Data Augmentation techniques. Thus, the objective of this work is to propose a careful methodology for the tuning of Data Augmentation hyperparameters for the classification of lung X-ray images in Covid-19 detection with Deep Learning. The proposed method consists of analyzing the accuracy of 36 Data Augmentation transformations applied to generate new images for training with balanced and unbalanced database. After the selection of hyperparameters, the classifier system achieved accuracies up to 100% on the testing stage, both for combinations and individual transformations with balanced database. Therefore, it is recommended to use a balanced database with the use of zoom, rotation, brightness in combination or individually, for Covid-19 versus Normal and Covid-19 versus Pneumonia classification.

show abstract

Tuning of data augmentation hyperparameters in deep learning to building construction image classification with small datasets

Ottoni

Amorim

Novo

et al. 2022

Int. J. Mach. Learn. & Cyber.

Self Cite

View full text Add to dashboard Cite

Deep Learning methods have important applications in the building construction image classification field. One challenge of this application is Convolutional Neural Networks adoption in a small datasets. This paper proposes a rigorous methodology for tuning of Data Augmentation hyperparameters in Deep Learning to building construction image classification, especially to vegetation recognition in facades and roofs structure analysis. In order to do that, Logistic Regression models were used to analyze the performance of Convolutional Neural Networks trained from 128 combinations of transformations in the images. Experiments were carried out with three architectures of Deep Learning from the literature using the Keras library. The results show that the recommended configuration (Height Shift Range = 0.2; Width Shift Range = 0.2; Zoom Range =0.2) reached an accuracy of in the test step of first case study. In addition, the hyperparameters recommended by proposed method also achieved the best test results for second case study: .

show abstract

Hyperparameter tuning of convolutional neural networks for building construction image classification

Cited by 7 publications

References 68 publications

Análise de Modelos de Aprendizado Profundo para Sistemas Embarcados aplicados à Classificação de Rachaduras em Construções

Análise de Modelos de Aprendizado Profundo para Sistemas Embarcados aplicados à Classificação de Rachaduras em Construções

Tuning of Data Augmentation Hyperparameters to Covid-19 Detection in X-Ray Images with Deep Learning

Tuning of data augmentation hyperparameters in deep learning to building construction image classification with small datasets

Contact Info

Product

Resources

About