System Level Power Reduction for YOLO2 Sub-modules for Object Detection of Future Autonomous Vehicles

Kim, Young‐Bae; Tong, Qiang; Choi, Ken; Lee, Eunchong; Jang, Sung-Joon; Choi, Byeongho

doi:10.1109/isocc.2018.8649950

Cited by 5 publications

(3 citation statements)

References 2 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Each manufacturer provides the CAD tools and development platforms for the implementation process and reconfigurable components and parts on the FPGA (e.g., Vivado from Xilinx, Quartus Prime from Intel, and PYNQ). However, due to the closed platform feature of the Xilinx FPGA products, in the High Level of Synthesis (HLS) design flow as shown in Figure 1, the Vivado HLS system can verify the functionality of the C/C++/System C code and convert the code to the register-transfer level (RTL) code for the FPGA hardware operation and optimization [7], [23], [35], however, once the RTL code is generated by Vivado HLS Tool, the code is no longer readable or modifiable. On the other hand, the platform-based design flow can import the VHDL/Verilog code to set as customized IP blocks so that we can easily modify the hardware design at the RT level or gate level and intuitively configure the data flow for Processing System (PS) and Programmable Logic (PL) through the Vivado IP Integrator.…”

Section: Introductionmentioning

confidence: 99%

A Reconfigurable CNN-Based Accelerator Design for Fast and Energy-Efficient Object Detection System on Mobile FPGA

Kim

Choi

2023

IEEE Access

View full text Add to dashboard Cite

In limited-resource edge computing circumstances such as on mobile devices, IoT devices, and electric vehicles, the energy-efficient optimized convolutional neural network (CNN) accelerator implemented on mobile Field Programmable Gate Array (FPGA) is becoming more attractive due to its high accuracy and scalability. In recent days, mobile FPGAs such as the Xilinx PYNQ-Z1/Z2 and Ultra96, definitely have the advantage of scalability and flexibility for the implementation of deep learning algorithm-based object detection applications. It is also suitable for battery-powered systems, especially for drones and electric vehicles, to achieve energy efficiency in terms of power consumption and size aspect. However, it has the low and limited performance to achieve real-time processing. In this article, optimizing the accelerator design flow in the register-transfer level (RTL) will be introduced to achieve fast programming speed by applying low-power techniques on FPGA accelerator implementation. In general, most accelerator optimization techniques are conducted on the system level on the FPGA. In this article, we propose the reconfigurable accelerator design for a CNN-based object detection system on the register-transfer level on mobile FPGA. Furthermore, we present RTL optimization design techniques that will be applied such as various types of clock gating techniques to eliminate residual signals and to deactivate the unnecessarily active block. Based on the analysis of the CNN-based object detection architecture, we analyze and classify the common computing operation components from the Convolutional Neuron Network, such as multipliers and adders. We implement a multiplier/adder unit to a universal computing unit and modularize it to be suitable for a hierarchical structure of RTL code. The proposed system design was tested with Resnet-20 which has 23 layers and it was trained with the dataset, CIFAR-10 which provides a test set of 10,000 images in several formats, and the weight data we used for this experiment was provided from Tensil. Experimental results show that the proposed design process improves the power efficient consumption, hardware utilization, and throughput by 16%, up to 58%, and 15%, respectively.INDEX TERMS FPGA accelerator, CNN accelerator, RT level design techniques, low power techniques, reconfigurable accelerator, CNN-based object detection, low power consumption, high performance, mobile FPGA.

show abstract

Section: Introductionmentioning

confidence: 99%

A Reconfigurable CNN-Based Accelerator Design for Fast and Energy-Efficient Object Detection System on Mobile FPGA

Kim

Choi

2023

IEEE Access

View full text Add to dashboard Cite

show abstract

“…Além disso, sistemas de computac ¸ão distribuída têm sido explorados para distribuir a carga de trabalho e acelerar a inferência em escala [Imani et al 2020, Guo et al 2017, Coutinho et al 2019]. Otimizac ¸ões de compilador, como a eliminac ¸ão de expressões comuns, também podem ser aplicadas para melhorar o desempenho [Kim et al 2018].…”

Section: Introduc ¸ãOunclassified

Estratégia de Treinamento para Poda Consciente de Modelo de CNN Aplicado a Classificação de Imagens

Goldbarg,

Silva,

da Silva

et al. 2023

Anais Do XX Encontro Nacional De Inteligência Artificial E Computacional (ENIAC 2023)

View full text Add to dashboard Cite

Este artigo apresenta uma nova estratégia de treinamento para compressão de modelos de redes neurais convolucionais (Convolutional Neural Networks - CNN). A estratégia proposta utiliza um esquema de poda consciente dos pesos da CNN, diferenciando-se das abordagens convencionais. Neste trabalho, a poda consciente é aplicada de forma contínua durante todo o processo de treinamento, em todos os mini-batches. A estratégia foi aplicada em um problema de classificação de 10 mil imagens, pertencentes a 10 classes diferentes, utilizando o dataset CIFAR-10. Os resultados obtidos demonstraram que foi possível remover aproximadamente 82% dos parâmetros da CNN, mantendo uma alta acurácia. Esses resultados evidenciam a eficácia da técnica de remoção de pesos por poda consciente para essa aplicação específica.

show abstract

“…As abordagens de aceleração baseadas em algoritmo incluem processamento paralelo (paralelismo de dados e modelo), compressão de modelo (remoção de pesos e quantização de valores de peso e ativação), exploração de esparsidade (esparsidade em nível de valor e em nível de bit) e redução de modelo por meio de aproximação [7], [8], [9], [10], [11], [12], [13], [14], [15]. As abordagens de aceleração baseadas em sistema incluem sistemas de memória de alta largura de banda para minimização do tempo de acesso, aceleradores de hardware (ASIC e FPGA), sistemas de computação distribuída [16], [17], [18] e otimizações de compilador, como eliminação de expressões comuns [19].…”

unclassified

Nova estratégia de treinamento para compressão de modelo de aprendizado profundo aplicada a classificação automática de modulações

Goldbarg¹,

Fernandes²

2022

Anais Do XL Simpósio Brasileiro De Telecomunicações E Processamento De Sinais

View full text Add to dashboard Cite

Resumo-Técnicas de aprendizado profundo, como redes neurais profundas (DNNs), têm sido utilizadas com sucesso em muitos problemas de classificação automática de modulações. No entanto, os algoritmos de aprendizado profundo exigem um grande esforço computacional e isto pode ser um gargalo para detecção de modulações em tempo real. Assim, este artigo propõe uma nova estratégia de treinamento que minimiza simultaneamente as perdas de poda e quantização no treinamento de modelos compactados para reduzir a complexidade computacional de DNNs. A estratégia de treinamento proposto foi aplicada no treinamento de classificação automática de sete modulações expressas como OOK, 4ASK, 16PSK, 64APSK, AM-DSB-WC, AM-DSB-SC e FM. Uma redução substancial de pesos e operações da DNN é demonstrada, mantendo alta precisão de classificação.Palavras-Chave-Aprendizagem profunda, DNN, Detecção automática de modulação, Quantização consciente, Poda consciente.

show abstract

System Level Power Reduction for YOLO2 Sub-modules for Object Detection of Future Autonomous Vehicles

Cited by 5 publications

References 2 publications

A Reconfigurable CNN-Based Accelerator Design for Fast and Energy-Efficient Object Detection System on Mobile FPGA

A Reconfigurable CNN-Based Accelerator Design for Fast and Energy-Efficient Object Detection System on Mobile FPGA

Estratégia de Treinamento para Poda Consciente de Modelo de CNN Aplicado a Classificação de Imagens

Nova estratégia de treinamento para compressão de modelo de aprendizado profundo aplicada a classificação automática de modulações

Contact Info

Product

Resources

About