Neural network models for system identification, control and fault detection

Abstract

Η απαίτηση για την ανάπτυξη αξιόπιστων και αποτελεσματικών συστημάτων αναγνώρισης, ελέγχου και ανίχνευσης σφαλμάτων αυξάνεται τα τελευταία χρόνια, λόγω της αυξανόμενης πολυπλοκότητας και του κόστους πολλών βιομηχανικών διεργασιών. Η προτεινόμενη ερευνητική εργασία προσπαθεί να ικανοποιήσει αυτήν την απαίτηση και έτσι είναι αφιερωμένη στη δημιουργία καινοτόμων συστημάτων αναγνώρισης, ελέγχου και ανίχνευσης βλαβών χρησιμοποιώντας σύγχρονες τεχνικές που βασίζονται σε νευρωνικά δίκτυα και αλγορίθμους βαθιάς μάθησης. Μια συνηθισμένη πρακτική σε πολλές βιομηχανικές εφαρμογές είναι η μοντελοποίηση δυναμικών άγνωστων συστημάτων και η δημιουργία συστημάτων διάγνωσης σφαλμάτων, με βάση δεδομένα που ανακτώνται από αισθητήρες που συνδέονται με τμήματα του συστήματος. Τα σύγχρονα νευρωνικά δίκτυα και οι τεχνικές βαθιάς μάθησης ταιριάζουν με αυτή την πρακτική ως αυτοματοποιημένοι εξαγωγείς χαρακτηριστικών από ανεπεξέργαστα δεδομένα, σε αντίθεση με τις συμβατικές τεχνικές μηχανικής μάθησης, στις οποίες η εξαγωγή χαρακτηριστικών στηρίζεται σε προηγούμενη γνώση και εμπειρία εμπειρογνωμόνων. Ως εκ τούτου, η διατριβή εκμεταλλεύεται την αποτελεσματικότητα των συστημάτων βαθιάς μάθησης στην αναπαράσταση σύνθετων μη γραμμικών δυναμικών απεικονίσεων και παρουσιάζει καινοτόμες τεχνικές για τον εντοπισμό, τον έλεγχο και την ανίχνευση βλαβών, αποσκοπώντας στην ενίσχυση της απόδοσης και στην αντιμετώπιση των επιβεβαιωμένων μειονεκτημάτων και αποτυχιών. Το πρώτο μέρος της διατριβής, που αποτελείται από τέσσερα κεφάλαια, παρέχει μια βιβλιογραφική μελέτη σχετικά με τα νευρωνικά δίκτυα, τις τεχνικές βαθιάς μάθησης, τις τεχνικές αναγνώρισης και ελέγχου συστημάτων και τις μεθόδους ανίχνευσης βλαβών. Η ανασκόπηση παρέχει στον αναγνώστη τις απαραίτητες γνώσεις σχετικά με το απαιτούμενο υπόβαθρο, παρουσιάζοντας τόσο τις καθιερωμένες τεχνικές όσο και πρόσφατους αλγόριθμους και προσεγγίσεις. Έτσι, το πρώτο μέρος της διατριβής αποτελούμενο από τα 4 πρώτα κεφάλαια βοηθά ως βάση, εφοδιάζοντας τον αναγνώστη με την απαιτούμενη γνώση για να κατανοήσει το κίνητρο της διατριβής. Στη συνέχεια, στο δεύτερο μέρος της εργασίας παρουσιάζονται καινοτόμες μέθοδοι μοντελοποίησης και ελέγχου συστημάτων. Έτσι, στο κεφάλαιο 5 προτείνεται μια καινοτόμος αρχιτεκτονική συγχώνευσης δύο νευρωνικών ροών και η χρήση ενός νέου αλγορίθμου με βάση τη θεωρία Lyapunov, για την on-line προσέγγιση άγνωστων μη γραμμικών δυναμικών συστημάτων. Το προτεινόμενο νευρωνικό δίκτυο, σε συνδυασμό με τον προτεινόμενο κανόνα ανανέωσης των νευρωνικών βαρών, επιτυγχάνει γρήγορη σύγκλιση της διαδικασίας αναγνώρισης, εξασφαλίζοντας παράλληλα τη σταθερότητα του συστήματος σύμφωνα με τη θεωρία Lyapunov. Η διαδικασία συγχώνευσης του νευρωνικού δικτύου συνδυάζει τα χαρακτηριστικά που εξάγονται από δύο ανεξάρτητες νευρωνικές ροές, ενός νευρωνικού δικτύου προσωτροφοδότησης και ενός διαγώνιου νευρωνικού δικτύου ανάδρασης, ικανοποιώντας διαφορετικά κριτήρια σχεδιασμού της διαδικασίας μοντελοποίησης. Τα αποτελέσματα προσομοίωσης συμπεριλαμβάνονται και δείχνουν την ανωτερότητα του προτεινόμενου συστήματος έναντι πρόσφατων ανταγωνιστικών μεθόδων. Επίσης, επιπρόσθετα πειράματα καταδεικνύουν την αποτελεσματικότητα σε περιπτώσεις παραλλαγής των παραμέτρων του άγνωστου συστήματος αλλά και κατά την εμφάνιση θορύβου. Στη συνέχεια του δεύτερου μέρους της εργασίας, στο κεφάλαιο 6 παρουσιάζεται ένας Προσαρμοστικός Προβλεπτικός Ελεγκτής ενός βήματος (Adaptive One-Step Model Predictive Controller). Βασική επιδίωξη της προτεινόμενης προσέγγισης ελέγχου είναι η αποφυγή των μειονεκτημάτων των προβλεπτικών ελεγκτών όταν η εκπαίδευση τους γίνεται μόνο εκτός σύνδεσης (off-line). Πράγματι, η εκτός σύνδεση εκπαίδευση του νευρωνικού προγνωστικού ελεγκτή επηρεάζει την έξοδο του συστήματος, προκαλώντας σφάλμα σταθερής κατάστασης σε καταστάσεις παραλλαγής των παραμέτρων του συστήματος ή παρουσίας θορύβου. Για να εξασφαλιστεί η σύγκλιση της προσαρμοστικής διαδικασίας, χρησιμοποιούμε τη θεωρία της ευστάθειας κατά Lyapunov, η οποία καθοδηγεί την ενημέρωση των βαρών του νευρωνικού δικτύου. Παρομοίως, ένας αλγόριθμος με βάση τη θεωρία Lyapunov καθοδηγεί την ενημέρωση του σήματος ελέγχου του προσαρμοστικού προβλεπτικού ελεγκτή ενός βήματος. Τα αποτελέσματα προσομοίωσης για δύο περιπτώσεις καταδεικνύουν την αποτελεσματικότητα του παρουσιαζόμενου συστήματος ελέγχου. Ένα μειονέκτημα πολλών ελεγκτών ανάδρασης κλειστού βρόχου είναι η μεταφορά θορύβου και διαταραχών στην έξοδο του συστήματος. Tο τελευταίο κεφάλαιο του δεύτερου μέρους (κεφ. 7) αφιερώνεται στην αντιμετώπιση του παραπάνω προβλήματος με την πρόταση ενός ελεγκτή τεχνητού νευρωνικού δικτύου, για περιπτώσεις όπου η ευρωστία στην παρουσία εξωτερικού θορύβου σε μέρη του συστήματος είναι ένα κρίσιμο ζήτημα και κατά τις οποίες απαιτείται η έξοδος του τελευταίου να ακολουθεί με ακρίβεια μια συγκεκριμένη τροχιά αναφοράς. Ο νευρωνικός ελεγκτής αποτελείται από δύο μέρη: έναν αυτόματο κωδικοποιητή (Auto-encoder) ο οποίος αποσκοπεί στην απεικόνιση των δεδομένων εισόδου σε μια εύρωστη από το θόρυβο αναπαράσταση και ένα νευρωνικό δίκτυο ανάδρασης το οποίο εκπαιδεύεται αρχικά εκτός λειτουργίας (off-line) με δεδομένα που λαμβάνονται από συμβατικούς ελεγκτές και στη συνέχεια, κατά την διαδικασία ελέγχου, με χρήση της αρχιτεκτονικής ελέγχου έμμεσης ανάδρασης. Η ευστάθεια του ελεγκτή διασφαλίζεται με τη χρήση κριτηρίων ευστάθειας κατά Lyapunov, τα οποία καθοδηγούν τη σύγκλιση των νευρωνικών βαρών κατά την ανανέωση τους. Η απόδοση του προτεινόμενου τεχνητού ελεγκτή ελέγχεται με την προσωμοίωση της εφαρμογής ελέγχου ενός ηλεκτρικού κινητήρα συνεχούς ρεύματος. Τα αποτελέσματα προσομοίωσης δείχνουν ικανοποιητική μείωση του θορύβου στη διαδικασία ελέγχου και ακριβή τροχιά εξόδου, όπως είναι επιθυμητό. Προχωρώντας στο τρίτο μέρος, η διατριβή συμβάλλει στο πεδίο της διάγνωσης σφαλμάτων προτείνοντας δύο νευρωνικά μοντέλα βαθιάς μάθησης για το συγκεκριμένο πρόβλημα. Αρχικά, ένα σύστημα αυτόματης διάγνωσης σφαλμάτων παρουσιάζεται στο κεφάλαιο 8 με βάση τη μη επιβλεπόμενη εκπαίδευση ενός ανταγωνιστικού δικτύου παραγωγής (Generative Adversarial Network, GAN). Είναι σημαντικό να αναφερθεί πως κατά την διαδικασία εκπαίδευσης του προτεινομένου δικτύου διάγνωσης χρησιμοποιούνται μόνο δεδομένα που αντιστοιχούν στην κανονική κατάσταση λειτουργίας του συστήματος. Το νευρωνικό δίκτυο παραγωγής του GAN μοντέλου (Generator) μαθαίνει την κατανομή των δεδομένων κανονικής λειτουργίας, ενώ το νευρωνικό δίκτυο απόφασης (Discriminator) λαμβάνει την τελική απόφαση που αφορά την εμφάνιση σφαλμάτων στο σύστημα. Οι αρχιτεκτονικές των νευρωνικών δικτύων παραγωγής και απόφασης και οι υπέρ-παράμετροι που χρησιμοποιούνται κατά τη διάρκεια της εκπαίδευσης παίζουν σημαντικό ρόλο στην αποτελεσματικότητα αλλά και στην σταθερότητα του μοντέλου GAN. Με στόχο τη διασφάλιση της σύγκλισης και τη βελτίωση της ακρίβειας του μη επιτηρούμενου διαγνώστη σφαλμάτων, αναπτύχθηκε ένας ευριστικός αλγόριθμος επιλογής μοντέλου. Ο τελευταίος αξιολογεί κάθε υποψήφιο ανταγωνιστικό μοντέλο χρησιμοποιώντας ένα σύνολο δεδομένων επικύρωσης που αποτελείται μόνο από δεδομένα κανονικής λειτουργίας του συστήματος. Για να επιτευχθεί η εκτίμηση της αποτελεσματικότητας του νευρωνικού δικτύου παραγωγής, ένα κριτήριο αξιολόγησης χρησιμοποιείται το όποιο βασίζεται στο κόστος ανακατασκευής ενός αυτόματου κωδικοποιητή (Auto-Encoder). Τέλος, τα πειραματικά αποτελέσματα υποδεικνύουν την υπερίσχυση στην ανίχνευση ανωμαλιών του προτεινόμενου συστήματος μη επιτηρούμενης αυτόματης διάγνωσης έναντι τριών σύγχρονων ανταγωνιστικών μεθόδων, ενός αλγορίθμου Μηχανής Διανυσματικής Υποστήριξης μίας κλάσης (One-Class Support Vector Machines), ενός αλγόριθμου απομόνωσης δάσους (Isolation Forest Algorithm) και ενός αλγόριθμου με βάση τους αυτόματους κωδικοποιητές (Auto-Enocoder). Στο δεύτερο κεφάλαιο του τρίτου μέρους (κεφ. 8), παρουσιάζεται το Αντιληπτικό Πυκνό Συνελικτικό Νευρωνικό Δίκτυο (Attentive Dense Convolutional Neural Network) το οποίο και χρησιμοποιείται στο πρόβλημα της ανίχνευσης βλάβων σε έδρανα (ρουλεμάν) μηχανών. Το προτεινόμενο μοντέλο αποσκοπεί στην εξαγωγή της χρονικής συσχέτισης διαδοχικών δειγμάτων εισόδου, συνδυάζοντας ένα πυκνό συνελικτικό νευρωνικό δίκτυο με ένα αντιληπτικό μηχανισμό (attention mechanism). Πιο συγκεκριμένα, το μοντέλο βαθιάς εκμάθησης εκμεταλλεύεται την ικανότητα του πυκνά συνδεδεμένου Νευρωνικού Δικτύου Συνέλιξης να εξάγει χαρακτηριστικά που ανήκουν σε διαφορετικά επίπεδα αναπαράστασης. Επιπρόσθετα, ο απλός αντιληπτικός μηχανισμός, ο οποίος αποτελείται από ένα προσώ-τροφοδοτούμενο Νευρωνικό Δίκτυο ακολουθούμενο από ένα στρώμα softmax, ενισχύει τις εξαγόμενες πληροφορίες δίνοντας έμφαση σε συγκεκριμένες χωρικές περιοχές των χαρακτηριστικών και στη συνέχεια ρυθμίζει τη χρονική συνοχή των δειγμάτων με τον υπολογισμό ενός απλού σταθμισμένου μέσου όρου τους. Το προτεινόμενο νευρωνικό σχήμα έχει λιγότερες άγνωστες παραμέτρους εκμάθησης και επιτυγχάνει ακριβή αποτελέσματα με λιγότερα δεδομένα εκπαίδευσης, όπως φαίνεται και από τα πειράματα προσομοίωσης σε δύο περιπτώσεις. Τελικά, η συμβολή, η συνολική αξιολόγηση και οι κατευθυντήριες μελλοντικές γραμμές έρευνας παρουσιάζονται στο τελικό κεφάλαιο της διατριβής.