Ανάπτυξη Μεθοδολογίας Πρόβλεψης Μεταβολής Θέσης Σημείων Στο Χώρο Με Χρήση Τεχνητών Νευρωνικών Δικτύων

Abstract

Η διατριβή ασχολείται με την ανάπτυξη μιας μεθοδολογίας, η οποία βασίζεται στα Τεχνητά Νευρωνικά Δίκτυα (ΤΝΔ). Η προτεινόμενη αυτή μεθοδολογία αφορά στην πρόβλεψη της μεταβολής της θέσης σημείων στο χώρο, δηλαδή της μετακίνησης ή της παραμόρφωσης της επιφάνειας που ανήκουν. Επικεντρώνεται τόσο στη βραχυπρόθεσμη πρόβλεψη (short-term forecasting) ενός τέτοιου πολύπλοκου φαινομένου όσο και στη μακροπρόθεσμη (long-term forecasting).Οι πρωτοτυπίες της διατριβής έγκεινται στο ότι :oΕισάγεται η έννοια της πρόβλεψης στην επιστήμη της Γεωδαισίας και ελέγχονται όλα τα συμβατικά γεωδαιτικά μοντέλα παραμόρφωσης (deformation models) με στόχο την παραγωγή προβλέψεων μεταβολής της θέσης σημείων στο χώρο. oΧρησιμοποιείται η επιστήμη της "Ανακάλυψης γνώσης από Βάσεις Δεδομένων" (Knowledge Discovery In Databases-KDD) και συγκεκριμένα η εξόρυξη γνώσης από δεδομένα (data mining) και η διαχείριση και προ-επεξεργασία μεγάλου όγκου (big data) δεδομένων. oΔοκιμάζονται ορισμένες συμβατικές ποσοτικές μέθοδοι προβλέψεων, οι οποίες επιλέγχθησαν κατάλληλα από άλλες επιστήμες (π.χ. ιατρική, οικονομία) για την πρόβλεψη μεταβολής της θέσης σημείων στο χώρο. oΕφαρμόζεται η ευφυής μέθοδος των Τεχνητών Νευρωνικών Δικτύων (ΤΝΔ) για την πρόβλεψη της μεταβολής της θέσης σημείων στο χώρο. oΣυγκρίνονται οι συμβατικές μέθοδοι με τις ευφυείς.oΑναπτύσσεται μια αυτοματοποιημένη και ολοκληρωμένη μεθοδολογία για την πρόβλεψη μεταβολής της θέσης σημείων στο χώρο η οποία βασίζεται σε ΤΝΔ. H μεθοδολογία που προτείνεται ακολουθεί τα παρακάτω στάδια και χρησιμοποιεί τις αντίστοιχες τεχνικές. •Αρχικά ορίζεται το πρόβλημα ως πρόβλεψη μεταβολής της θέσης σημείου στο χώρο της φυσικής γήινης επιφάνειας ή μιας επιφάνειας γενικά. •Στη συνέχεια καθορίζεται εάν η μεθοδολογία αναφέρεται σε πρόβλεψη ενός χρονικού βήματος (one-step-ahead forecast) ή σε προβλέψεις πολλών μελλοντικών χρονικών στιγμών (multi-step-ahead forecast). •Ακολουθεί η ανάλυση των δεδομένων (data analysis), δηλαδή των χρονοσειρών των ιστορικών δεδομένων. Προτείνεται η εύρεση κάποιων βασικών υπολογιστικών μέτρων δηλαδή του μέσου όρου, της μέγιστης και ελάχιστης τιμής, της τυπικής απόκλισης, της συνδιακύμανσης, της αυτοδιακύμανσης, της συσχέτισης και της αυτοσυσχέτισης. •Επιπλέον προτείνεται να εξετάζονται και τα ποιοτικά χαρακτηριστικά της χρονοσειράς. Δηλαδή η πιθανή ύπαρξη τάσης, εποχικότητας, κυκλικότητας ή και τυχαιότητας καθώς διαδραματίζουν ιδιαίτερο ρόλο στην παραγωγή των προβλέψεων. •Ακολουθεί το στάδιο της προ-επεξεργασίας της χρονοσειράς. Στο στάδιο αυτό αντιμετωπίζονται προβλήματα όπως: κενές καταγραφές (missing values), πιθανές διπλές καταγραφές και όποιες έκτοπες τιμές (outliers). •Τελευταίο στάδιο αυτό της εκπαίδευσης του πλέον κατάλληλου ΤΝΔ, που αποτελεί και τον πυρήνα της μεθοδολογίας. Στο συγκεκριμένο πρόβλημα προτείνεται η χρήση των μη γραμμικών αυτοπαλινδρομικών NAR (non-linear autoregressive) αναδρομικών νευρωνικών δικτύων για πρόβλεψη ενός χρονικού βήματος και των μη γραμμικών αυτοπαλινδρομικών NARX (non-linear autoregressive with eXogenous inputs) με εξωγενείς εισόδους για πρόβλεψη πολλαπλών βημάτων. Τα ΤΝΔ αυτά δεν έχουν χρησιμοποιηθεί μέχρι σήμερα για πρόβλεψη μεταβολής της θέσης. Η επιλογή αυτή εξασφαλίζει ότι τα ΤΝΔ "εκπαιδεύονται" χρησιμοποιώντας τα ίδια τα δεδομένα της χρονοσειράς του εξεταζόμενου φαινομένου. Αυτό το στάδιο περιλαμβάνει επίσης όλα τα επιμέρους βήματα για τον προσδιορισμό όλων των υπερ-παραμέτρων του ΤΝΔ το οποίο τελικά θα χρησιμοποιηθεί. Επίσης περιλαμβάνει και όλα τα κριτήρια τα οποία χρησιμοποιούνται για την επιλογή του καταλληλότερου ΤΝΔ. Η μεθοδολογία εκτός από το προτεινόμενο ΤΝΔ εξετάζει και τη χρήση κάποιων εκ των συμβατικών μεθόδων οι οποίες αναλύθηκαν. Ο σκοπός είναι η σύγκριση των παραγόμενων προβλέψεων που προκύπτουν από τις ευφυείς μεθόδους και από τις συμβατικές. Δημιουργήθηκε λογισμικό υποστήριξης της προτεινόμενης μεθοδολογίας και πραγματοποιήθηκε εφαρμογή σε πραγματικά δεδομένα 1000 σταθμών GNSS. Προτείνονται οι τρόποι επιλογής ενός αντιπροσωπευτικού δείγματος σε περιπτώσεις όπου τα διαθέσιμα δεδομένα είναι πάρα πολλά σε όγκο (σε αυτή την περίπτωση τρείς σταθμοί GNSS). Τα ΤΝΔ που εκπαιδεύτηκαν είναι μη γραμμικά αυτοπαλινδομικά NAR αναδρομικά για one-step πρόβλεψη και NARX με εξωγενείς εισόδους στην περίπτωση των πολλαπλών βημάτων. Η επιλογή του καταλληλότερου ΤΝΔ έγινε χρησιμοποιώντας ως κριτήριο τον συντελεστή προσδιορισμού R2 (coefficient of determination).Όλα τα εξεταζόμενα ΤΝΔ αποτελούνται από ένα κρυφό επίπεδο, έχουν ως συνάρτηση ενεργοποίησης των κρυφών νευρώνων και των νευρώνων εξόδου την logsig και διαφοροποιούνται αρχικά στα εξής σημεία : στο διάστημα κανονικοποίησης δεδομένων εισόδου σε [-0.8,0.8] και [0.1,0.9] στον τρόπο διαχωρισμού των δεδομένων σε τυχαίο διαχωρισμό (70%, 15%, 15%) και σε χρονολογικό (70%, 15%, 15%) στον αλγόριθμο εκπαίδευσης trainlm, trainbfg και trainbr. Από αυτόν τον πρώτο διαχωρισμό δημιουργούνται 12 test sets. Το κάθε test set υλοποιεί τελικά 12 ξεχωριστά ΤΝΔ, για κάθε i σταθμό, τα οποία διαφοροποιούνται στα εξής: στον αριθμό των κρυφών νευρώνων : min=5, max= 20, step= 5 στον αριθμό των καθυστερήσεων : min= 2, max= 82, step= 40. Επομένως δημιουργήθηκαν 12 test sets για κάθε ένα από τα 14 σενάρια. Στο κάθε test set υλοποιούνται και εκπαιδεύονται 12 ΤΝΔ με διαφορετικές παραμέτρους για κάθε μόνιμο σταθμό GNSS. Συνεπώς για τους 3 σταθμούς του δείγματος εκπαιδεύτηκαν 3168 ΤΝΔ. Τελικά, παρουσιάζονται τα αποτελέσματα που προέκυψαν για την πρόβλεψη ενός χρονικού βήματος αλλά και πολλαπλών χρονικών βημάτων τόσο με χρήση συμβατικών μεθόδων όσο και με χρήση του προτεινόμενου ΤΝΔ, για τους 1000 εξεταζόμενους σταθμούς GNSS. Το προτεινόμενο ΤΝΔ είναι ένα μη γραμμικό αυτοπαλινδομικό NAR (non-linear autoregressive) αναδρομικό νευρωνικό δίκτυο και ένα NARX (non-linear autoregressive with eXogenous inputs) με εξωγενείς εισόδους στην περίπτωση των πολλαπλών βημάτων. Αποτελείται από ένα κρυφό επίπεδο και έχει ως συνάρτηση ενεργοποίησης των κρυφών νευρώνων και των νευρώνων εξόδου την logsig. Ο διαχωρισμός των δεδομένων γίνεται με χρονολογικό τρόπο (70%, 15%, 15%) και η κανονικοποίηση τους στο διάστημα [0.1,0.9]. Αλγόριθμος εκπαίδευσης είναι ο Bayesian regularization. Ο αριθμός των κρυφών νευρώνων είναι 10 και ο αριθμός των καθυστερήσεων 42 για προβλέψεις ενός βήματος. Ενώ για προβλέψεις πολλαπλών βημάτων είναι 20 νευρώνες και 2 καθυστερήσεις.Επιπλέον, αποφασίστηκε ως είσοδοι να είναι ανεξάρτητα οι συντεταγμένες X, Y και Z με τις αντίστοιχες εξόδους.Επομένως, όσον αφορά τα ΤΝΔ εκπαιδεύτηκαν τελικά 3000 ΤΝΔ για το σύνολο των 1000 σταθμών GNSS (1000 GNSS × 3 σενάρια) για one-step πρόβλεψη και αντίστοιχα για multi-step, πέραν των αρχικών 3168 ΤΝΔ που εκπαιδεύτηκαν για την επιλογή με χρήση του δείγματος. Διαπιστώνεται, πως το ΤΝΔ, κυρίως στην περίπτωση των προβλέψεων ενός χρονικoύ βήματος, είναι ικανό να προβλέψει ικανοποιητικά τόσο το μέγεθος όσο και τη τάση της μεταβολής της θέσης του εξεταζόμενου σημείου. Αντιθέτως είναι εμφανές πως οι βέλτιστες συμβατικές μέθοδοι εμφανίζουν σημαντική απόκλιση τόσο στην πρόβλεψη του μεγέθους όσο και της τάσης της μεταβολής της θέσης. Στο έβδομο και τελευταίο κεφάλαιο συνοψίζονται τα συμπεράσματα τα οποία προέκυψαν και γίνονται κάποιες προτάσεις για περαιτέρω έρευνα. Τελικά αποδεικνύεται ότι η προτεινόμενη μεθοδολογία η οποία βασίζεται σε ΤΝΔ μπορεί να δίνει προβλέψεις μεταβολής της θέσης σημείων στο χώρο της τάξης των 2mm με MAE 0.5 mm ενώ αντίστοιχα η βέλτιστη συμβατική μέθοδος - ARMA model (4,3) - με MAE 1.8mm.