Ανάπτυξη μεθοδολογίας πρόβλεψης μεταβολής θέσης σημείων στο χώρο με χρήση τεχνητών νευρωνικών δικτύων - Αλεβιζάκου, Ελένη-Γεωργία (Σχολή Αγρονόμων και Τοπογράφων Μηχανικών, 2017)
Η διατριβή ασχολείται με την ανάπτυξη μιας μεθοδολογίας, η οποία βασίζεται στα Τεχνητά Νευρωνικά Δίκτυα (ΤΝΔ). Η προτεινόμενη αυτή μεθοδολογία αφορά στην πρόβλεψη της μεταβολής της θέσης σημείων στο χώρο, δηλαδή της μετακίνησης ή της παραμόρφωσης της επιφάνειας που ανήκουν. Επικεντρώνεται τόσο στη βραχυπρόθεσμη πρόβλεψη (short-term forecasting) ενός τέτοιου πολύπλοκου φαινομένου όσο και στη μακροπρόθεσμη (long-term forecasting). Κίνητρο αποτέλεσε ο συνδυασμός δύο σκέψεων-δεδομένων, πρώτον της εισαγωγής της έννοιας της πρόβλεψης στους περισσότερους επιστημονικούς κλάδους (Οικονομία, Μετεωρολογία, Ιατρική κ.ά.) και δεύτερον της επιθυμίας για γνώση της μελλοντικής συμπεριφοράς και θέσης μιας κατασκευής ή μιας περιοχής της φυσικής γήινης επιφάνειας. Οι πρωτοτυπίες της διατριβής έγκεινται στο ότι : -Εισάγεται η έννοια της πρόβλεψης στην επιστήμη της Γεωδαισίας και ελέγχονται όλα τα συμβατικά γεωδαιτικά μοντέλα παραμόρφωσης (deformation models) με στόχο την παραγωγή προβλέψεων μεταβολής της θέσης σημείων στο χώρο. -Χρησιμοποιείται η επιστήμη της "Ανακάλυψης γνώσης από Βάσεις Δεδομένων" (Knowledge Discovery In Databases-KDD) και συγκεκριμένα η εξόρυξη γνώσης από δεδομένα (data mining) και η διαχείριση και προ-επεξεργασία μεγάλου όγκου (big data) δεδομένων. -Δοκιμάζονται ορισμένες συμβατικές ποσοτικές μέθοδοι προβλέψεων, οι οποίες επιλέγχθησαν κατάλληλα από άλλες επιστήμες (π.χ. ιατρική, οικονομία) για την πρόβλεψη μεταβολής της θέσης σημείων στο χώρο. -Εφαρμόζεται η ευφυής μέθοδος των Τεχνητών Νευρωνικών Δικτύων (ΤΝΔ) για την πρόβλεψη της μεταβολής της θέσης σημείων στο χώρο. -Συγκρίνονται οι συμβατικές μέθοδοι με τις ευφυείς. -Αναπτύσσεται μια αυτοματοποιημένη και ολοκληρωμένη μεθοδολογία για την πρόβλεψη μεταβολής της θέσης σημείων στο χώρο η οποία βασίζεται σε ΤΝΔ. Η διδακτορική διατριβή αναπτύσσεται σε τρία μέρη, που χωρίζονται αντίστοιχα σε κεφάλαια. Πρώτο μέρος Το μέρος αυτό της διατριβής, το οποίο αποτελείται από τρία κεφάλαια (τα υπ. αριθμ. 1, 2 και 3), έχει ως αντικείμενο τη λεπτομερή καταγραφή και βιβλιογραφική ανασκόπηση, σε διεθνή κλίμακα, των επιστημονικών περιοχών οι οποίες άπτονται σε αυτή. Συγκεκριμένα, η διατριβή βασίζεται στο συνδυασμό ετερόκλητων επιστημονικών περιοχών για την επίτευξη του κοινού στόχου που αναφέρθηκε ήδη. Επομένως, κάθε κεφάλαιο του πρώτου μέρους αποτελεί μια σε βάθος αναφορά στις διαφορετικές αυτές επιστημονικές περιοχές. Στο πρώτο κεφάλαιο αναλύεται ότι αφορά στη μεταβολή της θέσης σημείων στο χώρο, καθώς τελικός στόχος αποτελεί η πρόβλεψη αυτού του φαινομένου. Γίνεται σαφής διάκριση μεταξύ των όρων της "παραμόρφωσης" ("deformation") και της "μετακίνησης" ("displacement") και παρουσιάζονται τα πρότυπα ελέγχου που έχουν αναπτυχθεί για θέματα μελέτης παραμορφώσεων. Καταγράφονται επίσης όλα τα είδη γεωδαιτικών δικτύων ελέγχου, τα οποία μπορεί να ιδρυθούν προκειμένου να γίνει η διαχρονική παρακολούθηση (monitoring) μιας τεχνικής κατασκευής ή της ΦΓΕ, ώστε να ελεγθεί η ύπαρξη παραμόρφωσης ή μετακίνησης. Ωστόσο, το σημαντικότερο μέρος του κεφαλαίου αυτού είναι η καταγραφή όλων των μοντέλων, τα οποία αναφέρονται ως συμβατικά γεωδαιτικά μοντέλα, και έχουν αναπτυχθεί για την ανίχνευση της μεταβολής της θέσης σημείων στο χώρο. Συγκεκριμένα, αναλύονται τα περιγραφικά μοντέλα (descriptive models) και τα μοντέλα αιτίας-αποτελέσματος (cause-response models). Σε επόμενο κεφάλαιο τα μοντέλα αυτά ελέγχονται για την ικανότητά τους στην πρόβλεψη της μεταβολής της θέσης και όχι μόνο στη παρακολούθηση του φαινομένου. Στο δεύτερο κεφάλαιο καταγράφεται και αναλύεται λεπτομερώς ότι αφορά στις χρονοσειρές, καθώς διαδραματίζουν πολύ σημαντικό ρόλο στην ανάπτυξη της τελικής μεθοδολογίας. Καταγράφονται όλοι οι βασικοί ορισμοί και οι βασικές έννοιες στατιστικής όπως επίσης και όλα τα ποιοτικά χαρακτηριστικά που μπορεί να υπάρχουν σε μια χρονοσειρά. Τέλος, αναλύεται και όποια διαδικασία φασματικής-συχνοτικής ανάλυσης (ανάλυση Fourier και ανάλυση Wavelet) η οποία μπορεί να πραγματοποιηθεί σε μια χρονοσειρά, εάν αυτό κριθεί απαραίτητο. Στο τρίτο κεφάλαιο, παρουσιάζεται η επιστήμη της πρόβλεψης γενικότερα, ως μετάφραση της ορολογίας "forecasting" και όχι "prediction" με ότι αυτό συνεπάγεται. Συγκεκριμένα, αναλύονται όλες οι μέθοδοι πρόβλεψης οι οποίες σήμερα χρησιμοποιούνται σε διάφορες επιστήμες (π.χ. Ιατρική, Οικονομία, Μετεωρολογία κ.ά.). Ο τρόπος διάκρισης γίνεται σε : -Ποσοτική πρόβλεψη (quantitative forecasting) που περιλαμβάνει τις μεθόδους χρονοσειρών (time series methods), τις αιτιοκρατικές ή επεξηγηματικές μεθόδους (causal relationship or explanatory methods) και τις μεθόδους τεχνητής νοημοσύνης (artificial intelligence methods). -Ποιοτική ή Κριτική πρόβλεψη (qualitative or judgmental forecasting) που περιλαμβάνει τις ατομικές μεθόδους (individual methods) και τις μεθόδους επιτροπής (committee methods). -Τεχνολογική πρόβλεψη (technological forecasting) που περιλαμβάνει τις διερευνητικές μεθόδους (exploratory methods) και τις κανονιστικές μεθόδους (normative methods). Κάθε μια από τις παραπάνω μεθόδους, όπως και όλες οι προαναφερθείσες υπο-κατηγόριες, αναλύονται σε αυτό το κεφάλαιο. Επιπλέον, καταγράφονται και αναλύονται όλα τα στάδια τα οποία πρέπει να ακολουθηθούν προκειμένου να παραχθεί τελικά μια πρόβλεψη ανεξαρτήτως της μεθόδου που θα χρησιμοποιηθεί. Πρόκειται για τα εξής: Ορισμός του προβλήματος → εύρεση διαθέσιμων δεδομένων υπό τη μορφή χρονοσειράς → προκαταρκτική ανάλυση δεδομένων → επιλογή μεθόδου → εφαρμογή μεθόδου → αξιολόγηση μεθόδου → παραγωγή και χρήση προβλέψεων. Επιπρόσθετα, δίνεται ιδιαίτερη έμφαση στην καταγραφή όλων των πιθανών κριτηρίων και στις περιπτώσεις στις οποίες το καθένα μπορεί να χρησιμοποιηθεί για την τελική αξιολόγηση οποιασδήποτε μεθόδου πρόβλεψης. Συνδυαστικά, αναλύονται και οι διάφορες τεχνικές αξιολόγησης, δίνοντας έμφαση στην τεχνική του διαχωρισμού των δεδομένων (split dataset), έτσι ώστε κάποια δεδομένα να χρησιμοποιηθούν στην αξιολόγηση της όποιας μεθόδου προκειμένου να είναι ανεξάρτητη και ανεπηρέαστη. Τέλος, αναλύεται ιδιαίτερα η σημαντικότητα του διαστήματος πρόβλεψης (prediction interval) καθώς κάθε πρόβλεψη περιέχει πάντα ένα ποσοστό αβεβαιότητας και έναν βαθμό ασάφειας. Δεύτερο μέρος Στο μέρος αυτό της διατριβής, το οποίο αποτελείται από δύο κεφάλαια (τα υπ. αρίθμ. 4 και 5), αναλύεται και τεκμηριώνεται η προτεινόμενη μεθοδολογία πρόβλεψης μεταβολής της θέσης σημείων στο χώρο βασιζόμενη σε ΤΝΔ. Συγκεκριμένα, στο τέταρτο κεφάλαιο παρουσιάζεται η προτεινόμενη διαδικασία ανάπτυξης του ΤΝΔ το οποίο εντάσσεται στην αυτοματοποιημένη μεθοδολογία. Αυτή βασίζεται σε μια μέθοδο η οποία είναι ορθή (accurate), σταθερή (stable) και γενική (general) ώστε να μπορεί να χρησιμοποιηθεί σε ίδιας φύσης διαφορετικά προβλήματα. H μεθοδολογία που προτείνεται ακολουθεί τα παρακάτω στάδια και χρησιμοποιεί τις αντίστοιχες τεχνικές. • Αρχικά ορίζεται το πρόβλημα ως πρόβλεψη μεταβολής της θέσης σημείου στο χώρο της φυσικής γήινης επιφάνειας ή μιας επιφάνειας γενικά. • Στη συνέχεια καθορίζεται εάν η μεθοδολογία αναφέρεται σε πρόβλεψη ενός χρονικού βήματος (one-step-ahead forecast) ή σε προβλέψεις πολλών μελλοντικών χρονικών στιγμών (multi-step-ahead forecast). • Ακολουθεί η ανάλυση των δεδομένων (data analysis), δηλαδή των χρονοσειρών των ιστορικών δεδομένων. Προτείνεται η εύρεση κάποιων βασικών υπολογιστικών μέτρων δηλαδή του μέσου όρου, της μέγιστης και ελάχιστης τιμής, της τυπικής απόκλισης, της συνδιακύμανσης, της αυτοδιακύμανσης, της συσχέτισης και της αυτοσυσχέτισης. • Επιπλέον προτείνεται να εξετάζονται και τα ποιοτικά χαρακτηριστικά της χρονοσειράς. Δηλαδή η πιθανή ύπαρξη τάσης, εποχικότητας, κυκλικότητας ή και τυχαιότητας καθώς διαδραματίζουν ιδιαίτερο ρόλο στην παραγωγή των προβλέψεων. • Ακολουθεί το στάδιο της προ-επεξεργασίας της χρονοσειράς. Στο στάδιο αυτό αντιμετωπίζονται προβλήματα όπως: κενές καταγραφές (missing values), πιθανές διπλές καταγραφές και όποιες έκτοπες τιμές (outliers). • Τελευταίο στάδιο αυτό της εκπαίδευσης του πλέον κατάλληλου ΤΝΔ, που αποτελεί και τον πυρήνα της μεθοδολογίας. Στο συγκεκριμένο πρόβλημα προτείνεται η χρήση των μη γραμμικών αυτοπαλινδρομικών NAR (non-linear autoregressive) αναδρομικών νευρωνικών δικτύων για πρόβλεψη ενός χρονικού βήματος και των μη γραμμικών αυτοπαλινδρομικών NARX (non-linear autoregressive with eXogenous inputs) με εξωγενείς εισόδους για πρόβλεψη πολλαπλών βημάτων. Τα ΤΝΔ αυτά δεν έχουν χρησιμοποιηθεί μέχρι σήμερα για πρόβλεψη μεταβολής της θέσης. Η επιλογή αυτή εξασφαλίζει ότι τα ΤΝΔ "εκπαιδεύονται" χρησιμοποιώντας τα ίδια τα δεδομένα της χρονοσειράς του εξεταζόμενου φαινομένου. Αυτό το στάδιο περιλαμβάνει επίσης όλα τα επιμέρους βήματα για τον προσδιορισμό όλων των υπερ-παραμέτρων του ΤΝΔ το οποίο τελικά θα χρησιμοποιηθεί. Επίσης περιλαμβάνει και όλα τα κριτήρια τα οποία χρησιμοποιούνται για την επιλογή του καταλληλότερου ΤΝΔ. o Κανονικοποίηση (normalization) των δεδομένων. o Διαχωρισμός των συνόλων εκπαίδευσης, επικύρωσης και δοκιμής. o Εκπαίδευση του δικτύου με παραδείγματα. o Δοκιμές στην επιλογή του αλγόριθμου εκπαίδευσης, της συνάρτησης μεταφοράς, του αριθμού των κρυφών νευρώνων, των κρυφών επιπέδων και καθυστερήσεων. o Επιλογή κριτηρίου αξιολόγησης. Η μεθοδολογία εκτός από το προτεινόμενο ΤΝΔ εξετάζει και τη χρήση κάποιων εκ των συμβατικών μεθόδων οι οποίες αναλύθηκαν. Ο σκοπός είναι η σύγκριση των παραγόμενων προβλέψεων που προκύπτουν από τις ευφυείς μεθόδους και από τις συμβατικές. Οι συμβατικές μέθοδοι οι οποίες εξετάζονται και τελικά συγκρίνονται είναι οι εξής : o Κινηματικό γραμμικό μοντέλο (kinematic linear model) o Κινηματικό πολυωνυμικό μοντέλο 2ου βαθμού (kinematic polynomial 2nd degree model) o Απλός μέσος (simple mean) o Απλός κινητός μέσος (simple moving average) o Διπλός κινητός μέσος (double moving average) o Απλή εκθετική εξομάλυνση (simple exponential smoothing) o Διπλή εκθετική εξομάλυνσης (double exponential smoothing, Brown's method) o Εκθετική εξομάλυνση με προσαρμογή στην τάση (Exponential smoothing adjusted for trend, Holt's method) o Αυτοπαλινδρομικές (αυτοαναδρομικές) μέθοδοι κινητού μέσου όρου (Autoregressive Moving Average Methods, ARMA) Το πέμπτο κεφάλαιο αφορά στην υλοποίηση μεθόδων πρόβλεψης μεταβολής της θέσης. Στο κεφάλαιο αυτό αρχικά αναφέρεται το λογισμικό υποστήριξης της προτεινόμενης μεθοδολογίας. Στη συνέχεια παρουσιάζονται τα αποτελέσματα που προέκυψαν εφαρμόζοντας τη μεθοδολογία σε πραγματικά δεδομένα μόνιμων σταθμών αναφοράς GNSS. Προτείνονται οι τρόποι επιλογής ενός αντιπροσωπευτικού δείγματος σε περιπτώσεις όπου τα διαθέσιμα δεδομένα είναι πάρα πολλά σε όγκο (σε αυτή την περίπτωση τρείς σταθμοί GNSS), καθώς αυτό αποτελεί και το βασικό μειονέκτημα χρήσης των ΤΝΔ ως μέθοδος πρόβλεψης. Τελικά, προτείνεται η χρήση του στωματοποιημένου τυχαίου δείγματος με χρήση του δείκτη της διακύμανσης των συγκεκριμένων διαθέσιμων χρονοσειρών Χ, Υ και Z. Παρουσιάζονται τα αποτελέσματα της προ-επεξεργασίας καθώς επίσης και τα αποτελέσματα της πρόβλεψης των συμβατικών μεθόδων που υλοποιήθηκαν, τόσο για ένα χρονικό βήμα (one-step) όσο και για πολλαπλά (multi-step), για τους τρείς σταθμούς του δείγματος. Τα ΤΝΔ που εκπαιδεύτηκαν είναι μη γραμμικά αυτοπαλινδομικά NAR (non-linear autoregressive) αναδρομικά για one-step πρόβλεψη και NARX (non-linear autoregressive with eXogenous inputs) με εξωγενείς εισόδους στην περίπτωση των πολλαπλών βημάτων. Η επιλογή του καταλληλότερου ΤΝΔ έγινε χρησιμοποιώντας ως κριτήριο τον συντελεστή προσδιορισμού R2 (coefficient of determination). Όλα τα εξεταζόμενα ΤΝΔ αποτελούνται από ένα κρυφό επίπεδο, έχουν ως συνάρτηση ενεργοποίησης των κρυφών νευρώνων και των νευρώνων εξόδου την logsig και διαφοροποιούνται αρχικά στα εξής σημεία : -στο διάστημα κανονικοποίησης δεδομένων εισόδου σε [-0.8,0.8] και [0.1,0.9] -στον τρόπο διαχωρισμού των δεδομένων σε τυχαίο διαχωρισμό (70%, 15%, 15%) και σε χρονολογικό (70%, 15%, 15%) -στον αλγόριθμο εκπαίδευσης trainlm, trainbfg και trainbr. Από αυτόν τον πρώτο διαχωρισμό δημιουργούνται 12 test sets. Το κάθε test set υλοποιεί τελικά 12 ξεχωριστά ΤΝΔ, για κάθε i σταθμό, τα οποία διαφοροποιούνται στα εξής: -στον αριθμό των κρυφών νευρώνων : min=5, max= 20, step= 5 -στον αριθμό των καθυστερήσεων : min= 2, max= 82, step= 40