Μπεϋζιανή επιλογή μεταβλητών με χρήση g prior στα κανονικά γραμμικά μοντέλα - Φωτίου, Διαμάντω (Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Εφαρμοσμένων Μαθηματικών και Φυσικών Επιστημών, 2017)
Το υλικό της παρούσης διπλωματικής εργασίας κατανέμεται σε 6 κεφάλαια εκ των οποίων τα 2 πρώτα περιλαμβάνουν καθαρά εισαγωγικές έννοιες επάνω στη θεωρία των γραμμικών μοντέλων και των θεμελιωδών αρχών της Mπεϋζιανής στατιστικής ούτως ώστε να είναι αποσαφηνισμένη κάθε βασική ορολογία που χρησιμοποιείται στα επόμενα κεφάλαια. Συγκεκριμένα στο Κεφάλαιο 1 γίνεται μια συνοπτική εισαγωγή στην απλή και την πολλαπλή γραμμική παλινδρόμηση ενώ στο Κεφάλαιο 2 παρατίθεται το θεώρημα του Bayes και οι σημαντικότερες κατηγορίες εκ των προτέρων κατανομών που χρησιμοποιούνται στη Mπεϋζιανή στατιστική, με επισήμανση στη σπουδαιότητά τους. Ακολουθούν το κύριο περιεχόμενο και οι κύριοι στόχοι της παρούσας εργασίας που εμπεριέχονται στα 3 τελευταία κεφάλαια όπου συγκεκριμένα: Στο Κεφαλαιο 3 ορίζεται το πρόβλημα της επιλογής μεταβλητών στα κανονικά γραμμικά μοντέλα σύμφωνα με τη Mπεϋζιανή προσέγγιση που θα υιοθετηθεί, ενώ επιπρόσθετα ορίζεται ο βασικός έλεγχος υποθέσεων που θα μελετηθεί για τη σύγκριση των 2^p δυνατών εμφωλευμένων μοντέλων, ενός κανονικού γραμμικού μοντέλου με p πεξηγηματικές μεταβλητές, καθώς και ένα μέτρο σύγκρισης αυτών που διατίθεται μέσω του παράγοντα Bayes. Eπιπλέον ορίζονται δύο παράδοξα στα οποία οδηγούμαστε με χρήση διακεχυμένων (εννοώντας με μεγάλη διασπορά) εκ των προτέρων κατανομών: το παράδοξο των Lindley-Bartlett και το παράδοξο πληροφορίας, διατυπώνοντας παράλληλα κάποια βασικά πλεονεκτήματα και μειονεκτήματα των Μπεϋζιανών μεθόδων στην επιλογή μεταβλητών. Ακολούθως στο Κεφάλαιο 4 μελετώνται διεξοδικά συγκεκριμένες εκ των προτέρων κατανομές των άγνωστων παραμέτρων που οδηγούν σε κλειστές μορφές του παράγοντα Bayes (Feng Liang et al. (2008)), όπως είναι η g εκ των προτέρων κατανομή του Zellner, η hyper-g εκ των προτέρων κατανομή, η Zellner and Siow εκ των προτέρων κατανομή και η hyper-g/n. Εν συνεχεία στο Κεφάλαιο 5 παρουσιάζονται 3 εφαρμογές των μεθόδων που αναπτύσσονται στα κεφάλαια 3 και 4. Η μία υλοποιείται σε πραγματικά δεδομένα και οι άλλες δύο σε προσομοιωμένα δεδομένα με ανεξάρτητες και συσχετιζόμενες επεξηγηματικές μεταβλητές αντίστοιχα, ούτως ώστε να δούμε κατά πόσο ουσιαστική είναι η επίδραση των εκ των προτέρων κατανομών που θα χρησιμοποιηθούν στους συντελεστές ενός κανονικού γραμμικού μοντέλου στα εκ των υστέρων αποτελέσματα και κατά πόσο αυτή η επίδραση συμβάλλει στην ανίχνευση του πραγματικού μοντέλου μεταβλητών που είναι και το κύριο μέλημα της παρούσης διπλωματικής εργασίας. Τέλος στο Κεφάλαιο 6 παρουσιάζονται τα εξαγώμενα συμπεράσματα από την εφαρμογή της προτεινόμενης Μπεϋζιανής προσέγγισης στο πρόβλημα της επιλογής μεταβλητών στα κανονικά γραμμικά μοντέλα και στο παράρτημα o κώδικας R που χρησιμοποιήθηκε για την υλοποίηση των παραδειγμάτων του Κεφαλαίου 5. Το υλικό της παρούσης διπλωματικής εργασίας κατανέμεται σε 6 κεφάλαια εκ των οποίων τα 2 πρώτα περιλαμβάνουν καθαρά εισαγωγικές έννοιες επάνω στη θεωρία των γραμμικών μοντέλων και των θεμελιωδών αρχών της Mπεϋζιανής στατιστικής ούτως ώστε να είναι αποσαφηνισμένη κάθε βασική ορολογία που χρησιμοποιείται στα επόμενα κεφάλαια. Συγκεκριμένα στο Κεφάλαιο 1 γίνεται μια συνοπτική εισαγωγή στην απλή και την πολλαπλή γραμμική παλινδρόμηση ενώ στο Κεφάλαιο 2 παρατίθεται το θεώρημα του Bayes και οι σημαντικότερες κατηγορίες εκ των προτέρων κατανομών που χρησιμοποιούνται στη Mπεϋζιανή στατιστική, με επισήμανση στη σπουδαιότητά τους. Ακολουθούν το κύριο περιεχόμενο και οι κύριοι στόχοι της παρούσας εργασίας που εμπεριέχονται στα 3 τελευταία κεφάλαια όπου συγκεκριμένα: Στο Κεφαλαιο 3 ορίζεται το πρόβλημα της επιλογής μεταβλητών στα κανονικά γραμμικά μοντέλα σύμφωνα με τη Mπεϋζιανή προσέγγιση που θα υιοθετηθεί, ενώ επιπρόσθετα ορίζεται ο βασικός έλεγχος υποθέσεων που θα μελετηθεί για τη σύγκριση των 2^p δυνατών εμφωλευμένων μοντέλων, ενός κανονικού γραμμικού μοντέλου με p πεξηγηματικές μεταβλητές, καθώς και ένα μέτρο σύγκρισης αυτών που διατίθεται μέσω του παράγοντα Bayes. Eπιπλέον ορίζονται δύο παράδοξα στα οποία οδηγούμαστε με χρήση διακεχυμένων (εννοώντας με μεγάλη διασπορά) εκ των προτέρων κατανομών: το παράδοξο των Lindley-Bartlett και το παράδοξο πληροφορίας, διατυπώνοντας παράλληλα κάποια βασικά πλεονεκτήματα και μειονεκτήματα των Μπεϋζιανών μεθόδων στην επιλογή μεταβλητών. Ακολούθως στο Κεφάλαιο 4 μελετώνται διεξοδικά συγκεκριμένες εκ των προτέρων κατανομές των άγνωστων παραμέτρων που οδηγούν σε κλειστές μορφές του παράγοντα Bayes (Feng Liang et al. (2008)), όπως είναι η g εκ των προτέρων κατανομή του Zellner, η hyper-g εκ των προτέρων κατανομή, η Zellner and Siow εκ των προτέρων κατανομή και η hyper-g/n. Εν συνεχεία στο Κεφάλαιο 5 παρουσιάζονται 3 εφαρμογές των μεθόδων που αναπτύσσονται στα κεφάλαια 3 και 4. Η μία υλοποιείται σε πραγματικά δεδομένα και οι άλλες δύο σε προσομοιωμένα δεδομένα με ανεξάρτητες και συσχετιζόμενες επεξηγηματικές μεταβλητές αντίστοιχα, ούτως ώστε να δούμε κατά πόσο ουσιαστική είναι η επίδραση των εκ των προτέρων κατανομών που θα χρησιμοποιηθούν στους συντελεστές ενός κανονικού γραμμικού μοντέλου στα εκ των υστέρων αποτελέσματα και κατά πόσο αυτή η επίδραση συμβάλλει στην ανίχνευση του πραγματικού μοντέλου μεταβλητών που είναι και το κύριο μέλημα της παρούσης διπλωματικής εργασίας. Τέλος στο Κεφάλαιο 6 παρουσιάζονται τα εξαγώμενα συμπεράσματα από την εφαρμογή της προτεινόμενης Μπεϋζιανής προσέγγισης στο πρόβλημα της επιλογής μεταβλητών στα κανονικά γραμμικά μοντέλα και στο παράρτημα o κώδικας R που χρησιμοποιήθηκε για την υλοποίηση των παραδειγμάτων του Κεφαλαίου 5.