National and Kapodistrian University of Athens
Robust high-dimensional regression inference via covariance shrinkage and synthesis
Abstract
dc:descriptionΕισαγωγή: Σε πολλές εφαρμογές, η πρόσβαση σε δεδομένα σε ατομικό επίπεδο είναι περιορισμένη και η στατιστική ανάλυση βασίζεται αποκλειστικά σε συγκεντρωτικά στατιστικά, όπως πίνακες συνδιακύμανσης και οριακές πιθανότητες έκβασης. Ενώ η γραμμική παλινδρόμηση μπορεί να ανακτηθεί άμεσα από τέτοια συνοπτικά μέτρα υπό τυπικές υποθέσεις, η λογιστική παλινδρόμηση παρουσιάζει πρόσθετες δυσκολίες λόγω της μη γραμμικής της μορφής. Αυτό έχει οδηγήσει στην ανάπτυξη εναλλακτικών προσεγγίσεων βασισμένων σε ροπές, όπως οι εκτιμητές σύνθεσης και οι προσεγγίσεις LASSO. Μέθοδοι: Αναπτύσσεται ένα ενοποιημένο υπολογιστικό πλαίσιο για τη γραμμική και τη λογιστική παλινδρόμηση με χρήση συνοπτικών δεδομένων συνδιακύμανσης. Για τη γραμμική παλινδρόμηση, οι συντελεστές εκτιμώνται μέσω αντιστροφής του πίνακα συνδιακύμανσης, με επεκτάσεις που περιλαμβάνουν τη συρρίκνωση Ledoit–Wolf για τη σταθεροποίηση του πίνακα και κανονικοποίηση τύπου LASSO για την επιβολή αραιότητας. Για τη λογιστική παλινδρόμηση, υλοποιούνται τέσσερις μέθοδοι: (i) εκτιμητής σύνθεσης βάσει αντιστροφής συνδιακύμανσης, (ii) εκτιμητής σύνθεσης με συρρίκνωση για μεγαλύτερη σταθερότητα, (iii) κανονικοποίηση LASSO των συντελεστών σύνθεσης. Οι μέθοδοι απαιτούν μόνο τον πίνακα συνδιακύμανσης μεταβλητών και έκβασης, το μέγεθος δείγματος και, για τη λογιστική παλινδρόμηση, την οριακή πιθανότητα της έκβασης. Η απόδοση αξιολογήθηκε σε πολλαπλά εμπειρικά σύνολα δεδομένων, συγκρίνοντας τα αποτελέσματα με εκτιμήσεις από κλασικά μοντέλα παλινδρόμησης με πλήρη δεδομένα. Αποτελέσματα: Στη γραμμική παλινδρόμηση, οι εκτιμητές σύνθεσης αναπαράγουν την κλασική λύση ελαχίστων τετραγώνων, ενώ η συρρίκνωση βελτιώνει τη σταθερότητα σε περιπτώσεις πολυσυγγραμμικότητας και η LASSO εισάγει αραιότητα στους συντελεστές. Στη λογιστική παλινδρόμηση, οι εκτιμητές σύνθεσης παρήγαγαν συντελεστές με παρόμοια κατεύθυνση και συγκρίσιμο μέγεθος με τις εκτιμήσεις μέγιστης πιθανοφάνειας, με ορισμένη υποεκτίμηση σε κάποιες περιπτώσεις. Η μέθοδος συρρίκνωσης έδωσε σχεδόν ταυτόσημα αποτελέσματα, υποδηλώνοντας περιορισμένη ευαισθησία σε αστάθεια του πίνακα συνδιακύμανσης. Η κανονικοποίηση LASSO μείωσε το μέγεθος των συντελεστών, διατηρώντας τις βασικές συσχετίσεις. Η αντίστροφη προσέγγιση Taylor παρήγαγε ανακλιμακωμένους συντελεστές με αυξημένη διακύμανση, γεγονός που αντανακλά την εξάρτησή της από την οριακή πιθανότητα της έκβασης. Συνολικά, οι στατιστικά σημαντικές μεταβλητές διατηρήθηκαν σε μεγάλο βαθμό, αν και παρατηρήθηκαν διαφοροποιήσεις στις εκτιμήσεις αβεβαιότητας. Συμπεράσματα: Οι μέθοδοι σύνθεσης βάσει συνδιακύμανσης αποτελούν ένα συνεκτικό και ευέλικτο πλαίσιο για την εκτίμηση μοντέλων γραμμικής και λογιστικής παλινδρόμησης με χρήση μόνο συνοπτικών δεδομένων. Στη γραμμική περίπτωση, αναπαράγονται τα κλασικά αποτελέσματα, ενώ στη λογιστική παρέχονται πρακτικές προσεγγίσεις όταν δεν είναι διαθέσιμα δεδομένα σε ατομικό επίπεδο. Οι τεχνικές συρρίκνωσης βελτιώνουν τη σταθερότητα χωρίς ουσιαστική μεταβολή των εκτιμήσεων, ενώ η LASSO προσφέρει μηχανισμό κανονικοποίησης και επιλογής μεταβλητών. Συνολικά, οι μέθοδοι αυτές αποτελούν αποδοτικές εναλλακτικές για ανάλυση παλινδρόμησης σε περιβάλλοντα περιορισμένων δεδομένων, απαιτώντας ωστόσο προσεκτική αξιολόγηση πιθανών μεροληψιών και σφαλμάτων προσέγγισης.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Νικολίτσα Ευγενία
- Nikolitsa Evgenia
Subjects
dc:subject × 2Rights
- Language dc:language
- English
Identifiers
dc:identifier.*- Identifier
- uoadl:5416084