{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5421901"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5421901","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Fine-Tuning a Pretrained Actigraphy Transformer for Mild Cognitive Impairment Classification","abstract":"Η Ήπια Γνωσιακή Διαταραχή (ΗΓΔ) αποτελεί πρόδρομο στάδιο της άνοιας και επηρεάζει περίπου το 15–20% των ενηλίκων άνω των 60 ετών. Προς το παρόν, εξακολουθούν να λείπουν εργαλεία αξιολόγησης που να μπορούν να εφαρμοστούν σε μεγάλη κλίμακα και με μικρή επιβάρυνση για τους εξεταζόμενους. Η ακτιγραφία καρπού αναδεικνύεται ως μία υποσχόμενη μέθοδος, επιτρέποντας την συνεχή και μη παρεμβατική καταγραφή των ρυθμών ανάπαυσης-δραστηριότητας σε πραγματικές συνθήκες. Αν και οι διαταραχές των κιρκάδιων ρυθμών έχουν συσχετιστεί με την γνωσιακή έκπτωση, οι προσεγγίσεις κλασικής μηχανικής μάθησης που αξιοποιούν χαρακτηριστικά ακτιγραφίας έχουν γενικά επιδείξει μέτρια μόνο αποτελεσματικότητα στη διάκριση μεταξύ γνωσιακά φυσιολογικών ατόμων (ΓΦΑ) και ατόμων με ΗΓΔ. Η παρούσα διπλωματική εργασία διερευνά κατά πόσον ένα προεκπαιδευμένο θεμελιώδες μοντέλο ακτιγραφίας (PAT foundation model) μπορεί να προσαρμοστεί στο πρόβλημα ταξινόμησης της ΗΓΔ χωρίς να απαιτείται εξαγωγή χαρακτηριστικών (feature extraction), καθώς και κατά πόσο οι αναπαραστάσεις που μαθαίνει μπορούν να ερμηνευθούν ως προς κιρκάδια πρότυπα σχετικά με τη γνωσιακή έκπτωση. Η μελέτη περιλαμβάνει τη λεπτομερή προσαρμογή (fine-tuning) του Προεκπαιδευμένου Μοντέλου Βαθιάς Μάθησης σε δεδομένα Ακτιγραφίας (Pretrained Actigraphy Transformer, PAT-Large), το οποίο εκπαιδεύτηκε μέσω ανακατασκευής κρυμμένων τμημάτων (masked patch reconstruction) σε 29.307 συμμετέχοντες της NHANES, για δυαδική ταξινόμηση μεταξύ ΓΦΑ και ατόμων με ΗΓΔ. Χρησιμοποιούνται εξαήμερες καταγραφές ακτιγραφίας καρπού από 150 κλινικά χαρακτηρισμένους συμμετέχοντες της έρευνας ALBION (98 ΓΦΑ, 52 ΗΓΔ). Μέσω συστηματικής αναζήτησης διαμορφώσεων, εντοπίστηκαν δύο βέλτιστες κατά Pareto στρατηγικές λεπτομερούς προσαρμογής: μια διαμόρφωση με πλήρως παγωμένο τον κωδικοποιητή (Head-Only) και μια τύπου ULMFiT στρατηγική μερικής προσαρμογής του κωδικοποιητή σε δύο φάσεις. Οι προσεγγίσεις αυτές αξιολογήθηκαν σε σύγκριση με βασικά μοντέλα βαθιάς μάθησης εκπαιδευμένα από την αρχή και με μοντέλα μηχανικής μάθησης που χρησιμοποιούν προκαθορισμένα χαρακτηριστικά, χρησιμοποιώντας σε όλες τις περιπτώσεις τις ίδιες διαιρέσεις διασταυρούμενης επικύρωσης (cross-validation). Μεταξύ των μοντέλων που εκπαιδεύτηκαν αποκλειστικά σε δεδομένα ακτιγραφίας, τα μοντέλα PAT παρουσίασαν από τις πλέον ανταγωνιστικές επιδόσεις συνολικά. Το PAT ULMFiT πέτυχε τον υψηλότερο Συντελεστή Συσχέτισης Matthews (MCC ≈ 0,49), καθώς και τις υψηλότερες τιμές F1-score και ισορροπημένης ακρίβειας (balanced accuracy). Ξεπέρασε τόσο τα μοντέλα βαθιάς μάθησης όσο και τα μοντέλα κλασικής μηχανικής μάθησης ως προς αυτές τις μετρικές. Η επίδοση ήταν επίσης ανταγωνιστική σε σχέση με μοντέλα μηχανικής μάθησης που χρησιμοποίησαν την ηλικία των συμμετεχόντων ως χαρακτηριστικό, παρότι στις λύσεις που βασίζονται στο PAT δεν δόθηκε η ηλικία, γεγονός που υποδηλώνει ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας αποτυπώνουν διακριτική χρονική δομή πέρα από όσα μπορούν να συλλάβουν οι συνοπτικοί κιρκάδιοι δείκτες. Για την ερμηνεία των μοντέλων χρησιμοποιήθηκε ένα μεθοδολογικό πλαίσιο, το οποίο συνδυάζει τις Ολοκληρωμένες Κλίσεις (Integrated Gradients), τον μηχανισμό προσοχής (learned attention pooling) και την ανάλυση απόκρυψης (occlusion analysis). Το πλαίσιο αυτό ανέδειξε ένα κιρκάδιο πρότυπο ευαισθησίας εστιασμένο στη νυχτερινή δραστηριότητα και στην ημερήσια μειωμένη δραστηριότητα. Τα μοντέλα αποδίδουν ενδείξεις υπέρ της ΗΓΔ σε αυξημένη νυχτερινή δραστηριότητα και σταθερά μειωμένη ημερήσια δραστηριότητα, με την πολικότητα των συνεισφορών να μεταβάλλεται κοντά στο όριο ύπνου–αφύπνισης. Επιπλέον, η ανάλυση απόκρυψης αναδεικνύει ανεξάρτητα τη σημασία των νυχτερινών περιόδων και συμπληρώνει την παρατηρούμενη χρονική υστέρηση φάσης μεταξύ της μέγιστης ευαισθησίας των μοντέλων και της κορύφωσης του νυχτερινού κατακερματισμού που σχετίζεται με την ΗΓΔ. Ως μελέτη απόδειξης της ορθότητας της ιδέας σε ένα μόνο κλινικό δείγμα, τα ευρήματα αυτά υποδηλώνουν ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας μπορούν να αξιοποιηθούν στην ταξινόμηση της κλινικά διαγνωσμένης ΗΓΔ και να αναδείξουν ερμηνεύσιμες κιρκάδιες υπογραφές, οι οποίες είναι συνεπείς με γνωστές διαταραχές των ρυθμών ανάπαυσης–δραστηριότητας που σχετίζονται με τη γνωσιακή έκπτωση.","abstract_html":"Η Ήπια Γνωσιακή Διαταραχή (ΗΓΔ) αποτελεί πρόδρομο στάδιο της άνοιας και επηρεάζει περίπου το 15–20% των ενηλίκων άνω των 60 ετών. Προς το παρόν, εξακολουθούν να λείπουν εργαλεία αξιολόγησης που να μπορούν να εφαρμοστούν σε μεγάλη κλίμακα και με μικρή επιβάρυνση για τους εξεταζόμενους. Η ακτιγραφία καρπού αναδεικνύεται ως μία υποσχόμενη μέθοδος, επιτρέποντας την συνεχή και μη παρεμβατική καταγραφή των ρυθμών ανάπαυσης-δραστηριότητας σε πραγματικές συνθήκες. Αν και οι διαταραχές των κιρκάδιων ρυθμών έχουν συσχετιστεί με την γνωσιακή έκπτωση, οι προσεγγίσεις κλασικής μηχανικής μάθησης που αξιοποιούν χαρακτηριστικά ακτιγραφίας έχουν γενικά επιδείξει μέτρια μόνο αποτελεσματικότητα στη διάκριση μεταξύ γνωσιακά φυσιολογικών ατόμων (ΓΦΑ) και ατόμων με ΗΓΔ. Η παρούσα διπλωματική εργασία διερευνά κατά πόσον ένα προεκπαιδευμένο θεμελιώδες μοντέλο ακτιγραφίας (PAT foundation model) μπορεί να προσαρμοστεί στο πρόβλημα ταξινόμησης της ΗΓΔ χωρίς να απαιτείται εξαγωγή χαρακτηριστικών (feature extraction), καθώς και κατά πόσο οι αναπαραστάσεις που μαθαίνει μπορούν να ερμηνευθούν ως προς κιρκάδια πρότυπα σχετικά με τη γνωσιακή έκπτωση. Η μελέτη περιλαμβάνει τη λεπτομερή προσαρμογή (fine-tuning) του Προεκπαιδευμένου Μοντέλου Βαθιάς Μάθησης σε δεδομένα Ακτιγραφίας (Pretrained Actigraphy Transformer, PAT-Large), το οποίο εκπαιδεύτηκε μέσω ανακατασκευής κρυμμένων τμημάτων (masked patch reconstruction) σε 29.307 συμμετέχοντες της NHANES, για δυαδική ταξινόμηση μεταξύ ΓΦΑ και ατόμων με ΗΓΔ. Χρησιμοποιούνται εξαήμερες καταγραφές ακτιγραφίας καρπού από 150 κλινικά χαρακτηρισμένους συμμετέχοντες της έρευνας ALBION (98 ΓΦΑ, 52 ΗΓΔ). Μέσω συστηματικής αναζήτησης διαμορφώσεων, εντοπίστηκαν δύο βέλτιστες κατά Pareto στρατηγικές λεπτομερούς προσαρμογής: μια διαμόρφωση με πλήρως παγωμένο τον κωδικοποιητή (Head-Only) και μια τύπου ULMFiT στρατηγική μερικής προσαρμογής του κωδικοποιητή σε δύο φάσεις. Οι προσεγγίσεις αυτές αξιολογήθηκαν σε σύγκριση με βασικά μοντέλα βαθιάς μάθησης εκπαιδευμένα από την αρχή και με μοντέλα μηχανικής μάθησης που χρησιμοποιούν προκαθορισμένα χαρακτηριστικά, χρησιμοποιώντας σε όλες τις περιπτώσεις τις ίδιες διαιρέσεις διασταυρούμενης επικύρωσης (cross-validation). Μεταξύ των μοντέλων που εκπαιδεύτηκαν αποκλειστικά σε δεδομένα ακτιγραφίας, τα μοντέλα PAT παρουσίασαν από τις πλέον ανταγωνιστικές επιδόσεις συνολικά. Το PAT ULMFiT πέτυχε τον υψηλότερο Συντελεστή Συσχέτισης Matthews (MCC ≈ 0,49), καθώς και τις υψηλότερες τιμές F1-score και ισορροπημένης ακρίβειας (balanced accuracy). Ξεπέρασε τόσο τα μοντέλα βαθιάς μάθησης όσο και τα μοντέλα κλασικής μηχανικής μάθησης ως προς αυτές τις μετρικές. Η επίδοση ήταν επίσης ανταγωνιστική σε σχέση με μοντέλα μηχανικής μάθησης που χρησιμοποίησαν την ηλικία των συμμετεχόντων ως χαρακτηριστικό, παρότι στις λύσεις που βασίζονται στο PAT δεν δόθηκε η ηλικία, γεγονός που υποδηλώνει ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας αποτυπώνουν διακριτική χρονική δομή πέρα από όσα μπορούν να συλλάβουν οι συνοπτικοί κιρκάδιοι δείκτες. Για την ερμηνεία των μοντέλων χρησιμοποιήθηκε ένα μεθοδολογικό πλαίσιο, το οποίο συνδυάζει τις Ολοκληρωμένες Κλίσεις (Integrated Gradients), τον μηχανισμό προσοχής (learned attention pooling) και την ανάλυση απόκρυψης (occlusion analysis). Το πλαίσιο αυτό ανέδειξε ένα κιρκάδιο πρότυπο ευαισθησίας εστιασμένο στη νυχτερινή δραστηριότητα και στην ημερήσια μειωμένη δραστηριότητα. Τα μοντέλα αποδίδουν ενδείξεις υπέρ της ΗΓΔ σε αυξημένη νυχτερινή δραστηριότητα και σταθερά μειωμένη ημερήσια δραστηριότητα, με την πολικότητα των συνεισφορών να μεταβάλλεται κοντά στο όριο ύπνου–αφύπνισης. Επιπλέον, η ανάλυση απόκρυψης αναδεικνύει ανεξάρτητα τη σημασία των νυχτερινών περιόδων και συμπληρώνει την παρατηρούμενη χρονική υστέρηση φάσης μεταξύ της μέγιστης ευαισθησίας των μοντέλων και της κορύφωσης του νυχτερινού κατακερματισμού που σχετίζεται με την ΗΓΔ. Ως μελέτη απόδειξης της ορθότητας της ιδέας σε ένα μόνο κλινικό δείγμα, τα ευρήματα αυτά υποδηλώνουν ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας μπορούν να αξιοποιηθούν στην ταξινόμηση της κλινικά διαγνωσμένης ΗΓΔ και να αναδείξουν ερμηνεύσιμες κιρκάδιες υπογραφές, οι οποίες είναι συνεπείς με γνωστές διαταραχές των ρυθμών ανάπαυσης–δραστηριότητας που σχετίζονται με τη γνωσιακή έκπτωση.","abstract_has_math":false,"creators":["Χατζητόλιος Βασίλειος-Κλέαρχος","Chatzitolios Vasileios-Klearchos"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-11-19T05:20:09Z","subjects":["Θετικές Επιστήμες","Science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5421901"],"render_values":[{"text":"uoadl:5421901","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5421901","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5421901","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A5421901","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Χατζητόλιος Βασίλειος-Κλέαρχος","Chatzitolios Vasileios-Klearchos"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Θετικές Επιστήμες","Science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5421901","https://pergamos.lib.uoa.gr/uoa/dl/object/5421901"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Η Ήπια Γνωσιακή Διαταραχή (ΗΓΔ) αποτελεί πρόδρομο στάδιο της άνοιας και επηρεάζει περίπου το 15–20% των ενηλίκων άνω των 60 ετών. Προς το παρόν, εξακολουθούν να λείπουν εργαλεία αξιολόγησης που να μπορούν να εφαρμοστούν σε μεγάλη κλίμακα και με μικρή επιβάρυνση για τους εξεταζόμενους. Η ακτιγραφία καρπού αναδεικνύεται ως μία υποσχόμενη μέθοδος, επιτρέποντας την συνεχή και μη παρεμβατική καταγραφή των ρυθμών ανάπαυσης-δραστηριότητας σε πραγματικές συνθήκες. Αν και οι διαταραχές των κιρκάδιων ρυθμών έχουν συσχετιστεί με την γνωσιακή έκπτωση, οι προσεγγίσεις κλασικής μηχανικής μάθησης που αξιοποιούν χαρακτηριστικά ακτιγραφίας έχουν γενικά επιδείξει μέτρια μόνο αποτελεσματικότητα στη διάκριση μεταξύ γνωσιακά φυσιολογικών ατόμων (ΓΦΑ) και ατόμων με ΗΓΔ. Η παρούσα διπλωματική εργασία διερευνά κατά πόσον ένα προεκπαιδευμένο θεμελιώδες μοντέλο ακτιγραφίας (PAT foundation model) μπορεί να προσαρμοστεί στο πρόβλημα ταξινόμησης της ΗΓΔ χωρίς να απαιτείται εξαγωγή χαρακτηριστικών (feature extraction), καθώς και κατά πόσο οι αναπαραστάσεις που μαθαίνει μπορούν να ερμηνευθούν ως προς κιρκάδια πρότυπα σχετικά με τη γνωσιακή έκπτωση. Η μελέτη περιλαμβάνει τη λεπτομερή προσαρμογή (fine-tuning) του Προεκπαιδευμένου Μοντέλου Βαθιάς Μάθησης σε δεδομένα Ακτιγραφίας (Pretrained Actigraphy Transformer, PAT-Large), το οποίο εκπαιδεύτηκε μέσω ανακατασκευής κρυμμένων τμημάτων (masked patch reconstruction) σε 29.307 συμμετέχοντες της NHANES, για δυαδική ταξινόμηση μεταξύ ΓΦΑ και ατόμων με ΗΓΔ. Χρησιμοποιούνται εξαήμερες καταγραφές ακτιγραφίας καρπού από 150 κλινικά χαρακτηρισμένους συμμετέχοντες της έρευνας ALBION (98 ΓΦΑ, 52 ΗΓΔ). Μέσω συστηματικής αναζήτησης διαμορφώσεων, εντοπίστηκαν δύο βέλτιστες κατά Pareto στρατηγικές λεπτομερούς προσαρμογής: μια διαμόρφωση με πλήρως παγωμένο τον κωδικοποιητή (Head-Only) και μια τύπου ULMFiT στρατηγική μερικής προσαρμογής του κωδικοποιητή σε δύο φάσεις. Οι προσεγγίσεις αυτές αξιολογήθηκαν σε σύγκριση με βασικά μοντέλα βαθιάς μάθησης εκπαιδευμένα από την αρχή και με μοντέλα μηχανικής μάθησης που χρησιμοποιούν προκαθορισμένα χαρακτηριστικά, χρησιμοποιώντας σε όλες τις περιπτώσεις τις ίδιες διαιρέσεις διασταυρούμενης επικύρωσης (cross-validation). Μεταξύ των μοντέλων που εκπαιδεύτηκαν αποκλειστικά σε δεδομένα ακτιγραφίας, τα μοντέλα PAT παρουσίασαν από τις πλέον ανταγωνιστικές επιδόσεις συνολικά. Το PAT ULMFiT πέτυχε τον υψηλότερο Συντελεστή Συσχέτισης Matthews (MCC ≈ 0,49), καθώς και τις υψηλότερες τιμές F1-score και ισορροπημένης ακρίβειας (balanced accuracy). Ξεπέρασε τόσο τα μοντέλα βαθιάς μάθησης όσο και τα μοντέλα κλασικής μηχανικής μάθησης ως προς αυτές τις μετρικές. Η επίδοση ήταν επίσης ανταγωνιστική σε σχέση με μοντέλα μηχανικής μάθησης που χρησιμοποίησαν την ηλικία των συμμετεχόντων ως χαρακτηριστικό, παρότι στις λύσεις που βασίζονται στο PAT δεν δόθηκε η ηλικία, γεγονός που υποδηλώνει ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας αποτυπώνουν διακριτική χρονική δομή πέρα από όσα μπορούν να συλλάβουν οι συνοπτικοί κιρκάδιοι δείκτες. Για την ερμηνεία των μοντέλων χρησιμοποιήθηκε ένα μεθοδολογικό πλαίσιο, το οποίο συνδυάζει τις Ολοκληρωμένες Κλίσεις (Integrated Gradients), τον μηχανισμό προσοχής (learned attention pooling) και την ανάλυση απόκρυψης (occlusion analysis). Το πλαίσιο αυτό ανέδειξε ένα κιρκάδιο πρότυπο ευαισθησίας εστιασμένο στη νυχτερινή δραστηριότητα και στην ημερήσια μειωμένη δραστηριότητα. Τα μοντέλα αποδίδουν ενδείξεις υπέρ της ΗΓΔ σε αυξημένη νυχτερινή δραστηριότητα και σταθερά μειωμένη ημερήσια δραστηριότητα, με την πολικότητα των συνεισφορών να μεταβάλλεται κοντά στο όριο ύπνου–αφύπνισης. Επιπλέον, η ανάλυση απόκρυψης αναδεικνύει ανεξάρτητα τη σημασία των νυχτερινών περιόδων και συμπληρώνει την παρατηρούμενη χρονική υστέρηση φάσης μεταξύ της μέγιστης ευαισθησίας των μοντέλων και της κορύφωσης του νυχτερινού κατακερματισμού που σχετίζεται με την ΗΓΔ. Ως μελέτη απόδειξης της ορθότητας της ιδέας σε ένα μόνο κλινικό δείγμα, τα ευρήματα αυτά υποδηλώνουν ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας μπορούν να αξιοποιηθούν στην ταξινόμηση της κλινικά διαγνωσμένης ΗΓΔ και να αναδείξουν ερμηνεύσιμες κιρκάδιες υπογραφές, οι οποίες είναι συνεπείς με γνωστές διαταραχές των ρυθμών ανάπαυσης–δραστηριότητας που σχετίζονται με τη γνωσιακή έκπτωση.","Mild Cognitive Impairment (MCI) represents a prodromal stage of dementia, impacting approximately 15–20% of adults over the age of 60. Currently, scalable and low-burden assessment tools remain scarce. Wrist actigraphy emerges as a promising modality, offering continuous and unobtrusive measurement of rest–activity rhythms in real-world environments. Although disrupted circadian rhythms have been linked to cognitive decline, classical machine learning approaches that use human-selected actigraphy features have generally demonstrated only moderate efficacy in distinguishing cognitively normal (NC) individuals from those with MCI. This thesis investigates whether a pretrained actigraphy foundation model can be transferred to MCI classification without the need for human feature engineering, and whether its learned representations can be interpreted in terms of circadian patterns relevant to cognitive decline. The study involves fine-tuning the Pretrained Actigraphy Transformer (PAT-Large), which was pretrained via masked patch reconstruction on 29,307 NHANES participants, for binary classification between normal control (NC) and MCI. It employs six-day wrist actigraphy recordings from 150 clinically characterized participants in the ALBION Greek cohort (98 NC, 52 MCI). Through a systematic configuration search, two Pareto-optimal fine-tuning strategies were identified: a fully frozen encoder configuration (Head-Only) and a ULMFiT-style two-phase partial adaptation strategy. These approaches were evaluated against deep learning baselines trained from scratch and classical machine learning models utilizing feature engineering, all using identical stratified cross-validation splits. Among models trained exclusively on actigraphy data, PAT fine-tuned solutions demonstrated leading overall performance. PAT ULMFiT achieved the highest Matthews Correlation Coefficient (MCC ≈ 0.49), F1 score, and balanced accuracy. It outperformed both raw-sequence deep learning baselines and feature-engineered machine learning pipelines on these summary metrics. Performance was also competitive with age-augmented machine learning models, despite PAT-based solutions not receiving participant age, suggesting that pretrained actigraphy representations capture discriminative temporal structure beyond what circadian summaries alone can. A multi-method interpretability framework that integrates Integrated Gradients, learned attention pooling, and occlusion analysis has identified a circadian sensitivity pattern characterized by nocturnal activity and daytime hypoactivity. The model attributes MCI-supporting evidence to heightened nocturnal activity and persistent daytime hypoactivity, with the attribution polarity shifting near the sleep–wake boundary. Furthermore, occlusion analysis independently underscores the importance of nocturnal periods and complements the observed phase lag between peak model sensitivity and the peak of MCI-related nocturnal fragmentation. As an initial proof of concept in a single cohort, these findings indicate that pretrained actigraphy representations can be transferred to the classification of clinician-diagnosed MCI and produce interpretable circadian signatures consistent with established rest–activity disturbances associated with cognitive decline."]},{"key":"dc:title","label":"Title","values":["Fine-Tuning a Pretrained Actigraphy Transformer for Mild Cognitive Impairment Classification"]}]}],"canonical_facts":{"dc:creator":["Χατζητόλιος Βασίλειος-Κλέαρχος","Chatzitolios Vasileios-Klearchos"],"dc:date":["2026"],"dc:description":["Η Ήπια Γνωσιακή Διαταραχή (ΗΓΔ) αποτελεί πρόδρομο στάδιο της άνοιας και επηρεάζει περίπου το 15–20% των ενηλίκων άνω των 60 ετών. Προς το παρόν, εξακολουθούν να λείπουν εργαλεία αξιολόγησης που να μπορούν να εφαρμοστούν σε μεγάλη κλίμακα και με μικρή επιβάρυνση για τους εξεταζόμενους. Η ακτιγραφία καρπού αναδεικνύεται ως μία υποσχόμενη μέθοδος, επιτρέποντας την συνεχή και μη παρεμβατική καταγραφή των ρυθμών ανάπαυσης-δραστηριότητας σε πραγματικές συνθήκες. Αν και οι διαταραχές των κιρκάδιων ρυθμών έχουν συσχετιστεί με την γνωσιακή έκπτωση, οι προσεγγίσεις κλασικής μηχανικής μάθησης που αξιοποιούν χαρακτηριστικά ακτιγραφίας έχουν γενικά επιδείξει μέτρια μόνο αποτελεσματικότητα στη διάκριση μεταξύ γνωσιακά φυσιολογικών ατόμων (ΓΦΑ) και ατόμων με ΗΓΔ. Η παρούσα διπλωματική εργασία διερευνά κατά πόσον ένα προεκπαιδευμένο θεμελιώδες μοντέλο ακτιγραφίας (PAT foundation model) μπορεί να προσαρμοστεί στο πρόβλημα ταξινόμησης της ΗΓΔ χωρίς να απαιτείται εξαγωγή χαρακτηριστικών (feature extraction), καθώς και κατά πόσο οι αναπαραστάσεις που μαθαίνει μπορούν να ερμηνευθούν ως προς κιρκάδια πρότυπα σχετικά με τη γνωσιακή έκπτωση. Η μελέτη περιλαμβάνει τη λεπτομερή προσαρμογή (fine-tuning) του Προεκπαιδευμένου Μοντέλου Βαθιάς Μάθησης σε δεδομένα Ακτιγραφίας (Pretrained Actigraphy Transformer, PAT-Large), το οποίο εκπαιδεύτηκε μέσω ανακατασκευής κρυμμένων τμημάτων (masked patch reconstruction) σε 29.307 συμμετέχοντες της NHANES, για δυαδική ταξινόμηση μεταξύ ΓΦΑ και ατόμων με ΗΓΔ. Χρησιμοποιούνται εξαήμερες καταγραφές ακτιγραφίας καρπού από 150 κλινικά χαρακτηρισμένους συμμετέχοντες της έρευνας ALBION (98 ΓΦΑ, 52 ΗΓΔ). Μέσω συστηματικής αναζήτησης διαμορφώσεων, εντοπίστηκαν δύο βέλτιστες κατά Pareto στρατηγικές λεπτομερούς προσαρμογής: μια διαμόρφωση με πλήρως παγωμένο τον κωδικοποιητή (Head-Only) και μια τύπου ULMFiT στρατηγική μερικής προσαρμογής του κωδικοποιητή σε δύο φάσεις. Οι προσεγγίσεις αυτές αξιολογήθηκαν σε σύγκριση με βασικά μοντέλα βαθιάς μάθησης εκπαιδευμένα από την αρχή και με μοντέλα μηχανικής μάθησης που χρησιμοποιούν προκαθορισμένα χαρακτηριστικά, χρησιμοποιώντας σε όλες τις περιπτώσεις τις ίδιες διαιρέσεις διασταυρούμενης επικύρωσης (cross-validation). Μεταξύ των μοντέλων που εκπαιδεύτηκαν αποκλειστικά σε δεδομένα ακτιγραφίας, τα μοντέλα PAT παρουσίασαν από τις πλέον ανταγωνιστικές επιδόσεις συνολικά. Το PAT ULMFiT πέτυχε τον υψηλότερο Συντελεστή Συσχέτισης Matthews (MCC ≈ 0,49), καθώς και τις υψηλότερες τιμές F1-score και ισορροπημένης ακρίβειας (balanced accuracy). Ξεπέρασε τόσο τα μοντέλα βαθιάς μάθησης όσο και τα μοντέλα κλασικής μηχανικής μάθησης ως προς αυτές τις μετρικές. Η επίδοση ήταν επίσης ανταγωνιστική σε σχέση με μοντέλα μηχανικής μάθησης που χρησιμοποίησαν την ηλικία των συμμετεχόντων ως χαρακτηριστικό, παρότι στις λύσεις που βασίζονται στο PAT δεν δόθηκε η ηλικία, γεγονός που υποδηλώνει ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας αποτυπώνουν διακριτική χρονική δομή πέρα από όσα μπορούν να συλλάβουν οι συνοπτικοί κιρκάδιοι δείκτες. Για την ερμηνεία των μοντέλων χρησιμοποιήθηκε ένα μεθοδολογικό πλαίσιο, το οποίο συνδυάζει τις Ολοκληρωμένες Κλίσεις (Integrated Gradients), τον μηχανισμό προσοχής (learned attention pooling) και την ανάλυση απόκρυψης (occlusion analysis). Το πλαίσιο αυτό ανέδειξε ένα κιρκάδιο πρότυπο ευαισθησίας εστιασμένο στη νυχτερινή δραστηριότητα και στην ημερήσια μειωμένη δραστηριότητα. Τα μοντέλα αποδίδουν ενδείξεις υπέρ της ΗΓΔ σε αυξημένη νυχτερινή δραστηριότητα και σταθερά μειωμένη ημερήσια δραστηριότητα, με την πολικότητα των συνεισφορών να μεταβάλλεται κοντά στο όριο ύπνου–αφύπνισης. Επιπλέον, η ανάλυση απόκρυψης αναδεικνύει ανεξάρτητα τη σημασία των νυχτερινών περιόδων και συμπληρώνει την παρατηρούμενη χρονική υστέρηση φάσης μεταξύ της μέγιστης ευαισθησίας των μοντέλων και της κορύφωσης του νυχτερινού κατακερματισμού που σχετίζεται με την ΗΓΔ. Ως μελέτη απόδειξης της ορθότητας της ιδέας σε ένα μόνο κλινικό δείγμα, τα ευρήματα αυτά υποδηλώνουν ότι οι προεκπαιδευμένες αναπαραστάσεις ακτιγραφίας μπορούν να αξιοποιηθούν στην ταξινόμηση της κλινικά διαγνωσμένης ΗΓΔ και να αναδείξουν ερμηνεύσιμες κιρκάδιες υπογραφές, οι οποίες είναι συνεπείς με γνωστές διαταραχές των ρυθμών ανάπαυσης–δραστηριότητας που σχετίζονται με τη γνωσιακή έκπτωση.","Mild Cognitive Impairment (MCI) represents a prodromal stage of dementia, impacting approximately 15–20% of adults over the age of 60. Currently, scalable and low-burden assessment tools remain scarce. Wrist actigraphy emerges as a promising modality, offering continuous and unobtrusive measurement of rest–activity rhythms in real-world environments. Although disrupted circadian rhythms have been linked to cognitive decline, classical machine learning approaches that use human-selected actigraphy features have generally demonstrated only moderate efficacy in distinguishing cognitively normal (NC) individuals from those with MCI. This thesis investigates whether a pretrained actigraphy foundation model can be transferred to MCI classification without the need for human feature engineering, and whether its learned representations can be interpreted in terms of circadian patterns relevant to cognitive decline. The study involves fine-tuning the Pretrained Actigraphy Transformer (PAT-Large), which was pretrained via masked patch reconstruction on 29,307 NHANES participants, for binary classification between normal control (NC) and MCI. It employs six-day wrist actigraphy recordings from 150 clinically characterized participants in the ALBION Greek cohort (98 NC, 52 MCI). Through a systematic configuration search, two Pareto-optimal fine-tuning strategies were identified: a fully frozen encoder configuration (Head-Only) and a ULMFiT-style two-phase partial adaptation strategy. These approaches were evaluated against deep learning baselines trained from scratch and classical machine learning models utilizing feature engineering, all using identical stratified cross-validation splits. Among models trained exclusively on actigraphy data, PAT fine-tuned solutions demonstrated leading overall performance. PAT ULMFiT achieved the highest Matthews Correlation Coefficient (MCC ≈ 0.49), F1 score, and balanced accuracy. It outperformed both raw-sequence deep learning baselines and feature-engineered machine learning pipelines on these summary metrics. Performance was also competitive with age-augmented machine learning models, despite PAT-based solutions not receiving participant age, suggesting that pretrained actigraphy representations capture discriminative temporal structure beyond what circadian summaries alone can. A multi-method interpretability framework that integrates Integrated Gradients, learned attention pooling, and occlusion analysis has identified a circadian sensitivity pattern characterized by nocturnal activity and daytime hypoactivity. The model attributes MCI-supporting evidence to heightened nocturnal activity and persistent daytime hypoactivity, with the attribution polarity shifting near the sleep–wake boundary. Furthermore, occlusion analysis independently underscores the importance of nocturnal periods and complements the observed phase lag between peak model sensitivity and the peak of MCI-related nocturnal fragmentation. As an initial proof of concept in a single cohort, these findings indicate that pretrained actigraphy representations can be transferred to the classification of clinician-diagnosed MCI and produce interpretable circadian signatures consistent with established rest–activity disturbances associated with cognitive decline."],"dc:identifier":["uoadl:5421901","https://pergamos.lib.uoa.gr/uoa/dl/object/5421901"],"dc:language":["English"],"dc:subject":["Θετικές Επιστήμες","Science"],"dc:title":["Fine-Tuning a Pretrained Actigraphy Transformer for Mild Cognitive Impairment Classification"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:20:09Z"}