National and Kapodistrian University of Athens
Machine Learning for Archaeology: A Human-in-the-Loop Chronology Prediction System for Pottery from the Athenian Agora
Abstract
dc:descriptionΗ παρούσα διπλωματική εργασία εξετάζει κατά πόσο οι σύγχρονες μέθοδοι μηχανικής μάθησης μπορούν να αξιοποιηθούν στην αρχαιολογία ως εργαλείο υποστήριξης της λήψης αποφάσεων για τη χρονολογική ανάλυση αγγείων, παρέχοντας μια αρχική εκτίμηση, χωρίς να υποκαθιστούν την κρίση των ειδικών. Η χρονολόγηση των αγγείων αποτελεί μια χειρωνακτική και χρονοβόρα διαδικασία, το κόστος της οποίας θα μπορούσε να μειωθεί με τη χρήση ενός εργαλείου μηχανικής μάθησης. Το μεγαλύτερο μέρος των δημοσιευμένων ερευνών που εφαρμόζουν μηχανική μάθηση σε κεραμικά ευρήματα περιορίζεται στην ανάπτυξη και αξιολόγηση των μοντέλων, χωρίς να ενσωματώνονται σε μια προσβάσιμη εφαρμογή την οποία θα μπορούν να χρησιμοποιούν οι αρχαιολόγοι που διαχειρίζονται καθημερινά αυτά τα δεδομένα. Ως εκ τούτου, η εργασία έχει διπλό στόχο: αφενός, την υλοποίηση και συγκριτική αξιολόγηση διαφορετικών μεθοδολογιών και αλγορίθμων για την πρόβλεψη της χρονολογίας αγγείων και, αφετέρου, την ανάπτυξη ενός ολοκληρωμένου συστήματος που εφαρμόζει έναν επαναληπτικό κύκλο πρόβλεψης, επικύρωσης και επανεκπαίδευσης. Αρχικά, πραγματοποιείται συγκριτική μελέτη με τη χρήση 1.910 καταγεγραμμένων αγγείων από τον δωδέκατο τόμο της εκδοτικής σειράς «The Athenian Agora». Όλα τα αντικείμενα συνοδεύονται από περιγραφή κειμένου και χρονολόγηση που έχει προσδιοριστεί από ειδικούς και εκφράζεται ως χρονικό διάστημα ετών, ενώ περίπου τα μισά διαθέτουν φωτογραφία. Η πρόβλεψη της χρονολογίας προσεγγίζεται με δύο τρόπους: ως πρόβλημα ταξινόμησης σε μία από τέσσερις ιστορικές περιόδους και ως πρόβλημα παλινδρόμησης, με στόχο την εκτίμηση του έτους έναρξης και της διάρκειας του χρονικού διαστήματος. Συγκρίνονται πέντε μέθοδοι εξαγωγής χαρακτηριστικών σε δύο είδη δεδομένων: οι TF-IDF και BERT για το κείμενο και οι Canny με HOG, ResNet και ViT για τις εικόνες, καθώς και οι έξι δυνατοί συνδυασμοί των δύο ειδών, προκύπτοντας συνολικά έντεκα σύνολα χαρακτηριστικών. Κάθε σύνολο αξιολογείται με δύο οικογένειες μοντέλων: οκτώ κλασικούς αλγορίθμους, με ten-fold cross-validation, και ένα πολυτροπικό multilayer perceptron με ξεχωριστούς encoders για κείμενο και εικόνα. Για όλα τα μοντέλα πραγματοποιείται εξαντλητική αναζήτηση πλέγματος για τη ρύθμιση των παραμέτρων τους. Κάθε αποτέλεσμα παλινδρόμησης συνοδεύεται από confidence interval, το οποίο προκύπτει από τη διασπορά των ensemble μοντέλων και την quantile παλινδρόμηση για τα κλασικά μοντέλα, καθώς και από την τεχνική Monte Carlo Dropout για τα νευρωνικά δίκτυα. Στη συνέχεια, αναπτύσσεται μια διαδικτυακή εφαρμογή που ενσωματώνει τα επιλεγμένα μοντέλα. Οι ειδικοί μπορούν να υποβάλλουν την περιγραφή ενός αντικειμένου, μια φωτογραφία ή και τα δύο, να επιλέξουν τον τύπο χρονολογίας μεταξύ ιστορικής περιόδου και χρονικού διαστήματος ετών και να λαμβάνουν την πρόβλεψη του μοντέλου μαζί με αναλυτική παρουσίαση των επιμέρους στοιχείων της και της αβεβαιότητάς της, με έμφαση στην εύκολη ερμηνεία. Αφού προσδιοριστεί η πραγματική χρονολογία του αντικειμένου, μπορούν να την καταχωρίσουν, επιβεβαιώνοντας ή διορθώνοντάς την πρόβλεψη. Τα αντικείμενα που έχουν επικυρωθεί με αυτόν τον τρόπο χρησιμοποιούνται στη συνέχεια για την επανεκπαίδευση των μοντέλων, με σκοπό τη βελτίωση των μελλοντικών προβλέψεων. Κάθε κύκλος επανεκπαίδευσης παράγει μια νέα έκδοση όλων των μοντέλων που χρησιμοποιούνται στην εφαρμογή και την ανάγει αυτόματα στη live έκδοση. Το backend της εφαρμογής υλοποιείται με FastAPI, η βάση δεδομένων με PostgreSQL και το frontend με Angular. Τα μοντέλα και τα απαραίτητα αρχεία αποθηκύονται με διαχείριση εκδόσεων στο Hugging Face Hub, ενώ οι διαδικασίες επανεκπαίδευσης εκτελούνται σε serverless GPU. Η διεπαφή αξιολογήθηκε από τους συνεργάτες αρχαιολόγους σε δύο στάδια: διαμορφωτική αξιολόγηση ενός πρωτοτύπου και τελική αξιολόγηση του υλοποιημένου συστήματος. Τα μοντέλα κειμένου ξεπερνούν σταθερά την επίδοση των μοντέλων εικόνας σε πολλαπλές δοκιμές, γεγονός που μπορεί να αποδοθεί εν μέρει στη μικρή διαθεσιμότητα εικόνων στο συγκεκριμένο σύνολο δεδομένων. Για τον ίδιο λόγο, τα πολυτροπικά μοντέλα δεν προσφέρουν αξιόπιστη βελτίωση σε σχέση με τη χρήση μόνο κειμένου. Η κατάταξη των αναπαραστάσεων παραμένει σταθερή και στις δύο οικογένειες μοντέλων: το TF-IDF υπερέχει του BERT στα συγκεκριμένα δεδομένα, ενώ το ViT παρουσιάζει τις καλύτερες επιδόσεις μεταξύ των αναπαραστάσεων εικόνας. Η σύγκριση των δύο οικογενειών μοντέλων καταλήγει σε ισοδύναμες επιδόσεις: ακρίβεια 80,6% έναντι 80,1% στην ταξινόμηση με βάση το κείμενο και σφάλμα πρόβλεψης του έτους έναρξης 29,7 έναντι 33,1 ετών. Το σύστημα έχει αναπτυχθεί πλήρως και έχει χρησιμοποιηθεί από τους προβλεπόμενους χρήστες του, οι οποίοι εκτέλεσαν τον πλήρη κύκλο λειτουργίας του σε πραγματική υποδομή κατά τη διάρκεια της συνεδρίας αξιολόγησης. Δεν είναι εφικτό να διερευνηθεί στο πλαίσιο της παρούσας διπλωματικής εργασίας αν οι διαδοχικές εκδόσεις που προκύπτουν από την επανεκπαίδευση βελτιώνουν πράγματι τις επιδόσεις των μοντέλων, καθώς αυτό θα απαιτούσε τη συλλογή μεγάλου όγκου νέων επικυρωμένων δεδομένων σε βάθος χρόνου, καθώς και μια ειδικά σχεδιασμένη μεθοδολογία για τη μέτρηση της βελτίωσης.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Κρικώνης Δημήτριος
- Krikonis Dimitrios
Subjects
dc:subject × 2Rights
- Language dc:language
- English
Identifiers
dc:identifier.*- Identifier
- uoadl:5452682