{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5325645"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5325645","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Interpretable and Efficient Music Harmonic Analysis Using Multilinear Mixture of Experts and Parameter-Efficient Fine-Tuning Methods","abstract":"Σκοπός της παρούσας διπλωματικής εργασίας είναι η μελέτη της αυτόματης ανάλυσης αρμονίας με ρωμαϊκούς αριθμούς (Roman Numeral Analysis) στο πεδίο της ανάκτησης μουσικής πληροφορίας (Music Information Retrieval) και πώς αυτή μπορεί να βελτιωθεί βάσει της αποδοτικότητας και της ερμηνευσιμότητας. Τα τελευταία χρόνια, παρατηρείται αύξηση στην έρευνα πάνω στην αυτόματη ανάλυση αρμονίας με ρωμαϊκούς αριθμούς, με διάφορους τύπους αρχιτεκτονικών και μεθοδολογιών. Παρατηρούμε επίσης την άνοδο της χρήσης μοντέλων μετασχηματιστών (transformer models) για την αυτόματη ανάλυσης αρμονίας, τα οποία παρουσιάζουν σημαντικές βελτιώσεις, τόσο για μηχανικούς όσο και για μουσικολόγους. Η συγκεκριμένη διεργασία απαιτεί από τα μοντέλα να αναγνωρίζουν αρμονικές λειτουργίες σε μουσικές παρτιτούρες. Ένα μοντέλο βασισμένο στην αρχιτεκτονική BERT, το RNBERT, βελτιστοποιεί το MusicBERT σε ένα πλαίσιο πολυδιεργασιακής μάθησης (Multi-task Learning), επιτυγχάνοντας ακρίβεια τεχνολογίας αιχμής (state-of-theart), αλλά λειτουργεί ως «μαύρο κουτί», χωρίς να προσφέρει εξηγήσεις για τον αναλυτικό του συλλογισμό. Στο πρώτο στάδιο της έρευνάς μας, εισάγουμε στο RNBERT διαφορετικές μεθόδους Παραμετρικά Αποδοτικής Βελτιστοποίησης, ώστε να κάνουμε το μοντέλο πιο ελαφρύ και αποδοτικό. Στο δεύτερο στάδιο, παρουσιάζουμε μια νέα αρχιτεκτονική που αντιμετωπίζει το πρόβλημα της ερμηνευσιμότητας, ενσωματώνοντας επίπεδα Πολυγραμμικού Συνδυασμού Ειδικών (Multilinear Mixture of Experts layers) στο μοντέλο RNBERT. Αυτή η προσέγγιση διατηρεί το μοντέλο αποδοτικό ως προς τις παραμέτρους, με ελάχιστες απώλειες στην απόδοση της ακρίβειας, και το καθιστά εκ φύσεως ερμηνεύσιμο. Μέσω ποσοτικής ανάλυσης και οπτικοποίησης των συνιστώσων των ειδικών, αποδεικνύουμε ότι οι ειδικοί μαθαίνουν να εξειδικεύονται σε αρμονικά χαρακτηριστικά βάση μουσικοθεωρητικών αρχών, συμπεριλαμβανομένων των σχέσεων δεσπόζουσας-τονικής με βάση τον κύκλο των πεμπτών κατά την αλλαγή τονικότητας.","abstract_html":"Σκοπός της παρούσας διπλωματικής εργασίας είναι η μελέτη της αυτόματης ανάλυσης αρμονίας με ρωμαϊκούς αριθμούς (Roman Numeral Analysis) στο πεδίο της ανάκτησης μουσικής πληροφορίας (Music Information Retrieval) και πώς αυτή μπορεί να βελτιωθεί βάσει της αποδοτικότητας και της ερμηνευσιμότητας. Τα τελευταία χρόνια, παρατηρείται αύξηση στην έρευνα πάνω στην αυτόματη ανάλυση αρμονίας με ρωμαϊκούς αριθμούς, με διάφορους τύπους αρχιτεκτονικών και μεθοδολογιών. Παρατηρούμε επίσης την άνοδο της χρήσης μοντέλων μετασχηματιστών (transformer models) για την αυτόματη ανάλυσης αρμονίας, τα οποία παρουσιάζουν σημαντικές βελτιώσεις, τόσο για μηχανικούς όσο και για μουσικολόγους. Η συγκεκριμένη διεργασία απαιτεί από τα μοντέλα να αναγνωρίζουν αρμονικές λειτουργίες σε μουσικές παρτιτούρες. Ένα μοντέλο βασισμένο στην αρχιτεκτονική BERT, το RNBERT, βελτιστοποιεί το MusicBERT σε ένα πλαίσιο πολυδιεργασιακής μάθησης (Multi-task Learning), επιτυγχάνοντας ακρίβεια τεχνολογίας αιχμής (state-of-theart), αλλά λειτουργεί ως «μαύρο κουτί», χωρίς να προσφέρει εξηγήσεις για τον αναλυτικό του συλλογισμό. Στο πρώτο στάδιο της έρευνάς μας, εισάγουμε στο RNBERT διαφορετικές μεθόδους Παραμετρικά Αποδοτικής Βελτιστοποίησης, ώστε να κάνουμε το μοντέλο πιο ελαφρύ και αποδοτικό. Στο δεύτερο στάδιο, παρουσιάζουμε μια νέα αρχιτεκτονική που αντιμετωπίζει το πρόβλημα της ερμηνευσιμότητας, ενσωματώνοντας επίπεδα Πολυγραμμικού Συνδυασμού Ειδικών (Multilinear Mixture of Experts layers) στο μοντέλο RNBERT. Αυτή η προσέγγιση διατηρεί το μοντέλο αποδοτικό ως προς τις παραμέτρους, με ελάχιστες απώλειες στην απόδοση της ακρίβειας, και το καθιστά εκ φύσεως ερμηνεύσιμο. Μέσω ποσοτικής ανάλυσης και οπτικοποίησης των συνιστώσων των ειδικών, αποδεικνύουμε ότι οι ειδικοί μαθαίνουν να εξειδικεύονται σε αρμονικά χαρακτηριστικά βάση μουσικοθεωρητικών αρχών, συμπεριλαμβανομένων των σχέσεων δεσπόζουσας-τονικής με βάση τον κύκλο των πεμπτών κατά την αλλαγή τονικότητας.","abstract_has_math":false,"creators":["Τριανταφύλλου Αθανάσιος","Triantafyllou Athanasios"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-11-19T05:17:47Z","subjects":["Θετικές Επιστήμες","Science"],"languages":["Ελληνικά","English","Greek"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5325645"],"render_values":[{"text":"uoadl:5325645","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5325645","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5325645","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A5325645","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Τριανταφύλλου Αθανάσιος","Triantafyllou Athanasios"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Θετικές Επιστήμες","Science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["Ελληνικά","English","Greek"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5325645","https://pergamos.lib.uoa.gr/uoa/dl/object/5325645"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Σκοπός της παρούσας διπλωματικής εργασίας είναι η μελέτη της αυτόματης ανάλυσης αρμονίας με ρωμαϊκούς αριθμούς (Roman Numeral Analysis) στο πεδίο της ανάκτησης μουσικής πληροφορίας (Music Information Retrieval) και πώς αυτή μπορεί να βελτιωθεί βάσει της αποδοτικότητας και της ερμηνευσιμότητας. Τα τελευταία χρόνια, παρατηρείται αύξηση στην έρευνα πάνω στην αυτόματη ανάλυση αρμονίας με ρωμαϊκούς αριθμούς, με διάφορους τύπους αρχιτεκτονικών και μεθοδολογιών. Παρατηρούμε επίσης την άνοδο της χρήσης μοντέλων μετασχηματιστών (transformer models) για την αυτόματη ανάλυσης αρμονίας, τα οποία παρουσιάζουν σημαντικές βελτιώσεις, τόσο για μηχανικούς όσο και για μουσικολόγους. Η συγκεκριμένη διεργασία απαιτεί από τα μοντέλα να αναγνωρίζουν αρμονικές λειτουργίες σε μουσικές παρτιτούρες. Ένα μοντέλο βασισμένο στην αρχιτεκτονική BERT, το RNBERT, βελτιστοποιεί το MusicBERT σε ένα πλαίσιο πολυδιεργασιακής μάθησης (Multi-task Learning), επιτυγχάνοντας ακρίβεια τεχνολογίας αιχμής (state-of-theart), αλλά λειτουργεί ως «μαύρο κουτί», χωρίς να προσφέρει εξηγήσεις για τον αναλυτικό του συλλογισμό. Στο πρώτο στάδιο της έρευνάς μας, εισάγουμε στο RNBERT διαφορετικές μεθόδους Παραμετρικά Αποδοτικής Βελτιστοποίησης, ώστε να κάνουμε το μοντέλο πιο ελαφρύ και αποδοτικό. Στο δεύτερο στάδιο, παρουσιάζουμε μια νέα αρχιτεκτονική που αντιμετωπίζει το πρόβλημα της ερμηνευσιμότητας, ενσωματώνοντας επίπεδα Πολυγραμμικού Συνδυασμού Ειδικών (Multilinear Mixture of Experts layers) στο μοντέλο RNBERT. Αυτή η προσέγγιση διατηρεί το μοντέλο αποδοτικό ως προς τις παραμέτρους, με ελάχιστες απώλειες στην απόδοση της ακρίβειας, και το καθιστά εκ φύσεως ερμηνεύσιμο. Μέσω ποσοτικής ανάλυσης και οπτικοποίησης των συνιστώσων των ειδικών, αποδεικνύουμε ότι οι ειδικοί μαθαίνουν να εξειδικεύονται σε αρμονικά χαρακτηριστικά βάση μουσικοθεωρητικών αρχών, συμπεριλαμβανομένων των σχέσεων δεσπόζουσας-τονικής με βάση τον κύκλο των πεμπτών κατά την αλλαγή τονικότητας.","The purpose of this dissertation is to study the music information retrieval task of automatic Roman numeral analysis and how it can be improved based on efficiency and interpretability. Over the last years, there has been an increase in research on the task of automatic Roman numeral analysis with different types of architectures and methodologies. We also observe an emergence in the use of transformer models for automatic RNA, which show impactful results in the field for both engineers and musicologists. RNA requires models to recognize harmonic functions in musical scores, a BERT-based model, RNBERT, fine-tunes MusicBERT in a multi-task learning framework, achieving state-of-the-art accuracy, but functions as a ”black box,” without offering insights into its analytical reasoning. In the first stage of our research, we introduce to RNBERT different Parameter-efficient fine-tuning methods so that we can make the model more lightweight and efficient. In the second stage, we introduce a novel architecture that addresses the limitation of interpretability by integrating Multilinear Mixture of Experts layers into the RNBERT model. This approach keeps the model parameter-efficient, with minimal losses in accuracy, and makes it interpretable by its nature. Through quantitative analysis and visualization of expert activations, we demonstrate that individual experts learn to specialize in harmonic contexts following music-theoretical principles, including dominant-to-tonic relationships in a circle-of-fifths pattern across key changes."]},{"key":"dc:title","label":"Title","values":["Interpretable and Efficient Music Harmonic Analysis Using Multilinear Mixture of Experts and Parameter-Efficient Fine-Tuning Methods"]}]}],"canonical_facts":{"dc:creator":["Τριανταφύλλου Αθανάσιος","Triantafyllou Athanasios"],"dc:date":["2026"],"dc:description":["Σκοπός της παρούσας διπλωματικής εργασίας είναι η μελέτη της αυτόματης ανάλυσης αρμονίας με ρωμαϊκούς αριθμούς (Roman Numeral Analysis) στο πεδίο της ανάκτησης μουσικής πληροφορίας (Music Information Retrieval) και πώς αυτή μπορεί να βελτιωθεί βάσει της αποδοτικότητας και της ερμηνευσιμότητας. Τα τελευταία χρόνια, παρατηρείται αύξηση στην έρευνα πάνω στην αυτόματη ανάλυση αρμονίας με ρωμαϊκούς αριθμούς, με διάφορους τύπους αρχιτεκτονικών και μεθοδολογιών. Παρατηρούμε επίσης την άνοδο της χρήσης μοντέλων μετασχηματιστών (transformer models) για την αυτόματη ανάλυσης αρμονίας, τα οποία παρουσιάζουν σημαντικές βελτιώσεις, τόσο για μηχανικούς όσο και για μουσικολόγους. Η συγκεκριμένη διεργασία απαιτεί από τα μοντέλα να αναγνωρίζουν αρμονικές λειτουργίες σε μουσικές παρτιτούρες. Ένα μοντέλο βασισμένο στην αρχιτεκτονική BERT, το RNBERT, βελτιστοποιεί το MusicBERT σε ένα πλαίσιο πολυδιεργασιακής μάθησης (Multi-task Learning), επιτυγχάνοντας ακρίβεια τεχνολογίας αιχμής (state-of-theart), αλλά λειτουργεί ως «μαύρο κουτί», χωρίς να προσφέρει εξηγήσεις για τον αναλυτικό του συλλογισμό. Στο πρώτο στάδιο της έρευνάς μας, εισάγουμε στο RNBERT διαφορετικές μεθόδους Παραμετρικά Αποδοτικής Βελτιστοποίησης, ώστε να κάνουμε το μοντέλο πιο ελαφρύ και αποδοτικό. Στο δεύτερο στάδιο, παρουσιάζουμε μια νέα αρχιτεκτονική που αντιμετωπίζει το πρόβλημα της ερμηνευσιμότητας, ενσωματώνοντας επίπεδα Πολυγραμμικού Συνδυασμού Ειδικών (Multilinear Mixture of Experts layers) στο μοντέλο RNBERT. Αυτή η προσέγγιση διατηρεί το μοντέλο αποδοτικό ως προς τις παραμέτρους, με ελάχιστες απώλειες στην απόδοση της ακρίβειας, και το καθιστά εκ φύσεως ερμηνεύσιμο. Μέσω ποσοτικής ανάλυσης και οπτικοποίησης των συνιστώσων των ειδικών, αποδεικνύουμε ότι οι ειδικοί μαθαίνουν να εξειδικεύονται σε αρμονικά χαρακτηριστικά βάση μουσικοθεωρητικών αρχών, συμπεριλαμβανομένων των σχέσεων δεσπόζουσας-τονικής με βάση τον κύκλο των πεμπτών κατά την αλλαγή τονικότητας.","The purpose of this dissertation is to study the music information retrieval task of automatic Roman numeral analysis and how it can be improved based on efficiency and interpretability. Over the last years, there has been an increase in research on the task of automatic Roman numeral analysis with different types of architectures and methodologies. We also observe an emergence in the use of transformer models for automatic RNA, which show impactful results in the field for both engineers and musicologists. RNA requires models to recognize harmonic functions in musical scores, a BERT-based model, RNBERT, fine-tunes MusicBERT in a multi-task learning framework, achieving state-of-the-art accuracy, but functions as a ”black box,” without offering insights into its analytical reasoning. In the first stage of our research, we introduce to RNBERT different Parameter-efficient fine-tuning methods so that we can make the model more lightweight and efficient. In the second stage, we introduce a novel architecture that addresses the limitation of interpretability by integrating Multilinear Mixture of Experts layers into the RNBERT model. This approach keeps the model parameter-efficient, with minimal losses in accuracy, and makes it interpretable by its nature. Through quantitative analysis and visualization of expert activations, we demonstrate that individual experts learn to specialize in harmonic contexts following music-theoretical principles, including dominant-to-tonic relationships in a circle-of-fifths pattern across key changes."],"dc:identifier":["uoadl:5325645","https://pergamos.lib.uoa.gr/uoa/dl/object/5325645"],"dc:language":["Ελληνικά","English","Greek"],"dc:subject":["Θετικές Επιστήμες","Science"],"dc:title":["Interpretable and Efficient Music Harmonic Analysis Using Multilinear Mixture of Experts and Parameter-Efficient Fine-Tuning Methods"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:17:47Z"}