National and Kapodistrian University of Athens
Ancient Greek to Modern Greek Machine Translation: A novel benchmark and fine-tuning experiments on LLMs and NMT models
Abstract
dc:descriptionΗ μηχανική μετάφραση από την αρχαία ελληνική στη νέα ελληνική γλώσσα είναι μια εργασία περιοριζόμενη από την έλλειψη παράλληλων δεδομένων μεγάλης κλίμακας και υψηλής ποιότητας. Αντιμετωπίζουμε αυτό το κενό εισάγοντας το AG-MG Parallel Corpus, ένα νέο σώμα κειμένων που περιέχει 132.481 ζεύγη ευθυγραμμισμένων προτάσεων που προέρχονται από λογοτεχνικά, ιστορικά και βιβλικά κείμενα. Παρουσιάζουμε μια καινοτόμο διαδικασία δημιουργίας σώματος κειμένων που συνδυάζει δεδομένα σε επίπεδο αποσπασμάτων που έχουν συλλεχθεί από τον ιστό με μια διαδικασία ευθυγράμμισης σε επίπεδο προτάσεων σε πολλαπλά στάδια και μια διαδικασία βελτίωσης. Η μέθοδος μας χρησιμοποιεί το VecAlign με τα LaBSE embeddings, τα οποία βελτιστοποιούμε (fine-tuning) με ένα υποσύνολο αρχαίων ελληνικών-νέων ελληνικών δεδομένων που έχει ευθυγραμμιστεί χειροκίνητα και στη συνέχεια ακολουθεί μία φάση διόρθωσης σφαλμάτων/εσφαλμένων ευθυγράμμισεων χρησιμοποιώντας το Μεγάλο Γλωσσικό Μοντέλο Gemini 2.5 Flash για να εξασφαλίσουμε υψηλή ποιότητα ευθυγράμμισης. Επιπλέον, παρέχουμε το πρώτο ολοκληρωμένο σημείο αναφοράς των σύγχρονων μοντέλων μηχανικής μετάφρασης σε αυτόν τον τομέα, αξιολογώντας 14 διαφορετικά fine-tuning setups σε σύγχρονα μοντέλα NMT (NLLB, M2M100) και Μεγάλα Γλωσσικά Μοντέλα (Llama-Krikri-8B, Gemma 3). Τα πειράματά μας δείχνουν ότι η πλήρης βελτιστοποίηση (full fine-tuning) του M2M100-1.2B επιτυγχάνει την υψηλότερη απόδοση σε επίπεδο πρότασης (67,15 BLEU). Μεταξύ των LLMs, το πολυγλωσσικό μοντέλο Gemma-3-4B-it με χρήση LoRA επιτυγχάνει 62,14 BLEU, ξεπερνώντας μεγαλύτερα μοντέλα NMT, ενώ το ελληνικό μοντέλο Krikri-8B-Instruct παρουσιάζει επίσης πολύ ανταγωνιστικά αποτελέσματα και επιδεικνύει ανώτερη ανθεκτικότητα σε σπάνιες διαλέκτους. Το σύνολο δεδομένων και τα μοντέλα μας αποτελούν σημαντική συμβολή στον ελληνικό κλάδο της Επεξεργασίας Φυσικής Γλώσσας.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Μαυρομάτης Σπυρίδων
- Mavromatis Spyridon
Subjects
dc:subject × 2Rights
- Language dc:language
- English
Identifiers
dc:identifier.*- Identifier
- uoadl:5320989