National and Kapodistrian University of Athens
LLaMoT: Leveraging Large Language Models for Entity Resolution
Abstract
dc:descriptionΗ αντιστοίχιση οντοτήτων αποτελεί μια κύρια λειτουργία της Επίλυσης Οντοτήτων, καθώς ο στόχος της είναι να ανιχνεύσει ζευγάρια οντοτήτων τα οποία αναφέρονται στο ίδιο αληθινό αντικείμενο. Ως αποτέλεσμα, συνήθως μοντελοποιείται σαν μία δυαδική ταξινόμηση, στην οποία κάθε ζευγάρι αντιπροσωπεύεται από ένα σύνολο χαρακτηριστικών, με σκοπό να χαρακτηριστεί σαν αληθινό ζευγάρι ή όχι. Οι πιο πρόσφατες δημοσιεύσεις στον τομέα αυτό, χρησιμοποιού1ν μεγάλα γλωσσικά μοντέλα (ΜΓΜ) ως αλγόριθμους αντιστοίχισης, επιδεικνύοντας ότι αυτά επιτυγχάνουν συγκρίσιμη απόδοση με τους αλγόριμους αντιστοίχισης βαθειάς μάθησης (ΒΜ), καταργώντας την ανάγκη για σύνολα δεδομένων με ετικέτες. Οι μέθοδοι αυτοί όμως, υποφέρουν από υψηλούς χρόνους εκτέλεσης καθώς και από υψηλά χρηματικά κόστη, στην περίπτωση χρήσης ΜΓΜ από τρίτους παρόχους. Για αντιμετώπηση αυτών των μειονεκτημάτων, η παρούσα διπλωματική εργασία, εξετάζει την χρήση ΜΓΜ μιρκής κλίμακας και ανοιχτού κώδικα με δύο διαφορετικούς τρόπους: (1) αντιστοίχιση με την χρήση υποδείξεων (prompts), η οποία χρησιμοποιεί υποδείξεις τύ που SELECT, παρέχοντας στο ΜΓΜ τους κ ομοιότερους υποψήφιους ζευγαριού, για κάθε οντότητα. (2) αντιστοίχιση με την χρήση αριθμητικών αναπαραστάσεων, η οποία χρησιμοποιεί ΜΓΜ για την εξαγωγή αριθμητικών αναπαραστάσεων για κάθε οντότητα, με σκοπό την επίτευξη καλύτερων αναπαραστάσεων από τα πλέον εδραιωμένα γλωσσικά μοντέλα όπως τα fastText, BERT και SentenceBert. Εφαρμόζουμε αυτές τις 2 μεθόδους στα νεότερα ΜΓΜ με 7 δισεκατομμύρια παραμέτρους (7Δ) και αξιολογούμε μέσω πειραμάτων την απόδοση τους σε 4 εδραιωμένα σύνολα δεδομένων. Τα πειράματα μας, παρέχουν γνώση για την σχετική αποτελεσματικότητα και χρονική απόδοση των 2 μεθόδων αυτών. Ξεπερνούν επίσης την απόδοση μεθόδων οι οποίες αποτελούν την τελευταία λέξη της τεχνολογίας στον κλάδο.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Κοροβέσης Παναγιώτης
- Korovesis Panagiotis
Subjects
dc:subject × 2Rights
- Language dc:language
- Ελληνικά, English, Greek
Identifiers
dc:identifier.*- Identifier
- uoadl:5313557