National and Kapodistrian University of Athens
Domain Transfer via Decompilation: Enhancing Code LLMs’ Performance for Blockchain Applications
Abstract
dc:descriptionΤα έξυπνα συμβόλαια (smart contracts) είναι προγράμματα που εκτελούνται αυτόνομα πάνω σε ένα blockchain. Στο σύνολο των ανεπτυγμένων έξυπνων συμβολαίων, η σημασιολογική αναζήτηση κώδικα και ο εντοπισμός ομοιότητας κώδικα έχουν αναδειχθεί σε ιδιαίτερα σημαντικές εργασίες, τόσο για εφαρμογές ασφάλειας όσο και για την παραγωγικότητα των προγραμματιστών. Τα Μεγάλα Γλωσσικά Μοντέλα για κώδικα (Code LLMs) έχουν δείξει εξαιρετικές προοπτικές σε αυτούς τους τομείς. Ωστόσο, το συγκεκριμένο περιβάλλον θέτει προκλήσεις που περιορίζουν τη χρησιμότητα τέτοιων μοντέλων. Η βασική δυσκολία είναι η πιθανή έλλειψη πηγαίου κώδικα υψηλού επιπέδου, καθώς το μοναδικό διαθέσιμο δεδομένο στο blockchain είναι ο bytecode χαμηλού επιπέδου για όλες τις ανεπτυγμένες εφαρμογές. Επιπλέον, γλώσσες ειδικές για blockchain, όπως η Solidity, υποεκπροσωπούνται σε επιμελημένα σύνολα δεδομένων (datasets) για την προ-εκπαίδευση δημοφιλών Code LLMs. Στην παρούσα εργασία παρουσιάζουμε το LiftLM, ένα σύστημα για αποτελεσματική ανάκτηση σημασιολογικά παρόμοιων συναρτήσεων έξυπνων συμβολαίων, το οποίο αξιοποιεί LLMs με ουσιαστική προσαρμογή στις ιδιαιτερότητες της αναπαράστασης και ανάκτησης κώδικα. Η προσέγγιση LiftLM περιλαμβάνει (1) τη δημιουργία ρεαλιστικών και υψηλής ποιότητας datasets για εκπαίδευση, αξιοποιώντας υπάρχοντα, μη πλήρη δεδομένα και (2) τη χρήση μιας κανονικοποιημένης, decompiled αναπαράστασης υψηλού επιπέδου του έξυπνου συμβολαίου ως είσοδο. Η αναπαράσταση αυτή επιτυγχάνει μια μορφή μεταφοράς domain στα δεδομένα μας, εκμεταλλευόμενη τη γνώση που έχει ήδη κωδικοποιηθεί στα προ-εκπαιδευμένα LLMs. Σε ελεγχόμενα πειράματα, το LiftLM επιτυγχάνει μετρικές συγκρίσιμες με εκείνες που προκύπτουν όταν υπάρχει πρόσβαση στον πηγαίο κώδικα (Accuracy 92 % έναντι 96 %, Recall 74 % έναντι 76 %), σημαντικά βελτιωμένες χάρη στην εκπαίδευση (Recall από 61 % σε 74 %) και πολύ ανώτερες από τη χρήση εισόδου χαμηλότερου επιπέδου (Recall μόλις 25 %).
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Γκιόκα Μαρκέλλα
- Gkioka Markella
Subjects
dc:subject × 2Rights
- Language dc:language
- Ελληνικά, English, Greek
Identifiers
dc:identifier.*- Identifier
- uoadl:5296079