National and Kapodistrian University of Athens
Serverless and Distributed Implementation of a Multilayer Perceptron
Abstract
dc:descriptionΗ παρούσα διπλωματική εργασία εξερευνά έναν νέο τρόπο εκτέλεσης νευρωνικών δικτύων, διασπώντας τα σε μικρές, ανεξάρτητες μονάδες. Αντί το Πολυεπίπεδο Νευρωνικό Δίκτυο να αντιμετωπίζεται ως ένα ενιαίο, μονολιθικό σύνολο, στην προτεινόμενη προσέγγιση κάθε νευρώνας υλοποιείται ως ξεχωριστή serverless συνάρτηση. Οι συναρτήσεις αυτές είναι ελαφριές, ελαστικές και χωρίς κατάσταση. Φορτώνουν δυναμικά τα προεκπαιδευμένα βάρη, τα biases και τις συναρτήσεις ενεργοποίησής τους από ένα αρχείο JSON, επιτρέποντας την εκτέλεση του μοντέλου χωρίς να απαιτείται εκ νέου εκπαίδευσή του. Η επικοινωνία μεταξύ των νευρώνων πραγματοποιείται μέσω του Kafka, το οποίο εξασφαλίζει αξιόπιστη μετάδοση μηνυμάτων, ενώ το Redis χρησιμοποιείται ως ταχύ σύστημα αποθήκευσης στη μνήμη για την ανταλλαγή δεδομένων. Το αποτέλεσμα είναι μια serverless αρχιτεκτονική στο υπολογιστικό νέφος, που επιτρέπει στα νευρωνικά δίκτυα να λειτουργούν με κατανεμημένο και ανθεκτικό σε σφάλματα τρόπο. Η εργασία αυτή αποδεικνύει ότι τα νευρωνικά δίκτυα δεν είναι απαραίτητο να εκτελούνται ως ένα ενιαίο σύνολο, αλλά μπορούν να διασπαστούν σε επιμέρους νευρώνες και να λειτουργήσουν ως μικρές, ανεξάρτητες serverless συναρτήσεις στο υπολογιστικό νέφος.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Χρήστου Κωνσταντίνος
- Δαβίνος Κωνσταντίνος
- Christou Konstantinos
- Davinos Konstantinos
Subjects
dc:subject × 2Rights
- Language dc:language
- English
Identifiers
dc:identifier.*- Identifier
- uoadl:5311364