National and Kapodistrian University of Athens
Αλγόριθμοι Βαθιάς Μηχανικής Μάθησης και Εξομάλυνση με χρήση της μεθόδου Dropout
Abstract
dc:descriptionΣκοπός της παρούσας εργασίας είναι η ανάπτυξη μιας πληθώρας αλγορίθμων βαθιάς Μηχανικής Μάθησης και η έρευνα της σημασίας που έχει η εξομάλυνση με Dropout σε αυτούς. Η μεθοδολογία που ακολουθείται, αποτελείται από την μελέτη όλων των βασικών σημείων της θεωρίας κάθε μεθόδου, την προγραμματιστική ανάπτυξή της και, τέλος, τη διενέργεια πειραμάτων για τη διερεύνηση των επιμέρους θεμάτων που μας ενδιαφέρουν. Το σύνολο της εργασίας κινείται στο ευρύτερο πεδίο των Τεχνητών Νευρωνικών δικτύων. Για τον λόγο αυτό, θεωρήθηκε σκόπιμη μια αναλυτική παρουσίαση των θεωρητικών τους βάσεων προτού περάσουμε στη μελέτη των πιο σύγχρονων τεχνικών. Τα πρώτα κεφάλαια εξυπηρετούν ακριβώς αυτόν τον σκοπό. Στο τρίτο κεφάλαιο παρουσιάζεται η θεωρία γύρω από την εξομάλυνση καθώς και αναλυτικά η μέθοδος Dropout. Στα επόμενα κεφάλαια, μέχρι τα Συμπεράσματα, ακολουθείται η προσέγγιση που αναφέρθηκε παραπάνω. Μετά από τη θεωρητική παρουσίαση κάθε αλγορίθμου, προχωράμε στην ανάπτυξή του με χρήση της βιβλιοθήκης TensorFlow και, τελικά, εξετάζουμε τα πειραματικά μας αποτελέσματα. Βλέπουμε πολλές αρχιτεκτονικές βαθιών πολυστρωματικών Νευρωνικών δικτύων για την αναγνώριση ψηφίων γραμμένων με το χέρι καθώς και ένα Convolutional Neural Network για τον ίδιο σκοπό. Ακόμα, μελετάμε την υλοποίηση ενός Recurrent Neural Network για τη μοντελοποίηση γλώσσας. Σε όλους τους αλγορίθμους αναζητήσαμε τη σημασία της εξομάλυνσης μέσω του Dropout και διαπιστώσαμε πειραματικά την αύξηση της απόδοσης όλων, τη βελτίωση της γενικευτικής ικανότητας κάθε μοντέλου, όταν σε αυτό εφαρμόσαμε τη συγκεκριμένη μέθοδο εξομάλυνσης.
Author and committee
dc:creator, dc:contributor.*- Authors dc:creator
-
- Παπαϊωάννου Χαρίλαος
- Papaioannou Charilaos
Subjects
dc:subject × 2Rights
- Language dc:language
- Ελληνικά, Greek
Identifiers
dc:identifier.*- Identifier
- uoadl:2698969