{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5451498"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5451498","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Application of machine learning algorithms for intrusion detection in the cybersecurity domain: a comparative study on the CSE-CIC-IDS2018 dataset","abstract":"Η παρούσα διπλωματική εργασία εξετάζει την εφαρμογή κλασικών αλγορίθμων μηχανικής μάθησης για την ανίχνευση εισβολών σε δίκτυα υπολογιστών, χρησιμοποιώντας το σύνολο δεδομένων CSE CIC IDS2018, το οποίο αποτελεί μια σύγχρονη βάση η οποία αποτυπώνει ρεαλιστική κίνηση δεδομένων σε δίκτυα υπολογιστών και καλύπτει ένα ευρύ φάσμα σύγχρονων κυβερνοεπιθέσεων. Η εργασία εμπνεύστηκε από τρία επαναλαμβανόμενα ζητήματα που αναδεικνύονται στη σύγχρονη βιβλιογραφία: τη μη ρεαλιστική διόγκωση επιδόσεων λόγω υπεραισιόδοξων πρωτοκόλλων αξιολόγησης, την έντονη ανισορροπία κλάσεων μεταξύ φυσιολογικής και κακόβουλης κίνησης σε δίκτυα, και τη χαμηλή ικανότητα γενίκευσης μεταξύ διαφορετικών συνόλων δεδομένων και διαφορετικών ημερών σε πραγματικά περιβάλλοντα. Βασιζόμενη σε αυτά τα ευρήματα, η διπλωματική σχεδιάζει ένα πειραματικό πλαίσιο που δίνει έμφαση σε ρεαλιστικές συνθήκες αξιολόγησης, προσεκτική επιλογή σημείων λειτουργίας/αξιολόγησης και τεχνικές προεπεξεργασίας που μπορούν να αναπαραχθούν εύκολα. Η προτεινόμενη μέθοδος ανάλυσης περιλαμβάνει καθαρισμό δεδομένων και συγκεκριμένες τεχνικές προεπεξεργασίας, καθώς και ένα κατάλληλο πλαίσιο επιλογής χαρακτηριστικών, το οποίο καταλήγει σε αναπαράσταση 25 στοιχείων δικτυακής κίνησης δεδομένων. Για την αντιμετώπιση της ανισορροπίας κλάσεων, η μελέτη χρησιμοποιεί στρατηγικές δειγματοληψίας και στάθμισης και εστιάζει στην αξιολόγηση των μοντέλων υπό ρεαλιστικούς περιορισμούς ψευδών συναγερμών (FAR≤1%), αντί χρήσης τεχνητά ισορροπημένων συνόλων εκπαίδευσης αλγορίθμων. Τέσσερις βασικοί αλγόριθμοι εξετάζονται: k Nearest Neighbors, Decision Tree, Random Forest και XGBoost, οι οποίοι πλαισιώνονται από επιπλέον μοντέλα όπως Logistic Regression, Support Vector Machines, Extra Trees, AdaBoost και LightGBM, ενώ χρησιμοποιούνται δυο (2) τρόποι αξιολόγησης. Ένα μικτό σχήμα (τυχαία διάσπαση σε όλες τις ημέρες), που αντικατοπτρίζει τη συνήθη πρακτική στη βιβλιογραφία, ενώ το έτερο σχήμα (LODO) αξιολογεί τη δυνατότητα γενίκευσης των μοντέλων, αφήνοντας ολόκληρες ημέρες εντελώς εκτός του υποσυνόλου εκπαίδευσης και ρύθμισης υπερπαρα-μέτρων. Τα μοντέλα συγκρίνονται με χρήση διάφορων μετρικών και ενός ειδικά προσαρμοσμένου κατωφλίου στην ανίχνευση εισβολών, τα οποίο περιλαμβάνουν: ρυθμό εμφάνισης ψευδών συναγερμών, ρυθμό χαμένων επιθέσεων, F1 score για την κλάση επίθεσης και τον Συντελεστή Συσχέτισης του Matthews. Ιδιαίτερη έμφαση δίνεται σε σημεία λειτουργίας που διατηρούν τον ρυθμό ψευδών συναγερμών στο 1% ή χαμηλότερα. Πέραν της δυαδικής ανίχνευσης, ενσωματώνεται ένας ταξινομητής δεύτερου σταδίου που συγκεκριμενοποιεί τις κατηγορίες επιθέσεων μέσω διαφόρων μετρικών. Τα πειραματικά αποτελέσματα δείχνουν ότι οι αλγόριθμοι Random Forest και XGBoost επιτυγχάνουν καλύτερη ισορροπία μεταξύ απόδοσης ανίχνευσης και ανθεκτικότητας υπό αυστηρούς στόχους ψευδών συναγερμών (1% ή χαμηλότερα), υπερέχοντας των απλούστερων μοντέλων, τόσο στο μικτό, όσο και στο έτερο (γενικευμένο) σχήμα (LODO). Υπό το μικτό σχήμα (MIXED), και τα τέσσερα μοντέλα συγκλίνουν σε παρόμοια αποτελέσματα ανίχνευσης, ενώ υπό συνθήκες LODO, παρατηρείται ένα σταθερό μοτίβο δύο παραγόντων, στο οποίο η ταξινόμηση κατηγοριοποίησης εμφανίζεται ως το κύριο πρόβλημα στις ημέρες DDoS/DoS, ενώ στις ημέρες Infiltration ο περιοριστικός παράγοντας είναι αποκλειστικά η δυαδική ανίχνευση. Ωστόσο, όλα τα μοντέλα εμφανίζουν δυσκολία στη γενίκευση μεταξύ των δύο (2) σχημάτων, (MIXED και LODO), επιβεβαιώνοντας ότι η ημερήσια μεταβλητότητα παραμένει ένα σημαντικό ζήτημα. Η διπλωματική καταλήγει στο ότι η επιλογή σχεδιασμού των μεθόδων διαχωρισμού ημερών/δεδομένων, η επιλογή συγκεκριμένων επιχειρησιακών σημείων λειτουργίας και η αξιολόγηση σε χρονική βάση είναι στοιχεία εξίσου σημαντικά με την ίδια την επιλογή του αλγορίθμου μηχανικής μάθησης. Επιπλέον, προτείνει κατευθύνσεις για μελλοντική έρευνα, συμπεριλαμβανομένων της αξιολόγησης μεταξύ διαφορετικών συνόλων δεδομένων, της ενσωμάτωσης μοντέλων βαθιάς μάθησης / νευρωνικών δικτύων και θεμάτων προσανατολισμένων σε πραγματικά επιχειρησιακά περιβάλλοντα. Ο κώδικας Python που αναπτύχθηκε στο πλαίσιο της παρούσας διπλωματικής εργασίας έχει υλοποιηθεί εξ ολοκλήρου από την αρχή και είναι ελεύθερα προσβάσιμος στο ακόλουθο αποθετήριο GitHub: https://github.com/iraklislf/ML_IDS2018","abstract_html":"Η παρούσα διπλωματική εργασία εξετάζει την εφαρμογή κλασικών αλγορίθμων μηχανικής μάθησης για την ανίχνευση εισβολών σε δίκτυα υπολογιστών, χρησιμοποιώντας το σύνολο δεδομένων CSE CIC IDS2018, το οποίο αποτελεί μια σύγχρονη βάση η οποία αποτυπώνει ρεαλιστική κίνηση δεδομένων σε δίκτυα υπολογιστών και καλύπτει ένα ευρύ φάσμα σύγχρονων κυβερνοεπιθέσεων. Η εργασία εμπνεύστηκε από τρία επαναλαμβανόμενα ζητήματα που αναδεικνύονται στη σύγχρονη βιβλιογραφία: τη μη ρεαλιστική διόγκωση επιδόσεων λόγω υπεραισιόδοξων πρωτοκόλλων αξιολόγησης, την έντονη ανισορροπία κλάσεων μεταξύ φυσιολογικής και κακόβουλης κίνησης σε δίκτυα, και τη χαμηλή ικανότητα γενίκευσης μεταξύ διαφορετικών συνόλων δεδομένων και διαφορετικών ημερών σε πραγματικά περιβάλλοντα. Βασιζόμενη σε αυτά τα ευρήματα, η διπλωματική σχεδιάζει ένα πειραματικό πλαίσιο που δίνει έμφαση σε ρεαλιστικές συνθήκες αξιολόγησης, προσεκτική επιλογή σημείων λειτουργίας/αξιολόγησης και τεχνικές προεπεξεργασίας που μπορούν να αναπαραχθούν εύκολα. Η προτεινόμενη μέθοδος ανάλυσης περιλαμβάνει καθαρισμό δεδομένων και συγκεκριμένες τεχνικές προεπεξεργασίας, καθώς και ένα κατάλληλο πλαίσιο επιλογής χαρακτηριστικών, το οποίο καταλήγει σε αναπαράσταση 25 στοιχείων δικτυακής κίνησης δεδομένων. Για την αντιμετώπιση της ανισορροπίας κλάσεων, η μελέτη χρησιμοποιεί στρατηγικές δειγματοληψίας και στάθμισης και εστιάζει στην αξιολόγηση των μοντέλων υπό ρεαλιστικούς περιορισμούς ψευδών συναγερμών (FAR≤1%), αντί χρήσης τεχνητά ισορροπημένων συνόλων εκπαίδευσης αλγορίθμων. Τέσσερις βασικοί αλγόριθμοι εξετάζονται: k Nearest Neighbors, Decision Tree, Random Forest και XGBoost, οι οποίοι πλαισιώνονται από επιπλέον μοντέλα όπως Logistic Regression, Support Vector Machines, Extra Trees, AdaBoost και LightGBM, ενώ χρησιμοποιούνται δυο (2) τρόποι αξιολόγησης. Ένα μικτό σχήμα (τυχαία διάσπαση σε όλες τις ημέρες), που αντικατοπτρίζει τη συνήθη πρακτική στη βιβλιογραφία, ενώ το έτερο σχήμα (LODO) αξιολογεί τη δυνατότητα γενίκευσης των μοντέλων, αφήνοντας ολόκληρες ημέρες εντελώς εκτός του υποσυνόλου εκπαίδευσης και ρύθμισης υπερπαρα-μέτρων. Τα μοντέλα συγκρίνονται με χρήση διάφορων μετρικών και ενός ειδικά προσαρμοσμένου κατωφλίου στην ανίχνευση εισβολών, τα οποίο περιλαμβάνουν: ρυθμό εμφάνισης ψευδών συναγερμών, ρυθμό χαμένων επιθέσεων, F1 score για την κλάση επίθεσης και τον Συντελεστή Συσχέτισης του Matthews. Ιδιαίτερη έμφαση δίνεται σε σημεία λειτουργίας που διατηρούν τον ρυθμό ψευδών συναγερμών στο 1% ή χαμηλότερα. Πέραν της δυαδικής ανίχνευσης, ενσωματώνεται ένας ταξινομητής δεύτερου σταδίου που συγκεκριμενοποιεί τις κατηγορίες επιθέσεων μέσω διαφόρων μετρικών. Τα πειραματικά αποτελέσματα δείχνουν ότι οι αλγόριθμοι Random Forest και XGBoost επιτυγχάνουν καλύτερη ισορροπία μεταξύ απόδοσης ανίχνευσης και ανθεκτικότητας υπό αυστηρούς στόχους ψευδών συναγερμών (1% ή χαμηλότερα), υπερέχοντας των απλούστερων μοντέλων, τόσο στο μικτό, όσο και στο έτερο (γενικευμένο) σχήμα (LODO). Υπό το μικτό σχήμα (MIXED), και τα τέσσερα μοντέλα συγκλίνουν σε παρόμοια αποτελέσματα ανίχνευσης, ενώ υπό συνθήκες LODO, παρατηρείται ένα σταθερό μοτίβο δύο παραγόντων, στο οποίο η ταξινόμηση κατηγοριοποίησης εμφανίζεται ως το κύριο πρόβλημα στις ημέρες DDoS/DoS, ενώ στις ημέρες Infiltration ο περιοριστικός παράγοντας είναι αποκλειστικά η δυαδική ανίχνευση. Ωστόσο, όλα τα μοντέλα εμφανίζουν δυσκολία στη γενίκευση μεταξύ των δύο (2) σχημάτων, (MIXED και LODO), επιβεβαιώνοντας ότι η ημερήσια μεταβλητότητα παραμένει ένα σημαντικό ζήτημα. Η διπλωματική καταλήγει στο ότι η επιλογή σχεδιασμού των μεθόδων διαχωρισμού ημερών/δεδομένων, η επιλογή συγκεκριμένων επιχειρησιακών σημείων λειτουργίας και η αξιολόγηση σε χρονική βάση είναι στοιχεία εξίσου σημαντικά με την ίδια την επιλογή του αλγορίθμου μηχανικής μάθησης. Επιπλέον, προτείνει κατευθύνσεις για μελλοντική έρευνα, συμπεριλαμβανομένων της αξιολόγησης μεταξύ διαφορετικών συνόλων δεδομένων, της ενσωμάτωσης μοντέλων βαθιάς μάθησης / νευρωνικών δικτύων και θεμάτων προσανατολισμένων σε πραγματικά επιχειρησιακά περιβάλλοντα. Ο κώδικας Python που αναπτύχθηκε στο πλαίσιο της παρούσας διπλωματικής εργασίας έχει υλοποιηθεί εξ ολοκλήρου από την αρχή και είναι ελεύθερα προσβάσιμος στο ακόλουθο αποθετήριο GitHub: https://github.com/iraklislf/ML_IDS2018","abstract_has_math":false,"creators":["ΛΕΦΑΣ ΗΡΑΚΛΗΣ","LEFAS IRAKLIS"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-11-19T05:20:47Z","subjects":["Τεχνολογία – Πληροφορική","Technology - Computer science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5451498"],"render_values":[{"text":"uoadl:5451498","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5451498","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5451498","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A5451498","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["ΛΕΦΑΣ ΗΡΑΚΛΗΣ","LEFAS IRAKLIS"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Τεχνολογία – Πληροφορική","Technology - Computer science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5451498","https://pergamos.lib.uoa.gr/uoa/dl/object/5451498"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Η παρούσα διπλωματική εργασία εξετάζει την εφαρμογή κλασικών αλγορίθμων μηχανικής μάθησης για την ανίχνευση εισβολών σε δίκτυα υπολογιστών, χρησιμοποιώντας το σύνολο δεδομένων CSE CIC IDS2018, το οποίο αποτελεί μια σύγχρονη βάση η οποία αποτυπώνει ρεαλιστική κίνηση δεδομένων σε δίκτυα υπολογιστών και καλύπτει ένα ευρύ φάσμα σύγχρονων κυβερνοεπιθέσεων. Η εργασία εμπνεύστηκε από τρία επαναλαμβανόμενα ζητήματα που αναδεικνύονται στη σύγχρονη βιβλιογραφία: τη μη ρεαλιστική διόγκωση επιδόσεων λόγω υπεραισιόδοξων πρωτοκόλλων αξιολόγησης, την έντονη ανισορροπία κλάσεων μεταξύ φυσιολογικής και κακόβουλης κίνησης σε δίκτυα, και τη χαμηλή ικανότητα γενίκευσης μεταξύ διαφορετικών συνόλων δεδομένων και διαφορετικών ημερών σε πραγματικά περιβάλλοντα. Βασιζόμενη σε αυτά τα ευρήματα, η διπλωματική σχεδιάζει ένα πειραματικό πλαίσιο που δίνει έμφαση σε ρεαλιστικές συνθήκες αξιολόγησης, προσεκτική επιλογή σημείων λειτουργίας/αξιολόγησης και τεχνικές προεπεξεργασίας που μπορούν να αναπαραχθούν εύκολα. Η προτεινόμενη μέθοδος ανάλυσης περιλαμβάνει καθαρισμό δεδομένων και συγκεκριμένες τεχνικές προεπεξεργασίας, καθώς και ένα κατάλληλο πλαίσιο επιλογής χαρακτηριστικών, το οποίο καταλήγει σε αναπαράσταση 25 στοιχείων δικτυακής κίνησης δεδομένων. Για την αντιμετώπιση της ανισορροπίας κλάσεων, η μελέτη χρησιμοποιεί στρατηγικές δειγματοληψίας και στάθμισης και εστιάζει στην αξιολόγηση των μοντέλων υπό ρεαλιστικούς περιορισμούς ψευδών συναγερμών (FAR≤1%), αντί χρήσης τεχνητά ισορροπημένων συνόλων εκπαίδευσης αλγορίθμων. Τέσσερις βασικοί αλγόριθμοι εξετάζονται: k Nearest Neighbors, Decision Tree, Random Forest και XGBoost, οι οποίοι πλαισιώνονται από επιπλέον μοντέλα όπως Logistic Regression, Support Vector Machines, Extra Trees, AdaBoost και LightGBM, ενώ χρησιμοποιούνται δυο (2) τρόποι αξιολόγησης. Ένα μικτό σχήμα (τυχαία διάσπαση σε όλες τις ημέρες), που αντικατοπτρίζει τη συνήθη πρακτική στη βιβλιογραφία, ενώ το έτερο σχήμα (LODO) αξιολογεί τη δυνατότητα γενίκευσης των μοντέλων, αφήνοντας ολόκληρες ημέρες εντελώς εκτός του υποσυνόλου εκπαίδευσης και ρύθμισης υπερπαρα-μέτρων. Τα μοντέλα συγκρίνονται με χρήση διάφορων μετρικών και ενός ειδικά προσαρμοσμένου κατωφλίου στην ανίχνευση εισβολών, τα οποίο περιλαμβάνουν: ρυθμό εμφάνισης ψευδών συναγερμών, ρυθμό χαμένων επιθέσεων, F1 score για την κλάση επίθεσης και τον Συντελεστή Συσχέτισης του Matthews. Ιδιαίτερη έμφαση δίνεται σε σημεία λειτουργίας που διατηρούν τον ρυθμό ψευδών συναγερμών στο 1% ή χαμηλότερα. Πέραν της δυαδικής ανίχνευσης, ενσωματώνεται ένας ταξινομητής δεύτερου σταδίου που συγκεκριμενοποιεί τις κατηγορίες επιθέσεων μέσω διαφόρων μετρικών. Τα πειραματικά αποτελέσματα δείχνουν ότι οι αλγόριθμοι Random Forest και XGBoost επιτυγχάνουν καλύτερη ισορροπία μεταξύ απόδοσης ανίχνευσης και ανθεκτικότητας υπό αυστηρούς στόχους ψευδών συναγερμών (1% ή χαμηλότερα), υπερέχοντας των απλούστερων μοντέλων, τόσο στο μικτό, όσο και στο έτερο (γενικευμένο) σχήμα (LODO). Υπό το μικτό σχήμα (MIXED), και τα τέσσερα μοντέλα συγκλίνουν σε παρόμοια αποτελέσματα ανίχνευσης, ενώ υπό συνθήκες LODO, παρατηρείται ένα σταθερό μοτίβο δύο παραγόντων, στο οποίο η ταξινόμηση κατηγοριοποίησης εμφανίζεται ως το κύριο πρόβλημα στις ημέρες DDoS/DoS, ενώ στις ημέρες Infiltration ο περιοριστικός παράγοντας είναι αποκλειστικά η δυαδική ανίχνευση. Ωστόσο, όλα τα μοντέλα εμφανίζουν δυσκολία στη γενίκευση μεταξύ των δύο (2) σχημάτων, (MIXED και LODO), επιβεβαιώνοντας ότι η ημερήσια μεταβλητότητα παραμένει ένα σημαντικό ζήτημα. Η διπλωματική καταλήγει στο ότι η επιλογή σχεδιασμού των μεθόδων διαχωρισμού ημερών/δεδομένων, η επιλογή συγκεκριμένων επιχειρησιακών σημείων λειτουργίας και η αξιολόγηση σε χρονική βάση είναι στοιχεία εξίσου σημαντικά με την ίδια την επιλογή του αλγορίθμου μηχανικής μάθησης. Επιπλέον, προτείνει κατευθύνσεις για μελλοντική έρευνα, συμπεριλαμβανομένων της αξιολόγησης μεταξύ διαφορετικών συνόλων δεδομένων, της ενσωμάτωσης μοντέλων βαθιάς μάθησης / νευρωνικών δικτύων και θεμάτων προσανατολισμένων σε πραγματικά επιχειρησιακά περιβάλλοντα. Ο κώδικας Python που αναπτύχθηκε στο πλαίσιο της παρούσας διπλωματικής εργασίας έχει υλοποιηθεί εξ ολοκλήρου από την αρχή και είναι ελεύθερα προσβάσιμος στο ακόλουθο αποθετήριο GitHub: https://github.com/iraklislf/ML_IDS2018","This thesis investigates the application of classical machine learning algorithms for network intrusion detection using the CSE CIC IDS2018 dataset, a modern benchmark that captures realistic traffic and a diverse set of contemporary cyberattacks. The work is motivated by three recurring issues identified in recent literature: performance inflation due to optimistic evaluation protocols, severe class imbalance between benign and attack traffic, and poor cross-dataset and cross-day generalisation in real-world deployments. Building on these findings, the thesis designs an experimental framework that emphasizes realistic evaluation conditions, explicit operating point selection, and reproducible preprocessing. The proposed pipeline includes systematic data cleaning and preprocessing techniques and a compact feature selection stage, which yields a 25-dimensional flow-based representation. To address class imbalance, the study evaluates sampling and weighting strategies and focuses on evaluating models under realistic false alarm constraints (FAR≤1%) instead of artificially enforcing perfectly balanced training sets. Four main algorithms are examined: k Nearest Neighbors, Decision Tree, Random Forest, and XGBoost, supplemented by additional baselines such as Logistic Regression, Support Vector Machines, Extra Trees, AdaBoost, and LightGBM. A dual evaluation strategy is used. A MIXED split (stratified random split across all days) is employed to mirror common practice in the literature, while a Leave One Day Out (LODO) split evaluates temporal generalization, holding out entire days that remain unseen during training and hyperparameter tuning. The models are compared using a metric and threshold framework tailored to intrusion detection, including ROC‑AUC, PR‑AUC, false‑alarm rate, missed‑attack rate, F1‑score, and Matthews Correlation Coefficient, with special attention given to operating points that keep the false-alarm rate at or below 1%. Beyond binary detection, the pipeline incorporates a second-stage attack-type classifier that attributes flagged flows to specific attack families, evaluated through oracle accuracy, gated macro-F1, and joint correct rate - the fraction of true attacks both detected and correctly classified end-to-end. The experimental results show that ensemble tree-based methods (RF and particularly XGBoost), achieve the best trade-off between detection performance and robustness under strict false alarm constraints, both on MIXED and LODO splits. Under MIXED conditions, all four models converge to similar binary detection quality, with Stage B attribution exceeding 99% oracle accuracy. Under LODO, a consistent two-regime pattern appears, in which cross-variant label incompatibility limits attribution on DDoS/DoS days, while Infiltration folds are limited exclusively by binary detection rather than attribution quality. All models exhibit a noticeable generalisation gap between MIXED and LODO, confirming that cross-day variability remains a fundamental challenge. The thesis concludes that careful split design, transparent operating point reporting, and temporally aware evaluation are as important as algorithm choice. It also outlines directions for future work, including cross dataset evaluation, integration with deep learning models, and deployment oriented topics such as concept drift, incremental learning, and adversarial robustness. The Python code developed for this thesis has been implemented from scratch and is freely available in the following GitHub repository: https://github.com/iraklislf/ML_IDS2018"]},{"key":"dc:title","label":"Title","values":["Application of machine learning algorithms for intrusion detection in the cybersecurity domain: a comparative study on the CSE-CIC-IDS2018 dataset"]}]}],"canonical_facts":{"dc:creator":["ΛΕΦΑΣ ΗΡΑΚΛΗΣ","LEFAS IRAKLIS"],"dc:date":["2026"],"dc:description":["Η παρούσα διπλωματική εργασία εξετάζει την εφαρμογή κλασικών αλγορίθμων μηχανικής μάθησης για την ανίχνευση εισβολών σε δίκτυα υπολογιστών, χρησιμοποιώντας το σύνολο δεδομένων CSE CIC IDS2018, το οποίο αποτελεί μια σύγχρονη βάση η οποία αποτυπώνει ρεαλιστική κίνηση δεδομένων σε δίκτυα υπολογιστών και καλύπτει ένα ευρύ φάσμα σύγχρονων κυβερνοεπιθέσεων. Η εργασία εμπνεύστηκε από τρία επαναλαμβανόμενα ζητήματα που αναδεικνύονται στη σύγχρονη βιβλιογραφία: τη μη ρεαλιστική διόγκωση επιδόσεων λόγω υπεραισιόδοξων πρωτοκόλλων αξιολόγησης, την έντονη ανισορροπία κλάσεων μεταξύ φυσιολογικής και κακόβουλης κίνησης σε δίκτυα, και τη χαμηλή ικανότητα γενίκευσης μεταξύ διαφορετικών συνόλων δεδομένων και διαφορετικών ημερών σε πραγματικά περιβάλλοντα. Βασιζόμενη σε αυτά τα ευρήματα, η διπλωματική σχεδιάζει ένα πειραματικό πλαίσιο που δίνει έμφαση σε ρεαλιστικές συνθήκες αξιολόγησης, προσεκτική επιλογή σημείων λειτουργίας/αξιολόγησης και τεχνικές προεπεξεργασίας που μπορούν να αναπαραχθούν εύκολα. Η προτεινόμενη μέθοδος ανάλυσης περιλαμβάνει καθαρισμό δεδομένων και συγκεκριμένες τεχνικές προεπεξεργασίας, καθώς και ένα κατάλληλο πλαίσιο επιλογής χαρακτηριστικών, το οποίο καταλήγει σε αναπαράσταση 25 στοιχείων δικτυακής κίνησης δεδομένων. Για την αντιμετώπιση της ανισορροπίας κλάσεων, η μελέτη χρησιμοποιεί στρατηγικές δειγματοληψίας και στάθμισης και εστιάζει στην αξιολόγηση των μοντέλων υπό ρεαλιστικούς περιορισμούς ψευδών συναγερμών (FAR≤1%), αντί χρήσης τεχνητά ισορροπημένων συνόλων εκπαίδευσης αλγορίθμων. Τέσσερις βασικοί αλγόριθμοι εξετάζονται: k Nearest Neighbors, Decision Tree, Random Forest και XGBoost, οι οποίοι πλαισιώνονται από επιπλέον μοντέλα όπως Logistic Regression, Support Vector Machines, Extra Trees, AdaBoost και LightGBM, ενώ χρησιμοποιούνται δυο (2) τρόποι αξιολόγησης. Ένα μικτό σχήμα (τυχαία διάσπαση σε όλες τις ημέρες), που αντικατοπτρίζει τη συνήθη πρακτική στη βιβλιογραφία, ενώ το έτερο σχήμα (LODO) αξιολογεί τη δυνατότητα γενίκευσης των μοντέλων, αφήνοντας ολόκληρες ημέρες εντελώς εκτός του υποσυνόλου εκπαίδευσης και ρύθμισης υπερπαρα-μέτρων. Τα μοντέλα συγκρίνονται με χρήση διάφορων μετρικών και ενός ειδικά προσαρμοσμένου κατωφλίου στην ανίχνευση εισβολών, τα οποίο περιλαμβάνουν: ρυθμό εμφάνισης ψευδών συναγερμών, ρυθμό χαμένων επιθέσεων, F1 score για την κλάση επίθεσης και τον Συντελεστή Συσχέτισης του Matthews. Ιδιαίτερη έμφαση δίνεται σε σημεία λειτουργίας που διατηρούν τον ρυθμό ψευδών συναγερμών στο 1% ή χαμηλότερα. Πέραν της δυαδικής ανίχνευσης, ενσωματώνεται ένας ταξινομητής δεύτερου σταδίου που συγκεκριμενοποιεί τις κατηγορίες επιθέσεων μέσω διαφόρων μετρικών. Τα πειραματικά αποτελέσματα δείχνουν ότι οι αλγόριθμοι Random Forest και XGBoost επιτυγχάνουν καλύτερη ισορροπία μεταξύ απόδοσης ανίχνευσης και ανθεκτικότητας υπό αυστηρούς στόχους ψευδών συναγερμών (1% ή χαμηλότερα), υπερέχοντας των απλούστερων μοντέλων, τόσο στο μικτό, όσο και στο έτερο (γενικευμένο) σχήμα (LODO). Υπό το μικτό σχήμα (MIXED), και τα τέσσερα μοντέλα συγκλίνουν σε παρόμοια αποτελέσματα ανίχνευσης, ενώ υπό συνθήκες LODO, παρατηρείται ένα σταθερό μοτίβο δύο παραγόντων, στο οποίο η ταξινόμηση κατηγοριοποίησης εμφανίζεται ως το κύριο πρόβλημα στις ημέρες DDoS/DoS, ενώ στις ημέρες Infiltration ο περιοριστικός παράγοντας είναι αποκλειστικά η δυαδική ανίχνευση. Ωστόσο, όλα τα μοντέλα εμφανίζουν δυσκολία στη γενίκευση μεταξύ των δύο (2) σχημάτων, (MIXED και LODO), επιβεβαιώνοντας ότι η ημερήσια μεταβλητότητα παραμένει ένα σημαντικό ζήτημα. Η διπλωματική καταλήγει στο ότι η επιλογή σχεδιασμού των μεθόδων διαχωρισμού ημερών/δεδομένων, η επιλογή συγκεκριμένων επιχειρησιακών σημείων λειτουργίας και η αξιολόγηση σε χρονική βάση είναι στοιχεία εξίσου σημαντικά με την ίδια την επιλογή του αλγορίθμου μηχανικής μάθησης. Επιπλέον, προτείνει κατευθύνσεις για μελλοντική έρευνα, συμπεριλαμβανομένων της αξιολόγησης μεταξύ διαφορετικών συνόλων δεδομένων, της ενσωμάτωσης μοντέλων βαθιάς μάθησης / νευρωνικών δικτύων και θεμάτων προσανατολισμένων σε πραγματικά επιχειρησιακά περιβάλλοντα. Ο κώδικας Python που αναπτύχθηκε στο πλαίσιο της παρούσας διπλωματικής εργασίας έχει υλοποιηθεί εξ ολοκλήρου από την αρχή και είναι ελεύθερα προσβάσιμος στο ακόλουθο αποθετήριο GitHub: https://github.com/iraklislf/ML_IDS2018","This thesis investigates the application of classical machine learning algorithms for network intrusion detection using the CSE CIC IDS2018 dataset, a modern benchmark that captures realistic traffic and a diverse set of contemporary cyberattacks. The work is motivated by three recurring issues identified in recent literature: performance inflation due to optimistic evaluation protocols, severe class imbalance between benign and attack traffic, and poor cross-dataset and cross-day generalisation in real-world deployments. Building on these findings, the thesis designs an experimental framework that emphasizes realistic evaluation conditions, explicit operating point selection, and reproducible preprocessing. The proposed pipeline includes systematic data cleaning and preprocessing techniques and a compact feature selection stage, which yields a 25-dimensional flow-based representation. To address class imbalance, the study evaluates sampling and weighting strategies and focuses on evaluating models under realistic false alarm constraints (FAR≤1%) instead of artificially enforcing perfectly balanced training sets. Four main algorithms are examined: k Nearest Neighbors, Decision Tree, Random Forest, and XGBoost, supplemented by additional baselines such as Logistic Regression, Support Vector Machines, Extra Trees, AdaBoost, and LightGBM. A dual evaluation strategy is used. A MIXED split (stratified random split across all days) is employed to mirror common practice in the literature, while a Leave One Day Out (LODO) split evaluates temporal generalization, holding out entire days that remain unseen during training and hyperparameter tuning. The models are compared using a metric and threshold framework tailored to intrusion detection, including ROC‑AUC, PR‑AUC, false‑alarm rate, missed‑attack rate, F1‑score, and Matthews Correlation Coefficient, with special attention given to operating points that keep the false-alarm rate at or below 1%. Beyond binary detection, the pipeline incorporates a second-stage attack-type classifier that attributes flagged flows to specific attack families, evaluated through oracle accuracy, gated macro-F1, and joint correct rate - the fraction of true attacks both detected and correctly classified end-to-end. The experimental results show that ensemble tree-based methods (RF and particularly XGBoost), achieve the best trade-off between detection performance and robustness under strict false alarm constraints, both on MIXED and LODO splits. Under MIXED conditions, all four models converge to similar binary detection quality, with Stage B attribution exceeding 99% oracle accuracy. Under LODO, a consistent two-regime pattern appears, in which cross-variant label incompatibility limits attribution on DDoS/DoS days, while Infiltration folds are limited exclusively by binary detection rather than attribution quality. All models exhibit a noticeable generalisation gap between MIXED and LODO, confirming that cross-day variability remains a fundamental challenge. The thesis concludes that careful split design, transparent operating point reporting, and temporally aware evaluation are as important as algorithm choice. It also outlines directions for future work, including cross dataset evaluation, integration with deep learning models, and deployment oriented topics such as concept drift, incremental learning, and adversarial robustness. The Python code developed for this thesis has been implemented from scratch and is freely available in the following GitHub repository: https://github.com/iraklislf/ML_IDS2018"],"dc:identifier":["uoadl:5451498","https://pergamos.lib.uoa.gr/uoa/dl/object/5451498"],"dc:language":["English"],"dc:subject":["Τεχνολογία – Πληροφορική","Technology - Computer science"],"dc:title":["Application of machine learning algorithms for intrusion detection in the cybersecurity domain: a comparative study on the CSE-CIC-IDS2018 dataset"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:20:47Z"}