{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5449174"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5449174","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Electricity Price Forecasting with Attention-Based Neural Network Architectures","abstract":"Τα τελευταία χρόνια, οι αγορές ηλεκτρικής ενέργειας έχουν υποστεί σημαντικές αλλαγές, οι οποίες οφείλονται στην εισαγωγή μηχανισμών συναλλαγών ηλεκτρικής ενέργειας βασισμένων σε δημοπρασίες, στους φιλόδοξους στόχους μείωσης των εκπομπών αερίων του θερμοκηπίου και στην αυξανόμενη διείσδυση των Ανανεώσιμων Πηγών Ενέργειας (ΑΠΕ), παράγοντες που από κοινού καθιστούν την πρόβλεψη τιμών ηλεκτρικής ενέργειας ένα ιδιαίτερα μεταβλητό και πολυπαραγοντικό πρόβλημα. Οι εξελίξεις αυτές ανέδειξαν τη σημασία της ποσοτικοποίησης της αβεβαιότητας των προβλέψεων και ενίσχυσαν το ενδιαφέρον για τις πιθανοτικές μεθόδους πρόβλεψης, ιδίως εκείνες που βασίζονται σε μοντέλα βαθιάς μάθησης. Η παρούσα διπλωματική εργασία συνεισφέρει στην πιθανοτική πρόβλεψη τιμών ηλεκτρικής ενέργειας μέσω της εφαρμογής και αξιολόγησης σύγχρονων αρχιτεκτονικών βασισμένων στον μηχανισμό προσοχής (attention), και συγκεκριμένα του Transformer, του Temporal Fusion Transformer (TFT), του PatchTST και του θεμελιώδους μοντέλου (foundation model) Chronos-2, προσαρμοσμένων ώστε να παράγουν προβλέψεις ποσοστημορίων. Τα μοντέλα αξιολογούνται αρχικά στο σύνολο δεδομένων GEFCom2014, υπό το ίδιο πειραματικό πλαίσιο με τον αρχικό διαγωνισμό, στο οποίο, εξ όσων γνωρίζουμε, τέτοιες αρχιτεκτονικές βαθιάς μάθησης δεν έχουν εφαρμοστεί στο παρελθόν· τα αποτελέσματά τους συγκρίνονται τόσο με κλασικά στατιστικά όσο και με νευρωνικά μοντέλα αναφοράς, καθώς και με τις νικήτριες λύσεις του διαγωνισμού. Για την αξιολόγηση της ευρωστίας τους υπό πιο ρεαλιστικές και απαιτητικές συνθήκες, το ίδιο πλαίσιο εφαρμόζεται στη συνέχεια σε πρόσφατα δεδομένα της ελληνικής αγοράς ηλεκτρικής ενέργειας, τα οποία παρουσιάζουν υψηλή μεταβλητότητα, ελλείπουσες τιμές και αρνητικές τιμές. Το πρόβλημα πρόβλεψης συνίσταται στην πρόβλεψη των επόμενων 24 ωρών με βάση ένα ιστορικό παράθυρο παρατήρησης σε συνδυασμό με τα διαθέσιμα εξωγενή χαρακτηριστικά, ενώ η απόδοση αξιολογείται μέσω της συνάρτησης απώλειας pinball, καθώς και μετρικών αξιοπιστίας και οξύτητας. Τα αποτελέσματα δείχνουν ότι τα προτεινόμενα μοντέλα υπερτερούν σταθερά των κλασικών μεθόδων αναφοράς στο GEFCom2014, ενώ σε ορισμένες περιπτώσεις προσεγγίζουν ή και ξεπερνούν τις νικήτριες λύσεις του διαγωνισμού. Στα πιο σύνθετα δεδομένα της ελληνικής αγοράς τα μοντέλα παραμένουν αποτελεσματικά, αν και παρατηρείται κάποια υποβάθμιση της απόδοσης που αποδίδεται στην αυξημένη δυσκολία των χρονοσειρών, γεγονός που υποδεικνύει περιθώρια περαιτέρω βελτίωσης. Συνολικά, το Chronos-2 επιτυγχάνει την καλύτερη απόδοση, ακολουθούμενο στενά από το μοντέλο Transformer.","abstract_html":"Τα τελευταία χρόνια, οι αγορές ηλεκτρικής ενέργειας έχουν υποστεί σημαντικές αλλαγές, οι οποίες οφείλονται στην εισαγωγή μηχανισμών συναλλαγών ηλεκτρικής ενέργειας βασισμένων σε δημοπρασίες, στους φιλόδοξους στόχους μείωσης των εκπομπών αερίων του θερμοκηπίου και στην αυξανόμενη διείσδυση των Ανανεώσιμων Πηγών Ενέργειας (ΑΠΕ), παράγοντες που από κοινού καθιστούν την πρόβλεψη τιμών ηλεκτρικής ενέργειας ένα ιδιαίτερα μεταβλητό και πολυπαραγοντικό πρόβλημα. Οι εξελίξεις αυτές ανέδειξαν τη σημασία της ποσοτικοποίησης της αβεβαιότητας των προβλέψεων και ενίσχυσαν το ενδιαφέρον για τις πιθανοτικές μεθόδους πρόβλεψης, ιδίως εκείνες που βασίζονται σε μοντέλα βαθιάς μάθησης. Η παρούσα διπλωματική εργασία συνεισφέρει στην πιθανοτική πρόβλεψη τιμών ηλεκτρικής ενέργειας μέσω της εφαρμογής και αξιολόγησης σύγχρονων αρχιτεκτονικών βασισμένων στον μηχανισμό προσοχής (attention), και συγκεκριμένα του Transformer, του Temporal Fusion Transformer (TFT), του PatchTST και του θεμελιώδους μοντέλου (foundation model) Chronos-2, προσαρμοσμένων ώστε να παράγουν προβλέψεις ποσοστημορίων. Τα μοντέλα αξιολογούνται αρχικά στο σύνολο δεδομένων GEFCom2014, υπό το ίδιο πειραματικό πλαίσιο με τον αρχικό διαγωνισμό, στο οποίο, εξ όσων γνωρίζουμε, τέτοιες αρχιτεκτονικές βαθιάς μάθησης δεν έχουν εφαρμοστεί στο παρελθόν· τα αποτελέσματά τους συγκρίνονται τόσο με κλασικά στατιστικά όσο και με νευρωνικά μοντέλα αναφοράς, καθώς και με τις νικήτριες λύσεις του διαγωνισμού. Για την αξιολόγηση της ευρωστίας τους υπό πιο ρεαλιστικές και απαιτητικές συνθήκες, το ίδιο πλαίσιο εφαρμόζεται στη συνέχεια σε πρόσφατα δεδομένα της ελληνικής αγοράς ηλεκτρικής ενέργειας, τα οποία παρουσιάζουν υψηλή μεταβλητότητα, ελλείπουσες τιμές και αρνητικές τιμές. Το πρόβλημα πρόβλεψης συνίσταται στην πρόβλεψη των επόμενων 24 ωρών με βάση ένα ιστορικό παράθυρο παρατήρησης σε συνδυασμό με τα διαθέσιμα εξωγενή χαρακτηριστικά, ενώ η απόδοση αξιολογείται μέσω της συνάρτησης απώλειας pinball, καθώς και μετρικών αξιοπιστίας και οξύτητας. Τα αποτελέσματα δείχνουν ότι τα προτεινόμενα μοντέλα υπερτερούν σταθερά των κλασικών μεθόδων αναφοράς στο GEFCom2014, ενώ σε ορισμένες περιπτώσεις προσεγγίζουν ή και ξεπερνούν τις νικήτριες λύσεις του διαγωνισμού. Στα πιο σύνθετα δεδομένα της ελληνικής αγοράς τα μοντέλα παραμένουν αποτελεσματικά, αν και παρατηρείται κάποια υποβάθμιση της απόδοσης που αποδίδεται στην αυξημένη δυσκολία των χρονοσειρών, γεγονός που υποδεικνύει περιθώρια περαιτέρω βελτίωσης. Συνολικά, το Chronos-2 επιτυγχάνει την καλύτερη απόδοση, ακολουθούμενο στενά από το μοντέλο Transformer.","abstract_has_math":false,"creators":["Κουμαρέλα Βασιλική","Koumarela Vasiliki"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-11-19T05:20:42Z","subjects":["Θετικές Επιστήμες","Science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5449174"],"render_values":[{"text":"uoadl:5449174","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5449174","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5449174","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A5449174","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Κουμαρέλα Βασιλική","Koumarela Vasiliki"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Θετικές Επιστήμες","Science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5449174","https://pergamos.lib.uoa.gr/uoa/dl/object/5449174"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Τα τελευταία χρόνια, οι αγορές ηλεκτρικής ενέργειας έχουν υποστεί σημαντικές αλλαγές, οι οποίες οφείλονται στην εισαγωγή μηχανισμών συναλλαγών ηλεκτρικής ενέργειας βασισμένων σε δημοπρασίες, στους φιλόδοξους στόχους μείωσης των εκπομπών αερίων του θερμοκηπίου και στην αυξανόμενη διείσδυση των Ανανεώσιμων Πηγών Ενέργειας (ΑΠΕ), παράγοντες που από κοινού καθιστούν την πρόβλεψη τιμών ηλεκτρικής ενέργειας ένα ιδιαίτερα μεταβλητό και πολυπαραγοντικό πρόβλημα. Οι εξελίξεις αυτές ανέδειξαν τη σημασία της ποσοτικοποίησης της αβεβαιότητας των προβλέψεων και ενίσχυσαν το ενδιαφέρον για τις πιθανοτικές μεθόδους πρόβλεψης, ιδίως εκείνες που βασίζονται σε μοντέλα βαθιάς μάθησης. Η παρούσα διπλωματική εργασία συνεισφέρει στην πιθανοτική πρόβλεψη τιμών ηλεκτρικής ενέργειας μέσω της εφαρμογής και αξιολόγησης σύγχρονων αρχιτεκτονικών βασισμένων στον μηχανισμό προσοχής (attention), και συγκεκριμένα του Transformer, του Temporal Fusion Transformer (TFT), του PatchTST και του θεμελιώδους μοντέλου (foundation model) Chronos-2, προσαρμοσμένων ώστε να παράγουν προβλέψεις ποσοστημορίων. Τα μοντέλα αξιολογούνται αρχικά στο σύνολο δεδομένων GEFCom2014, υπό το ίδιο πειραματικό πλαίσιο με τον αρχικό διαγωνισμό, στο οποίο, εξ όσων γνωρίζουμε, τέτοιες αρχιτεκτονικές βαθιάς μάθησης δεν έχουν εφαρμοστεί στο παρελθόν· τα αποτελέσματά τους συγκρίνονται τόσο με κλασικά στατιστικά όσο και με νευρωνικά μοντέλα αναφοράς, καθώς και με τις νικήτριες λύσεις του διαγωνισμού. Για την αξιολόγηση της ευρωστίας τους υπό πιο ρεαλιστικές και απαιτητικές συνθήκες, το ίδιο πλαίσιο εφαρμόζεται στη συνέχεια σε πρόσφατα δεδομένα της ελληνικής αγοράς ηλεκτρικής ενέργειας, τα οποία παρουσιάζουν υψηλή μεταβλητότητα, ελλείπουσες τιμές και αρνητικές τιμές. Το πρόβλημα πρόβλεψης συνίσταται στην πρόβλεψη των επόμενων 24 ωρών με βάση ένα ιστορικό παράθυρο παρατήρησης σε συνδυασμό με τα διαθέσιμα εξωγενή χαρακτηριστικά, ενώ η απόδοση αξιολογείται μέσω της συνάρτησης απώλειας pinball, καθώς και μετρικών αξιοπιστίας και οξύτητας. Τα αποτελέσματα δείχνουν ότι τα προτεινόμενα μοντέλα υπερτερούν σταθερά των κλασικών μεθόδων αναφοράς στο GEFCom2014, ενώ σε ορισμένες περιπτώσεις προσεγγίζουν ή και ξεπερνούν τις νικήτριες λύσεις του διαγωνισμού. Στα πιο σύνθετα δεδομένα της ελληνικής αγοράς τα μοντέλα παραμένουν αποτελεσματικά, αν και παρατηρείται κάποια υποβάθμιση της απόδοσης που αποδίδεται στην αυξημένη δυσκολία των χρονοσειρών, γεγονός που υποδεικνύει περιθώρια περαιτέρω βελτίωσης. Συνολικά, το Chronos-2 επιτυγχάνει την καλύτερη απόδοση, ακολουθούμενο στενά από το μοντέλο Transformer.","In recent years, electricity markets have undergone significant changes, driven by the introduction of auction-based power trading mechanisms, ambitious greenhouse-gas emission targets, and the increasing penetration of Renewable Energy Sources (RES), which together make electricity price forecasting a highly volatile, multifactorial problem. These developments have heightened the importance of quantifying forecast uncertainty and have motivated growing interest in probabilistic forecasting, particularly with deep learning models. This thesis contributes to probabilistic electricity price forecasting by applying and evaluating modern attention-based architectures, namely the Transformer, the Temporal Fusion Transformer (TFT), PatchTST, and the foundation model Chronos-2, adapted to produce quantile forecasts. The models are first evaluated on the GEFCom2014 dataset under the same experimental setting as the original competition, on which, to the best of our knowledge, such deep learning architectures have not previously been applied; their results are compared against both classical statistical and neural benchmarks, as well as the competition-winning solutions. To assess robustness under more realistic and demanding conditions, the same framework is then applied to recent Greek electricity market data, which exhibit high volatility, missing values, and negative prices. The forecasting task is to predict the next 24 hours from a historical observation window together with available exogenous features, with performance evaluated using the pinball loss alongside reliability and sharpness metrics. The results show that the proposed models consistently outperform the classical benchmarks on GEFCom2014, in some cases matching or exceeding the competition-winning solutions. On the more complex Greek data the models remain effective, though with some degradation attributable to the increased difficulty of the series, indicating room for further improvement. Overall, Chronos-2 achieves the strongest performance, followed closely by the Transformer."]},{"key":"dc:title","label":"Title","values":["Electricity Price Forecasting with Attention-Based Neural Network Architectures"]}]}],"canonical_facts":{"dc:creator":["Κουμαρέλα Βασιλική","Koumarela Vasiliki"],"dc:date":["2026"],"dc:description":["Τα τελευταία χρόνια, οι αγορές ηλεκτρικής ενέργειας έχουν υποστεί σημαντικές αλλαγές, οι οποίες οφείλονται στην εισαγωγή μηχανισμών συναλλαγών ηλεκτρικής ενέργειας βασισμένων σε δημοπρασίες, στους φιλόδοξους στόχους μείωσης των εκπομπών αερίων του θερμοκηπίου και στην αυξανόμενη διείσδυση των Ανανεώσιμων Πηγών Ενέργειας (ΑΠΕ), παράγοντες που από κοινού καθιστούν την πρόβλεψη τιμών ηλεκτρικής ενέργειας ένα ιδιαίτερα μεταβλητό και πολυπαραγοντικό πρόβλημα. Οι εξελίξεις αυτές ανέδειξαν τη σημασία της ποσοτικοποίησης της αβεβαιότητας των προβλέψεων και ενίσχυσαν το ενδιαφέρον για τις πιθανοτικές μεθόδους πρόβλεψης, ιδίως εκείνες που βασίζονται σε μοντέλα βαθιάς μάθησης. Η παρούσα διπλωματική εργασία συνεισφέρει στην πιθανοτική πρόβλεψη τιμών ηλεκτρικής ενέργειας μέσω της εφαρμογής και αξιολόγησης σύγχρονων αρχιτεκτονικών βασισμένων στον μηχανισμό προσοχής (attention), και συγκεκριμένα του Transformer, του Temporal Fusion Transformer (TFT), του PatchTST και του θεμελιώδους μοντέλου (foundation model) Chronos-2, προσαρμοσμένων ώστε να παράγουν προβλέψεις ποσοστημορίων. Τα μοντέλα αξιολογούνται αρχικά στο σύνολο δεδομένων GEFCom2014, υπό το ίδιο πειραματικό πλαίσιο με τον αρχικό διαγωνισμό, στο οποίο, εξ όσων γνωρίζουμε, τέτοιες αρχιτεκτονικές βαθιάς μάθησης δεν έχουν εφαρμοστεί στο παρελθόν· τα αποτελέσματά τους συγκρίνονται τόσο με κλασικά στατιστικά όσο και με νευρωνικά μοντέλα αναφοράς, καθώς και με τις νικήτριες λύσεις του διαγωνισμού. Για την αξιολόγηση της ευρωστίας τους υπό πιο ρεαλιστικές και απαιτητικές συνθήκες, το ίδιο πλαίσιο εφαρμόζεται στη συνέχεια σε πρόσφατα δεδομένα της ελληνικής αγοράς ηλεκτρικής ενέργειας, τα οποία παρουσιάζουν υψηλή μεταβλητότητα, ελλείπουσες τιμές και αρνητικές τιμές. Το πρόβλημα πρόβλεψης συνίσταται στην πρόβλεψη των επόμενων 24 ωρών με βάση ένα ιστορικό παράθυρο παρατήρησης σε συνδυασμό με τα διαθέσιμα εξωγενή χαρακτηριστικά, ενώ η απόδοση αξιολογείται μέσω της συνάρτησης απώλειας pinball, καθώς και μετρικών αξιοπιστίας και οξύτητας. Τα αποτελέσματα δείχνουν ότι τα προτεινόμενα μοντέλα υπερτερούν σταθερά των κλασικών μεθόδων αναφοράς στο GEFCom2014, ενώ σε ορισμένες περιπτώσεις προσεγγίζουν ή και ξεπερνούν τις νικήτριες λύσεις του διαγωνισμού. Στα πιο σύνθετα δεδομένα της ελληνικής αγοράς τα μοντέλα παραμένουν αποτελεσματικά, αν και παρατηρείται κάποια υποβάθμιση της απόδοσης που αποδίδεται στην αυξημένη δυσκολία των χρονοσειρών, γεγονός που υποδεικνύει περιθώρια περαιτέρω βελτίωσης. Συνολικά, το Chronos-2 επιτυγχάνει την καλύτερη απόδοση, ακολουθούμενο στενά από το μοντέλο Transformer.","In recent years, electricity markets have undergone significant changes, driven by the introduction of auction-based power trading mechanisms, ambitious greenhouse-gas emission targets, and the increasing penetration of Renewable Energy Sources (RES), which together make electricity price forecasting a highly volatile, multifactorial problem. These developments have heightened the importance of quantifying forecast uncertainty and have motivated growing interest in probabilistic forecasting, particularly with deep learning models. This thesis contributes to probabilistic electricity price forecasting by applying and evaluating modern attention-based architectures, namely the Transformer, the Temporal Fusion Transformer (TFT), PatchTST, and the foundation model Chronos-2, adapted to produce quantile forecasts. The models are first evaluated on the GEFCom2014 dataset under the same experimental setting as the original competition, on which, to the best of our knowledge, such deep learning architectures have not previously been applied; their results are compared against both classical statistical and neural benchmarks, as well as the competition-winning solutions. To assess robustness under more realistic and demanding conditions, the same framework is then applied to recent Greek electricity market data, which exhibit high volatility, missing values, and negative prices. The forecasting task is to predict the next 24 hours from a historical observation window together with available exogenous features, with performance evaluated using the pinball loss alongside reliability and sharpness metrics. The results show that the proposed models consistently outperform the classical benchmarks on GEFCom2014, in some cases matching or exceeding the competition-winning solutions. On the more complex Greek data the models remain effective, though with some degradation attributable to the increased difficulty of the series, indicating room for further improvement. Overall, Chronos-2 achieves the strongest performance, followed closely by the Transformer."],"dc:identifier":["uoadl:5449174","https://pergamos.lib.uoa.gr/uoa/dl/object/5449174"],"dc:language":["English"],"dc:subject":["Θετικές Επιστήμες","Science"],"dc:title":["Electricity Price Forecasting with Attention-Based Neural Network Architectures"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:20:42Z"}