{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:5422677"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:5422677","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Transformer-Based Architectures for Financial Time Series Forecasting: From Single-Stock Learning to Cross-Asset Generalization","abstract":"Η παρούσα διπλωματική εργασία διερευνά την εφαρμογή νευρωνικών αρχιτεκτονικών βασισμένων στον Transformer στο πρόβλημα της πρόβλεψης χρηματοοικονομικών χρονοσειρών, με ιδιαίτερη έμφαση στην βραχυπρόθεσμη πρόβλεψη τιμών μετοχών. Η μελέτη διερευνά συστηματικά την εξέλιξη της πολυπλοκότητας των μοντέλων, ξεκινώντας από μια αρχιτεκτονική Transformer κωδικοποιητή ακολουθίας-προς-ένα (Seq2One), προχωρώντας σε μια διαμόρφωση μόνο με Attention μηχανισμό, και καταλήγοντας σε μια αρχιτεκτονική κωδικοποιητή–αποκωδικοποιητή ακολουθίας-προς-ακολουθία (Seq2Seq). Τα αρχικά πειράματα διεξήχθησαν στη μετοχή της Microsoft (MSFT), πριν επεκταθούν σε ευρύτερο σύνολο εταιρειών εισηγμένων στο NASDAQ. Η αγορά NASDAQ επιλέχθηκε λόγω της υψηλής ρευστότητας, της διαθεσιμότητας δεδομένων και της ποικιλομορφίας μεταβλητότητας — από σταθερές μετοχές μεγάλης κεφαλαιοποίησης έως ιδιαίτερα ευμετάβλητες — καθιστώντας την ιδανική για την αξιολόγηση της ανθεκτικότητας και της ικανότητας γενίκευσης αρχιτεκτονικών βαθιάς μάθησης. Διεξήχθησαν πολλαπλά πειράματα για την αξιολόγηση της ακρίβειας πρόβλεψης, της χρονικής συνέπειας και της ικανότητας γενίκευσης κάθε αρχιτεκτονικής σε διαφορετικά μήκη ακολουθίας και συνθήκες εκπαίδευσης. Τα αποτελέσματα καταδεικνύουν μια σαφή πρόοδο απόδοσης μεταξύ των μοντέλων. Η αρχιτεκτονική Seq2One αποτελεί ένα σταθερό σημείο αναφοράς, αλλά παρουσιάζει συσσωρευτικό σφάλμα στις αυτοπαλίνδρομες προβλέψεις. Το μοντέλο μόνο με Attention μηχανισμό, παρά την απλότητά του, επιτυγχάνει ανταγωνιστική βραχυπρόθεσμη ακρίβεια αποτυπώνοντας αποτελεσματικά τοπικές χρονικές εξαρτήσεις. Ο Transformer Seq2Seq υπερτερεί και των δύο προκατόχων του μοντελοποιώντας από κοινού εξαρτήσεις πολλαπλών βημάτων και παράγοντας συνεπείς προβλέψεις πέντε ημερών, επιτυγχάνοντας το χαμηλότερο μέσο απόλυτο και μέσο τετραγωνικό σφάλμα μεταξύ όλων των διαμορφώσεων. Επιπλέον, ένα πείραμα Seq2Seq με πολλαπλές μετοχές δείχνει ότι οι Transformers μπορούν να γενικεύσουν τα εκμαθημένα χρονικά μοτίβα σε διαφορετικές μετοχές, παράγοντας ακριβείς προβλέψεις για μετοχές που δεν είδε κατά την εκπαίδευση εντός του τομέα NASDAQ. Μια συγκριτική αξιολόγηση έναντι ενός μοντέλου βάσης LSTM αποκαλύπτει ότι το LSTM συνεχώς ισοφαρίζει ή υπερτερεί του Transformer — ένα αποτέλεσμα που αποδίδεται στη βαθιά μη στάσιμη και θορυβώδη φύση των χρηματοοικονομικών χρονοσειρών, η οποία ευνοεί την τοπική ακολουθιακή επεξεργασία του LSTM έναντι των καθολικών attention μηχανισμών, ιδιαίτερα όταν τα δεδομένα εκπαίδευσης είναι περιορισμένα και ο ορίζοντας πρόβλεψης είναι σύντομος. Τα ευρήματα υπογραμμίζουν τη σημασία της επιλογής μήκους ακολουθίας, με σύντομα έως μέτρια παράθυρα εισόδου 10–30 ημερών να προσφέρουν την καλύτερη ισορροπία μεταξύ απόδοσης και μείωσης θορύβου — σε συμφωνία με τη μεροληψία πρόσφατης πληροφορίας που είναι εγγενής στις μη στάσιμες χρηματοοικονομικές χρονοσειρές, όπου οι παλαιότερες παρατηρήσεις καθίστανται προοδευτικά λιγότερο σχετικές. Τα πειράματα με πολλαπλές μετοχές αποκαλύπτουν ελπιδοφόρα στοιχεία για τις ικανότητες μεταφοράς μάθησης στις αρχιτεκτονικές Transformer, ανοίγοντας τον δρόμο για επεκτάσιμα συστήματα πρόβλεψης πολλαπλών μετοχών. Μελλοντική εργασία μπορεί να επεκταθεί μέσω ενσωμάτωσης πολλαπλών χαρακτηριστικών, συναρτήσεων σφάλματος με επίγνωση της μεταβλητότητας και σήματα διασταυρούμενων μετοχών ως βοηθητικές εισόδους, ενώ παράλληλα αξιολογώντας τη γενίκευση του μοντέλου σε διαφορετικές αγορές — συμπεριλαμβανομένων μετοχών εκτός NASDAQ, εμπορευμάτων και κρυπτονομισμάτων — για περαιτέρω αξιολόγηση της ανθεκτικότητας και της ευρωστίας σε μεταβαλλόμενες δυναμικές αγοράς.","abstract_html":"Η παρούσα διπλωματική εργασία διερευνά την εφαρμογή νευρωνικών αρχιτεκτονικών βασισμένων στον Transformer στο πρόβλημα της πρόβλεψης χρηματοοικονομικών χρονοσειρών, με ιδιαίτερη έμφαση στην βραχυπρόθεσμη πρόβλεψη τιμών μετοχών. Η μελέτη διερευνά συστηματικά την εξέλιξη της πολυπλοκότητας των μοντέλων, ξεκινώντας από μια αρχιτεκτονική Transformer κωδικοποιητή ακολουθίας-προς-ένα (Seq2One), προχωρώντας σε μια διαμόρφωση μόνο με Attention μηχανισμό, και καταλήγοντας σε μια αρχιτεκτονική κωδικοποιητή–αποκωδικοποιητή ακολουθίας-προς-ακολουθία (Seq2Seq). Τα αρχικά πειράματα διεξήχθησαν στη μετοχή της Microsoft (MSFT), πριν επεκταθούν σε ευρύτερο σύνολο εταιρειών εισηγμένων στο NASDAQ. Η αγορά NASDAQ επιλέχθηκε λόγω της υψηλής ρευστότητας, της διαθεσιμότητας δεδομένων και της ποικιλομορφίας μεταβλητότητας — από σταθερές μετοχές μεγάλης κεφαλαιοποίησης έως ιδιαίτερα ευμετάβλητες — καθιστώντας την ιδανική για την αξιολόγηση της ανθεκτικότητας και της ικανότητας γενίκευσης αρχιτεκτονικών βαθιάς μάθησης. Διεξήχθησαν πολλαπλά πειράματα για την αξιολόγηση της ακρίβειας πρόβλεψης, της χρονικής συνέπειας και της ικανότητας γενίκευσης κάθε αρχιτεκτονικής σε διαφορετικά μήκη ακολουθίας και συνθήκες εκπαίδευσης. Τα αποτελέσματα καταδεικνύουν μια σαφή πρόοδο απόδοσης μεταξύ των μοντέλων. Η αρχιτεκτονική Seq2One αποτελεί ένα σταθερό σημείο αναφοράς, αλλά παρουσιάζει συσσωρευτικό σφάλμα στις αυτοπαλίνδρομες προβλέψεις. Το μοντέλο μόνο με Attention μηχανισμό, παρά την απλότητά του, επιτυγχάνει ανταγωνιστική βραχυπρόθεσμη ακρίβεια αποτυπώνοντας αποτελεσματικά τοπικές χρονικές εξαρτήσεις. Ο Transformer Seq2Seq υπερτερεί και των δύο προκατόχων του μοντελοποιώντας από κοινού εξαρτήσεις πολλαπλών βημάτων και παράγοντας συνεπείς προβλέψεις πέντε ημερών, επιτυγχάνοντας το χαμηλότερο μέσο απόλυτο και μέσο τετραγωνικό σφάλμα μεταξύ όλων των διαμορφώσεων. Επιπλέον, ένα πείραμα Seq2Seq με πολλαπλές μετοχές δείχνει ότι οι Transformers μπορούν να γενικεύσουν τα εκμαθημένα χρονικά μοτίβα σε διαφορετικές μετοχές, παράγοντας ακριβείς προβλέψεις για μετοχές που δεν είδε κατά την εκπαίδευση εντός του τομέα NASDAQ. Μια συγκριτική αξιολόγηση έναντι ενός μοντέλου βάσης LSTM αποκαλύπτει ότι το LSTM συνεχώς ισοφαρίζει ή υπερτερεί του Transformer — ένα αποτέλεσμα που αποδίδεται στη βαθιά μη στάσιμη και θορυβώδη φύση των χρηματοοικονομικών χρονοσειρών, η οποία ευνοεί την τοπική ακολουθιακή επεξεργασία του LSTM έναντι των καθολικών attention μηχανισμών, ιδιαίτερα όταν τα δεδομένα εκπαίδευσης είναι περιορισμένα και ο ορίζοντας πρόβλεψης είναι σύντομος. Τα ευρήματα υπογραμμίζουν τη σημασία της επιλογής μήκους ακολουθίας, με σύντομα έως μέτρια παράθυρα εισόδου 10–30 ημερών να προσφέρουν την καλύτερη ισορροπία μεταξύ απόδοσης και μείωσης θορύβου — σε συμφωνία με τη μεροληψία πρόσφατης πληροφορίας που είναι εγγενής στις μη στάσιμες χρηματοοικονομικές χρονοσειρές, όπου οι παλαιότερες παρατηρήσεις καθίστανται προοδευτικά λιγότερο σχετικές. Τα πειράματα με πολλαπλές μετοχές αποκαλύπτουν ελπιδοφόρα στοιχεία για τις ικανότητες μεταφοράς μάθησης στις αρχιτεκτονικές Transformer, ανοίγοντας τον δρόμο για επεκτάσιμα συστήματα πρόβλεψης πολλαπλών μετοχών. Μελλοντική εργασία μπορεί να επεκταθεί μέσω ενσωμάτωσης πολλαπλών χαρακτηριστικών, συναρτήσεων σφάλματος με επίγνωση της μεταβλητότητας και σήματα διασταυρούμενων μετοχών ως βοηθητικές εισόδους, ενώ παράλληλα αξιολογώντας τη γενίκευση του μοντέλου σε διαφορετικές αγορές — συμπεριλαμβανομένων μετοχών εκτός NASDAQ, εμπορευμάτων και κρυπτονομισμάτων — για περαιτέρω αξιολόγηση της ανθεκτικότητας και της ευρωστίας σε μεταβαλλόμενες δυναμικές αγοράς.","abstract_has_math":false,"creators":["Στρουθοπούλου Βασιλική","Strouthopoulou Vassiliki"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2026,"date_issued":"2026","date_published":"2026","updated_at":"2026-11-19T05:20:12Z","subjects":["Θετικές Επιστήμες","Science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5422677"],"render_values":[{"text":"uoadl:5422677","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5422677","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/5422677","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A5422677","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Στρουθοπούλου Βασιλική","Strouthopoulou Vassiliki"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2026"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Θετικές Επιστήμες","Science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:5422677","https://pergamos.lib.uoa.gr/uoa/dl/object/5422677"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Η παρούσα διπλωματική εργασία διερευνά την εφαρμογή νευρωνικών αρχιτεκτονικών βασισμένων στον Transformer στο πρόβλημα της πρόβλεψης χρηματοοικονομικών χρονοσειρών, με ιδιαίτερη έμφαση στην βραχυπρόθεσμη πρόβλεψη τιμών μετοχών. Η μελέτη διερευνά συστηματικά την εξέλιξη της πολυπλοκότητας των μοντέλων, ξεκινώντας από μια αρχιτεκτονική Transformer κωδικοποιητή ακολουθίας-προς-ένα (Seq2One), προχωρώντας σε μια διαμόρφωση μόνο με Attention μηχανισμό, και καταλήγοντας σε μια αρχιτεκτονική κωδικοποιητή–αποκωδικοποιητή ακολουθίας-προς-ακολουθία (Seq2Seq). Τα αρχικά πειράματα διεξήχθησαν στη μετοχή της Microsoft (MSFT), πριν επεκταθούν σε ευρύτερο σύνολο εταιρειών εισηγμένων στο NASDAQ. Η αγορά NASDAQ επιλέχθηκε λόγω της υψηλής ρευστότητας, της διαθεσιμότητας δεδομένων και της ποικιλομορφίας μεταβλητότητας — από σταθερές μετοχές μεγάλης κεφαλαιοποίησης έως ιδιαίτερα ευμετάβλητες — καθιστώντας την ιδανική για την αξιολόγηση της ανθεκτικότητας και της ικανότητας γενίκευσης αρχιτεκτονικών βαθιάς μάθησης. Διεξήχθησαν πολλαπλά πειράματα για την αξιολόγηση της ακρίβειας πρόβλεψης, της χρονικής συνέπειας και της ικανότητας γενίκευσης κάθε αρχιτεκτονικής σε διαφορετικά μήκη ακολουθίας και συνθήκες εκπαίδευσης. Τα αποτελέσματα καταδεικνύουν μια σαφή πρόοδο απόδοσης μεταξύ των μοντέλων. Η αρχιτεκτονική Seq2One αποτελεί ένα σταθερό σημείο αναφοράς, αλλά παρουσιάζει συσσωρευτικό σφάλμα στις αυτοπαλίνδρομες προβλέψεις. Το μοντέλο μόνο με Attention μηχανισμό, παρά την απλότητά του, επιτυγχάνει ανταγωνιστική βραχυπρόθεσμη ακρίβεια αποτυπώνοντας αποτελεσματικά τοπικές χρονικές εξαρτήσεις. Ο Transformer Seq2Seq υπερτερεί και των δύο προκατόχων του μοντελοποιώντας από κοινού εξαρτήσεις πολλαπλών βημάτων και παράγοντας συνεπείς προβλέψεις πέντε ημερών, επιτυγχάνοντας το χαμηλότερο μέσο απόλυτο και μέσο τετραγωνικό σφάλμα μεταξύ όλων των διαμορφώσεων. Επιπλέον, ένα πείραμα Seq2Seq με πολλαπλές μετοχές δείχνει ότι οι Transformers μπορούν να γενικεύσουν τα εκμαθημένα χρονικά μοτίβα σε διαφορετικές μετοχές, παράγοντας ακριβείς προβλέψεις για μετοχές που δεν είδε κατά την εκπαίδευση εντός του τομέα NASDAQ. Μια συγκριτική αξιολόγηση έναντι ενός μοντέλου βάσης LSTM αποκαλύπτει ότι το LSTM συνεχώς ισοφαρίζει ή υπερτερεί του Transformer — ένα αποτέλεσμα που αποδίδεται στη βαθιά μη στάσιμη και θορυβώδη φύση των χρηματοοικονομικών χρονοσειρών, η οποία ευνοεί την τοπική ακολουθιακή επεξεργασία του LSTM έναντι των καθολικών attention μηχανισμών, ιδιαίτερα όταν τα δεδομένα εκπαίδευσης είναι περιορισμένα και ο ορίζοντας πρόβλεψης είναι σύντομος. Τα ευρήματα υπογραμμίζουν τη σημασία της επιλογής μήκους ακολουθίας, με σύντομα έως μέτρια παράθυρα εισόδου 10–30 ημερών να προσφέρουν την καλύτερη ισορροπία μεταξύ απόδοσης και μείωσης θορύβου — σε συμφωνία με τη μεροληψία πρόσφατης πληροφορίας που είναι εγγενής στις μη στάσιμες χρηματοοικονομικές χρονοσειρές, όπου οι παλαιότερες παρατηρήσεις καθίστανται προοδευτικά λιγότερο σχετικές. Τα πειράματα με πολλαπλές μετοχές αποκαλύπτουν ελπιδοφόρα στοιχεία για τις ικανότητες μεταφοράς μάθησης στις αρχιτεκτονικές Transformer, ανοίγοντας τον δρόμο για επεκτάσιμα συστήματα πρόβλεψης πολλαπλών μετοχών. Μελλοντική εργασία μπορεί να επεκταθεί μέσω ενσωμάτωσης πολλαπλών χαρακτηριστικών, συναρτήσεων σφάλματος με επίγνωση της μεταβλητότητας και σήματα διασταυρούμενων μετοχών ως βοηθητικές εισόδους, ενώ παράλληλα αξιολογώντας τη γενίκευση του μοντέλου σε διαφορετικές αγορές — συμπεριλαμβανομένων μετοχών εκτός NASDAQ, εμπορευμάτων και κρυπτονομισμάτων — για περαιτέρω αξιολόγηση της ανθεκτικότητας και της ευρωστίας σε μεταβαλλόμενες δυναμικές αγοράς.","This thesis investigates the application of Transformer-based neural architectures to the problem of financial time series forecasting, with a particular focus on short-term stock price prediction. The study systematically explores the evolution of model complexity, beginning with a sequence-to-one (Seq2One) Transformer encoder, advancing through an Attention-Only configuration, and culminating in a sequence-to-sequence (Seq2Seq) encoder–decoder architecture. Initial experiments are conducted on Microsoft (MSFT) stock data, before extending to a broader set of NASDAQ-listed companies. The NASDAQ market was selected due to its high liquidity, data availability, and diversity of volatility profiles — ranging from stable large-cap stocks to highly volatile securities — making it particularly well-suited for evaluating the robustness and generalization ability of deep learning architectures. Multiple experiments were conducted to evaluate the predictive accuracy, temporal consistency, and generalization ability of each architecture across varying sequence lengths and training regimes. Results demonstrate a clear performance progression across models. The Seq2One architecture establishes a stable baseline but exhibits cumulative error in autoregressive forecasts. The Attention-Only model, despite its simplicity, achieves competitive short-term accuracy by effectively capturing localized temporal dependencies. The Seq2Seq Transformer outperforms both predecessors by jointly modeling multi-step dependencies and generating consistent five-day forecasts, achieving the lowest mean absolute and mean squared errors among all configurations. Furthermore, a multi-stock Seq2Seq experiment shows that Transformers can generalize learned temporal patterns across different assets, producing accurate predictions for unseen stocks within the NASDAQ domain. A comparative evaluation against an LSTM baseline reveals that the LSTM consistently matches or outperforms the Transformer — a result attributed to the highly non-stationary and noisy nature of financial time series, which favours the LSTM's local sequential processing over global attention mechanisms, particularly when training data is limited and the forecast horizon is short. The findings underline the importance of sequence length selection, with short-to-moderate input windows of 10–30 days offering the best trade-off between responsiveness and noise reduction — consistent with the recency bias inherent in non-stationary financial data, where older observations become progressively less relevant. The cross-stock experiments reveal promising evidence of transfer learning capabilities in Transformer architectures, paving the way for scalable, multi-asset forecasting systems. Future work may extend this framework through multi-feature integration, volatility-aware loss functions, and cross-asset signals as auxiliary inputs, while also evaluating model generalization across different market domains — including non-NASDAQ equities, commodities, and cryptocurrencies — to further assess robustness and resilience to varying market dynamics."]},{"key":"dc:title","label":"Title","values":["Transformer-Based Architectures for Financial Time Series Forecasting: From Single-Stock Learning to Cross-Asset Generalization"]}]}],"canonical_facts":{"dc:creator":["Στρουθοπούλου Βασιλική","Strouthopoulou Vassiliki"],"dc:date":["2026"],"dc:description":["Η παρούσα διπλωματική εργασία διερευνά την εφαρμογή νευρωνικών αρχιτεκτονικών βασισμένων στον Transformer στο πρόβλημα της πρόβλεψης χρηματοοικονομικών χρονοσειρών, με ιδιαίτερη έμφαση στην βραχυπρόθεσμη πρόβλεψη τιμών μετοχών. Η μελέτη διερευνά συστηματικά την εξέλιξη της πολυπλοκότητας των μοντέλων, ξεκινώντας από μια αρχιτεκτονική Transformer κωδικοποιητή ακολουθίας-προς-ένα (Seq2One), προχωρώντας σε μια διαμόρφωση μόνο με Attention μηχανισμό, και καταλήγοντας σε μια αρχιτεκτονική κωδικοποιητή–αποκωδικοποιητή ακολουθίας-προς-ακολουθία (Seq2Seq). Τα αρχικά πειράματα διεξήχθησαν στη μετοχή της Microsoft (MSFT), πριν επεκταθούν σε ευρύτερο σύνολο εταιρειών εισηγμένων στο NASDAQ. Η αγορά NASDAQ επιλέχθηκε λόγω της υψηλής ρευστότητας, της διαθεσιμότητας δεδομένων και της ποικιλομορφίας μεταβλητότητας — από σταθερές μετοχές μεγάλης κεφαλαιοποίησης έως ιδιαίτερα ευμετάβλητες — καθιστώντας την ιδανική για την αξιολόγηση της ανθεκτικότητας και της ικανότητας γενίκευσης αρχιτεκτονικών βαθιάς μάθησης. Διεξήχθησαν πολλαπλά πειράματα για την αξιολόγηση της ακρίβειας πρόβλεψης, της χρονικής συνέπειας και της ικανότητας γενίκευσης κάθε αρχιτεκτονικής σε διαφορετικά μήκη ακολουθίας και συνθήκες εκπαίδευσης. Τα αποτελέσματα καταδεικνύουν μια σαφή πρόοδο απόδοσης μεταξύ των μοντέλων. Η αρχιτεκτονική Seq2One αποτελεί ένα σταθερό σημείο αναφοράς, αλλά παρουσιάζει συσσωρευτικό σφάλμα στις αυτοπαλίνδρομες προβλέψεις. Το μοντέλο μόνο με Attention μηχανισμό, παρά την απλότητά του, επιτυγχάνει ανταγωνιστική βραχυπρόθεσμη ακρίβεια αποτυπώνοντας αποτελεσματικά τοπικές χρονικές εξαρτήσεις. Ο Transformer Seq2Seq υπερτερεί και των δύο προκατόχων του μοντελοποιώντας από κοινού εξαρτήσεις πολλαπλών βημάτων και παράγοντας συνεπείς προβλέψεις πέντε ημερών, επιτυγχάνοντας το χαμηλότερο μέσο απόλυτο και μέσο τετραγωνικό σφάλμα μεταξύ όλων των διαμορφώσεων. Επιπλέον, ένα πείραμα Seq2Seq με πολλαπλές μετοχές δείχνει ότι οι Transformers μπορούν να γενικεύσουν τα εκμαθημένα χρονικά μοτίβα σε διαφορετικές μετοχές, παράγοντας ακριβείς προβλέψεις για μετοχές που δεν είδε κατά την εκπαίδευση εντός του τομέα NASDAQ. Μια συγκριτική αξιολόγηση έναντι ενός μοντέλου βάσης LSTM αποκαλύπτει ότι το LSTM συνεχώς ισοφαρίζει ή υπερτερεί του Transformer — ένα αποτέλεσμα που αποδίδεται στη βαθιά μη στάσιμη και θορυβώδη φύση των χρηματοοικονομικών χρονοσειρών, η οποία ευνοεί την τοπική ακολουθιακή επεξεργασία του LSTM έναντι των καθολικών attention μηχανισμών, ιδιαίτερα όταν τα δεδομένα εκπαίδευσης είναι περιορισμένα και ο ορίζοντας πρόβλεψης είναι σύντομος. Τα ευρήματα υπογραμμίζουν τη σημασία της επιλογής μήκους ακολουθίας, με σύντομα έως μέτρια παράθυρα εισόδου 10–30 ημερών να προσφέρουν την καλύτερη ισορροπία μεταξύ απόδοσης και μείωσης θορύβου — σε συμφωνία με τη μεροληψία πρόσφατης πληροφορίας που είναι εγγενής στις μη στάσιμες χρηματοοικονομικές χρονοσειρές, όπου οι παλαιότερες παρατηρήσεις καθίστανται προοδευτικά λιγότερο σχετικές. Τα πειράματα με πολλαπλές μετοχές αποκαλύπτουν ελπιδοφόρα στοιχεία για τις ικανότητες μεταφοράς μάθησης στις αρχιτεκτονικές Transformer, ανοίγοντας τον δρόμο για επεκτάσιμα συστήματα πρόβλεψης πολλαπλών μετοχών. Μελλοντική εργασία μπορεί να επεκταθεί μέσω ενσωμάτωσης πολλαπλών χαρακτηριστικών, συναρτήσεων σφάλματος με επίγνωση της μεταβλητότητας και σήματα διασταυρούμενων μετοχών ως βοηθητικές εισόδους, ενώ παράλληλα αξιολογώντας τη γενίκευση του μοντέλου σε διαφορετικές αγορές — συμπεριλαμβανομένων μετοχών εκτός NASDAQ, εμπορευμάτων και κρυπτονομισμάτων — για περαιτέρω αξιολόγηση της ανθεκτικότητας και της ευρωστίας σε μεταβαλλόμενες δυναμικές αγοράς.","This thesis investigates the application of Transformer-based neural architectures to the problem of financial time series forecasting, with a particular focus on short-term stock price prediction. The study systematically explores the evolution of model complexity, beginning with a sequence-to-one (Seq2One) Transformer encoder, advancing through an Attention-Only configuration, and culminating in a sequence-to-sequence (Seq2Seq) encoder–decoder architecture. Initial experiments are conducted on Microsoft (MSFT) stock data, before extending to a broader set of NASDAQ-listed companies. The NASDAQ market was selected due to its high liquidity, data availability, and diversity of volatility profiles — ranging from stable large-cap stocks to highly volatile securities — making it particularly well-suited for evaluating the robustness and generalization ability of deep learning architectures. Multiple experiments were conducted to evaluate the predictive accuracy, temporal consistency, and generalization ability of each architecture across varying sequence lengths and training regimes. Results demonstrate a clear performance progression across models. The Seq2One architecture establishes a stable baseline but exhibits cumulative error in autoregressive forecasts. The Attention-Only model, despite its simplicity, achieves competitive short-term accuracy by effectively capturing localized temporal dependencies. The Seq2Seq Transformer outperforms both predecessors by jointly modeling multi-step dependencies and generating consistent five-day forecasts, achieving the lowest mean absolute and mean squared errors among all configurations. Furthermore, a multi-stock Seq2Seq experiment shows that Transformers can generalize learned temporal patterns across different assets, producing accurate predictions for unseen stocks within the NASDAQ domain. A comparative evaluation against an LSTM baseline reveals that the LSTM consistently matches or outperforms the Transformer — a result attributed to the highly non-stationary and noisy nature of financial time series, which favours the LSTM's local sequential processing over global attention mechanisms, particularly when training data is limited and the forecast horizon is short. The findings underline the importance of sequence length selection, with short-to-moderate input windows of 10–30 days offering the best trade-off between responsiveness and noise reduction — consistent with the recency bias inherent in non-stationary financial data, where older observations become progressively less relevant. The cross-stock experiments reveal promising evidence of transfer learning capabilities in Transformer architectures, paving the way for scalable, multi-asset forecasting systems. Future work may extend this framework through multi-feature integration, volatility-aware loss functions, and cross-asset signals as auxiliary inputs, while also evaluating model generalization across different market domains — including non-NASDAQ equities, commodities, and cryptocurrencies — to further assess robustness and resilience to varying market dynamics."],"dc:identifier":["uoadl:5422677","https://pergamos.lib.uoa.gr/uoa/dl/object/5422677"],"dc:language":["English"],"dc:subject":["Θετικές Επιστήμες","Science"],"dc:title":["Transformer-Based Architectures for Financial Time Series Forecasting: From Single-Stock Learning to Cross-Asset Generalization"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:20:12Z"}