{"id":{"repo_id":"athens","oai_identifier":"oai:lib.uoa.gr:uoadl:2800185"},"canonical_url":"https://search.ndltd.org/etd/athens/oai:lib.uoa.gr:uoadl:2800185","repository":{"repo_id":"athens","name":"National and Kapodistrian University of Athens","base_url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh"},"display":{"title":"Likelihood-Based Inference and Model Selection for Discrete-Time Finite State-Space Hidden Markov Models","abstract":"Τα Κρυμμένα Μαρκοβιανά Μοντέλα (ΚΜΜ) είναι μία από τις πιο καρποφόρες ιδέες στατιστικής μοντελοποίησης που έχει αναπτυχθεί τα τελευταία πενήντα χρόνια. Η χρήση λανθανουσών καταστάσεων καθιστά τα ΚΜΜ αρκετά γενικού χαρακτήρα για να διαχειριστούν ένα ευρύ φάσμα πολύπλοκων πραγματικών χρονοσειρών, ενώ η σχετικά απλή δομή εξάρτησής τους επιτρέπει τη χρήση αποτελεσματικών υπολογιστικών διαδικασιών. Αυτή η διπλωματική εργασία ασχολείται με την παρουσίαση Κλασικών και Μπεϋζιανών μεθόδων συμπερασματολογίας και επιλογής μοντέλου για ΚΜΜ. Στη συνέχεια, αυτές οι μέθοδοι εφαρμόζονται σε πραγματικά και προσομοιωμένα δεδομένα με στόχο να διαπιστωθεί η ακρίβεια και η αποτελεσματικότητά τους. Τα ΚΜΜ ανήκουν σε μια γενικότερη κλάση μοντέλων που αναφέρονται ως προβλήματα ελλιπών δεδομένων. Στο πλαίσιο της κλασικής στατιστικής, ο αλγόριθμος Expectation-Maximisation (EM) προσεγγίζει την εκτιμήτρια μέγιστης πιθανοφάνειας (ΕΜΠ) του διανύσματος των παραμέτρων, ενώ, στο πλαίσιο της Μπεϋζιανής στατιστικής, οι μέθοδοι Markov Chain Monte Carlo (MCMC) και συγκεκριμένα ο πλήρως δεσμευμένος δειγματολήπτης Gibbs, εφαρμόζονται για την προσέγγιση της εκ των υστέρων κατανομής του διανύσματος των παραμέτρων. Αυτές οι μέθοδοι εφαρμόζονται πρώτα για την εκτίμηση παραμέτρων σε μοντέλα πεπερασμένων μίξεων κατανομών, τα οποία μπορούν να θεωρηθούν ως ειδικές περιπτώσεις ΚΜΜ, όπου δεν επιτρέπεται καμία εξάρτηση μεταξύ διαδοχικών παρατηρήσεων. Στην περίπτωση των ΚΜΜ μια μορφή αμφίδρομης αναδρομικής διαδικασίας είναι επιπλέον απαραίτητη για τον υπολογισμό της δεσμευμένης κατανομής των κρυφών μεταβλητών, δεδομένων των παρατηρήσεων. Αυτός ο αλγόριθμος Forward-Backward μπορεί να συνδυαστεί είτε με τον αλγόριθμο EM είτε με κάποια μέθοδο MCMC για εκτίμηση παραμέτρων. Τέλος, εξετάζουμε μεθόδους για επιλογή του αριθμού των κρυφών καταστάσεων σε ένα ΚΜΜ. Η κλασική προσέγγιση συνήθως περιλαμβάνει την προσέγγιση των γενικευμένων λόγων πιθανοφανειών μέσω κάποιας τεχνικής bootstrap, ενώ η Μπεϋζιανή προσέγγιση στηρίζεται είτε σε δια-διαστατικές μεθόδους MCMC, οι οποίες περιλαμβάνουν κινήσεις μεταξύ διαφορετικών μοντέλων μαζί με εκτίμηση παραμέτρων, είτε σε μεθόδους προσομοίωσης για την προσέγγιση των περιθωρίων πιθανοφανειών των συγκρινόμενων μοντέλων.","abstract_html":"Τα Κρυμμένα Μαρκοβιανά Μοντέλα (ΚΜΜ) είναι μία από τις πιο καρποφόρες ιδέες στατιστικής μοντελοποίησης που έχει αναπτυχθεί τα τελευταία πενήντα χρόνια. Η χρήση λανθανουσών καταστάσεων καθιστά τα ΚΜΜ αρκετά γενικού χαρακτήρα για να διαχειριστούν ένα ευρύ φάσμα πολύπλοκων πραγματικών χρονοσειρών, ενώ η σχετικά απλή δομή εξάρτησής τους επιτρέπει τη χρήση αποτελεσματικών υπολογιστικών διαδικασιών. Αυτή η διπλωματική εργασία ασχολείται με την παρουσίαση Κλασικών και Μπεϋζιανών μεθόδων συμπερασματολογίας και επιλογής μοντέλου για ΚΜΜ. Στη συνέχεια, αυτές οι μέθοδοι εφαρμόζονται σε πραγματικά και προσομοιωμένα δεδομένα με στόχο να διαπιστωθεί η ακρίβεια και η αποτελεσματικότητά τους. Τα ΚΜΜ ανήκουν σε μια γενικότερη κλάση μοντέλων που αναφέρονται ως προβλήματα ελλιπών δεδομένων. Στο πλαίσιο της κλασικής στατιστικής, ο αλγόριθμος Expectation-Maximisation (EM) προσεγγίζει την εκτιμήτρια μέγιστης πιθανοφάνειας (ΕΜΠ) του διανύσματος των παραμέτρων, ενώ, στο πλαίσιο της Μπεϋζιανής στατιστικής, οι μέθοδοι Markov Chain Monte Carlo (MCMC) και συγκεκριμένα ο πλήρως δεσμευμένος δειγματολήπτης Gibbs, εφαρμόζονται για την προσέγγιση της εκ των υστέρων κατανομής του διανύσματος των παραμέτρων. Αυτές οι μέθοδοι εφαρμόζονται πρώτα για την εκτίμηση παραμέτρων σε μοντέλα πεπερασμένων μίξεων κατανομών, τα οποία μπορούν να θεωρηθούν ως ειδικές περιπτώσεις ΚΜΜ, όπου δεν επιτρέπεται καμία εξάρτηση μεταξύ διαδοχικών παρατηρήσεων. Στην περίπτωση των ΚΜΜ μια μορφή αμφίδρομης αναδρομικής διαδικασίας είναι επιπλέον απαραίτητη για τον υπολογισμό της δεσμευμένης κατανομής των κρυφών μεταβλητών, δεδομένων των παρατηρήσεων. Αυτός ο αλγόριθμος Forward-Backward μπορεί να συνδυαστεί είτε με τον αλγόριθμο EM είτε με κάποια μέθοδο MCMC για εκτίμηση παραμέτρων. Τέλος, εξετάζουμε μεθόδους για επιλογή του αριθμού των κρυφών καταστάσεων σε ένα ΚΜΜ. Η κλασική προσέγγιση συνήθως περιλαμβάνει την προσέγγιση των γενικευμένων λόγων πιθανοφανειών μέσω κάποιας τεχνικής bootstrap, ενώ η Μπεϋζιανή προσέγγιση στηρίζεται είτε σε δια-διαστατικές μεθόδους MCMC, οι οποίες περιλαμβάνουν κινήσεις μεταξύ διαφορετικών μοντέλων μαζί με εκτίμηση παραμέτρων, είτε σε μεθόδους προσομοίωσης για την προσέγγιση των περιθωρίων πιθανοφανειών των συγκρινόμενων μοντέλων.","abstract_has_math":false,"creators":["Κατσιάνος Βασίλειος","Katsianos Vasileios"],"institution":null,"degree_name":null,"degree_level":null,"degree_discipline":null,"degree_department":null,"school":null,"contributors":[],"advisors":[],"committee_chairs":[],"committee_members":[],"year":2018,"date_issued":"2018","date_published":"2018","updated_at":"2026-11-19T05:32:06Z","subjects":["Θετικές Επιστήμες","Science"],"languages":["English"],"rights":[],"rights_urls":[],"identifier_entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:2800185"],"render_values":[{"text":"uoadl:2800185","href":null,"code":true}]}],"person_identifier_entries":[]},"links":{"outbound_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/2800185","outbound_label":"Repository record","outbound_source":"dc:identifier","record_url":"https://pergamos.lib.uoa.gr/uoa/dl/object/2800185","record_label":"Repository record","record_kind":"record","record_source":"dc:identifier","download_url":null,"download_label":null,"download_source":null,"access_status":null,"embargo_until":null,"access_note":null},"source_record":{"url":"https://pergamos.lib.uoa.gr/uoa/dl/frontend/oaipmh?verb=GetRecord&metadataPrefix=oai_dc&identifier=oai%3Alib.uoa.gr%3Auoadl%3A2800185","prefix":"oai_dc"},"metadata_groups":[{"id":"people","label":"People","entries":[{"key":"dc:creator","label":"Author","values":["Κατσιάνος Βασίλειος","Katsianos Vasileios"]}]},{"id":"academic_context","label":"Academic Context","entries":[{"key":"dc:date","label":"Dc Date","values":["2018"]},{"key":"dc:type","label":"Dc Type","values":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]}]},{"id":"subjects_keywords","label":"Subjects and Keywords","entries":[{"key":"dc:subject","label":"Dc Subject","values":["Θετικές Επιστήμες","Science"]}]},{"id":"language_rights","label":"Language and Rights","entries":[{"key":"dc:language","label":"Dc Language","values":["English"]}]},{"id":"identifiers","label":"Identifiers","entries":[{"key":"dc:identifier","label":"Identifier","values":["uoadl:2800185","https://pergamos.lib.uoa.gr/uoa/dl/object/2800185"]}]},{"id":"additional","label":"Additional Metadata","entries":[{"key":"dc:description","label":"Description","values":["Τα Κρυμμένα Μαρκοβιανά Μοντέλα (ΚΜΜ) είναι μία από τις πιο καρποφόρες ιδέες στατιστικής μοντελοποίησης που έχει αναπτυχθεί τα τελευταία πενήντα χρόνια. Η χρήση λανθανουσών καταστάσεων καθιστά τα ΚΜΜ αρκετά γενικού χαρακτήρα για να διαχειριστούν ένα ευρύ φάσμα πολύπλοκων πραγματικών χρονοσειρών, ενώ η σχετικά απλή δομή εξάρτησής τους επιτρέπει τη χρήση αποτελεσματικών υπολογιστικών διαδικασιών. Αυτή η διπλωματική εργασία ασχολείται με την παρουσίαση Κλασικών και Μπεϋζιανών μεθόδων συμπερασματολογίας και επιλογής μοντέλου για ΚΜΜ. Στη συνέχεια, αυτές οι μέθοδοι εφαρμόζονται σε πραγματικά και προσομοιωμένα δεδομένα με στόχο να διαπιστωθεί η ακρίβεια και η αποτελεσματικότητά τους. Τα ΚΜΜ ανήκουν σε μια γενικότερη κλάση μοντέλων που αναφέρονται ως προβλήματα ελλιπών δεδομένων. Στο πλαίσιο της κλασικής στατιστικής, ο αλγόριθμος Expectation-Maximisation (EM) προσεγγίζει την εκτιμήτρια μέγιστης πιθανοφάνειας (ΕΜΠ) του διανύσματος των παραμέτρων, ενώ, στο πλαίσιο της Μπεϋζιανής στατιστικής, οι μέθοδοι Markov Chain Monte Carlo (MCMC) και συγκεκριμένα ο πλήρως δεσμευμένος δειγματολήπτης Gibbs, εφαρμόζονται για την προσέγγιση της εκ των υστέρων κατανομής του διανύσματος των παραμέτρων. Αυτές οι μέθοδοι εφαρμόζονται πρώτα για την εκτίμηση παραμέτρων σε μοντέλα πεπερασμένων μίξεων κατανομών, τα οποία μπορούν να θεωρηθούν ως ειδικές περιπτώσεις ΚΜΜ, όπου δεν επιτρέπεται καμία εξάρτηση μεταξύ διαδοχικών παρατηρήσεων. Στην περίπτωση των ΚΜΜ μια μορφή αμφίδρομης αναδρομικής διαδικασίας είναι επιπλέον απαραίτητη για τον υπολογισμό της δεσμευμένης κατανομής των κρυφών μεταβλητών, δεδομένων των παρατηρήσεων. Αυτός ο αλγόριθμος Forward-Backward μπορεί να συνδυαστεί είτε με τον αλγόριθμο EM είτε με κάποια μέθοδο MCMC για εκτίμηση παραμέτρων. Τέλος, εξετάζουμε μεθόδους για επιλογή του αριθμού των κρυφών καταστάσεων σε ένα ΚΜΜ. Η κλασική προσέγγιση συνήθως περιλαμβάνει την προσέγγιση των γενικευμένων λόγων πιθανοφανειών μέσω κάποιας τεχνικής bootstrap, ενώ η Μπεϋζιανή προσέγγιση στηρίζεται είτε σε δια-διαστατικές μεθόδους MCMC, οι οποίες περιλαμβάνουν κινήσεις μεταξύ διαφορετικών μοντέλων μαζί με εκτίμηση παραμέτρων, είτε σε μεθόδους προσομοίωσης για την προσέγγιση των περιθωρίων πιθανοφανειών των συγκρινόμενων μοντέλων.","Hidden Markov Μodels (HMMs) are one of the most fruitful statistical modelling concepts that have appeared in the last fifty years. The use of latent states makes HMMs generic enough to handle a wide array of complex real-world time series, while the relatively straightforward dependence structure still allows for the use of efficient computational procedures. This dissertation concerns itself with the presentation of frequentist and Bayesian methods for statistical inference and model selection in the context of HMMs. These methods are, then, applied on real and simulated data in order to gauge their accuracy and efficiency. HMMs belong in a general class of models referred to as missing data problems. In the context of frequentist statistics, the Expectation-Maximisation (EM) algorithm approximates the maximum likelihood estimator (MLE) of the parameter vector in a missing data problem, whereas, in the framework of Bayesian statistics, Markov Chain Monte Carlo (MCMC) methods, especially the full-conditional Gibbs sampler, are applicable to approximate the posterior distribution of the parameter vector. These methods are first applied for parameter estimation in finite mixture models, which may be regarded as special cases of HMMs, where no dependence is allowed whatsoever between subsequent observations. In the case of HMMs some form of forward-backward recursion is additionally required in order to compute the conditional distribution of the hidden variables, given the observations. This so called Forward-Backward algorithm may be combined either with the EM algorithm or some MCMC method for parameter estimation. Lastly, we examine methods for selecting the number of hidden states in an HMM. The frequentist approach usually entails the approximation of the generalised likelihood-ratio (LR) statistics through some bootstrap technique, while the Bayesian approach relies either on trans-dimensional MCMC methods, which incorporate moves between different models along with parameter estimation, or on simulation methods to approximate the marginal likelihoods of the competing models."]},{"key":"dc:title","label":"Title","values":["Likelihood-Based Inference and Model Selection for Discrete-Time Finite State-Space Hidden Markov Models"]}]}],"canonical_facts":{"dc:creator":["Κατσιάνος Βασίλειος","Katsianos Vasileios"],"dc:date":["2018"],"dc:description":["Τα Κρυμμένα Μαρκοβιανά Μοντέλα (ΚΜΜ) είναι μία από τις πιο καρποφόρες ιδέες στατιστικής μοντελοποίησης που έχει αναπτυχθεί τα τελευταία πενήντα χρόνια. Η χρήση λανθανουσών καταστάσεων καθιστά τα ΚΜΜ αρκετά γενικού χαρακτήρα για να διαχειριστούν ένα ευρύ φάσμα πολύπλοκων πραγματικών χρονοσειρών, ενώ η σχετικά απλή δομή εξάρτησής τους επιτρέπει τη χρήση αποτελεσματικών υπολογιστικών διαδικασιών. Αυτή η διπλωματική εργασία ασχολείται με την παρουσίαση Κλασικών και Μπεϋζιανών μεθόδων συμπερασματολογίας και επιλογής μοντέλου για ΚΜΜ. Στη συνέχεια, αυτές οι μέθοδοι εφαρμόζονται σε πραγματικά και προσομοιωμένα δεδομένα με στόχο να διαπιστωθεί η ακρίβεια και η αποτελεσματικότητά τους. Τα ΚΜΜ ανήκουν σε μια γενικότερη κλάση μοντέλων που αναφέρονται ως προβλήματα ελλιπών δεδομένων. Στο πλαίσιο της κλασικής στατιστικής, ο αλγόριθμος Expectation-Maximisation (EM) προσεγγίζει την εκτιμήτρια μέγιστης πιθανοφάνειας (ΕΜΠ) του διανύσματος των παραμέτρων, ενώ, στο πλαίσιο της Μπεϋζιανής στατιστικής, οι μέθοδοι Markov Chain Monte Carlo (MCMC) και συγκεκριμένα ο πλήρως δεσμευμένος δειγματολήπτης Gibbs, εφαρμόζονται για την προσέγγιση της εκ των υστέρων κατανομής του διανύσματος των παραμέτρων. Αυτές οι μέθοδοι εφαρμόζονται πρώτα για την εκτίμηση παραμέτρων σε μοντέλα πεπερασμένων μίξεων κατανομών, τα οποία μπορούν να θεωρηθούν ως ειδικές περιπτώσεις ΚΜΜ, όπου δεν επιτρέπεται καμία εξάρτηση μεταξύ διαδοχικών παρατηρήσεων. Στην περίπτωση των ΚΜΜ μια μορφή αμφίδρομης αναδρομικής διαδικασίας είναι επιπλέον απαραίτητη για τον υπολογισμό της δεσμευμένης κατανομής των κρυφών μεταβλητών, δεδομένων των παρατηρήσεων. Αυτός ο αλγόριθμος Forward-Backward μπορεί να συνδυαστεί είτε με τον αλγόριθμο EM είτε με κάποια μέθοδο MCMC για εκτίμηση παραμέτρων. Τέλος, εξετάζουμε μεθόδους για επιλογή του αριθμού των κρυφών καταστάσεων σε ένα ΚΜΜ. Η κλασική προσέγγιση συνήθως περιλαμβάνει την προσέγγιση των γενικευμένων λόγων πιθανοφανειών μέσω κάποιας τεχνικής bootstrap, ενώ η Μπεϋζιανή προσέγγιση στηρίζεται είτε σε δια-διαστατικές μεθόδους MCMC, οι οποίες περιλαμβάνουν κινήσεις μεταξύ διαφορετικών μοντέλων μαζί με εκτίμηση παραμέτρων, είτε σε μεθόδους προσομοίωσης για την προσέγγιση των περιθωρίων πιθανοφανειών των συγκρινόμενων μοντέλων.","Hidden Markov Μodels (HMMs) are one of the most fruitful statistical modelling concepts that have appeared in the last fifty years. The use of latent states makes HMMs generic enough to handle a wide array of complex real-world time series, while the relatively straightforward dependence structure still allows for the use of efficient computational procedures. This dissertation concerns itself with the presentation of frequentist and Bayesian methods for statistical inference and model selection in the context of HMMs. These methods are, then, applied on real and simulated data in order to gauge their accuracy and efficiency. HMMs belong in a general class of models referred to as missing data problems. In the context of frequentist statistics, the Expectation-Maximisation (EM) algorithm approximates the maximum likelihood estimator (MLE) of the parameter vector in a missing data problem, whereas, in the framework of Bayesian statistics, Markov Chain Monte Carlo (MCMC) methods, especially the full-conditional Gibbs sampler, are applicable to approximate the posterior distribution of the parameter vector. These methods are first applied for parameter estimation in finite mixture models, which may be regarded as special cases of HMMs, where no dependence is allowed whatsoever between subsequent observations. In the case of HMMs some form of forward-backward recursion is additionally required in order to compute the conditional distribution of the hidden variables, given the observations. This so called Forward-Backward algorithm may be combined either with the EM algorithm or some MCMC method for parameter estimation. Lastly, we examine methods for selecting the number of hidden states in an HMM. The frequentist approach usually entails the approximation of the generalised likelihood-ratio (LR) statistics through some bootstrap technique, while the Bayesian approach relies either on trans-dimensional MCMC methods, which incorporate moves between different models along with parameter estimation, or on simulation methods to approximate the marginal likelihoods of the competing models."],"dc:identifier":["uoadl:2800185","https://pergamos.lib.uoa.gr/uoa/dl/object/2800185"],"dc:language":["English"],"dc:subject":["Θετικές Επιστήμες","Science"],"dc:title":["Likelihood-Based Inference and Model Selection for Discrete-Time Finite State-Space Hidden Markov Models"],"dc:type":["born_digital_postgraduate_thesis","Διπλωματική Εργασία","Postgraduate Thesis"]},"updated_at":"2026-11-19T05:32:06Z"}