- / -

For reasoning under uncertainty the Bayesian network has become the representation of choice. However, except where models are considered 'simple' the task of construction and inference are provably NP-hard. For modelling larger 'real' world problems this computational complexity has been addressed by methods that approximate the model. The Naive Bayes classifier, which has strong assumptions of independence among features, is a common approach, whilst the class of trees is another less extreme example. In this thesis we propose the use of an information theory based technique as a mechanism for inference in Singly Connected Networks. We call this a Mutual Information Measure classifier, as it corresponds to the restricted class of trees built from mutual information. We show that the new approach provides for both an efficient and localised method of classification, with performance accuracies comparable with the less restricted general Bayesian networks. To improve the performance of the classifier, we additionally investigate the possibility of expanding the class Markov blanket by use of a Wrapper approach and further show that the performance can be improved by focusing on the class Markov blanket and that the improvement is not at the expense of increased complexity. Finally, the two methods are applied to the task of diagnosing the 'real' world medical domain, Acute Abdominal Pain. Known to be both a different and challenging domain to classify, the objective was to investigate the optiniality claims, in respect of the Naive Bayes classifier, that some researchers have argued, for classifying in this domain. Despite some loss of representation capabilities we show that the Mutual Information Measure classifier can be effectively applied to the domain and also provides a recognisable qualitative structure without violating 'real' world assertions. In respect of its 'selective' variant we further show that the improvement achieves a comparable predictive accuracy to the Naive Bayes classifier and that the Naive Bayes classifier's 'overall' performance is largely due the contribution of the majority group Non-Specific Abdominal Pain, a group of exclusion.

Η παρούσα μεταπτυχιακή διατριβή εντάσσεται ερευνητικά στο επιστημονικό πεδίο της Στατιστικής Θεωρίας Αποφάσεων και αποσκοπεί στην εκτίμηση της μέσης τιμής ενός πληθυσμού, ο οποίος επιλέγεται από δύο κανονικούς πληθυσμούς με άγνωστες μέσες τιμές και κοινή γνωστή διασπορά ως προς το τετραγωνικό σφάλμα και ως προς την ασύμμετρη συνάρτηση ζημίας LINEX. Η μελέτη του προβλήματος της εκτίμησης της μέσης τιμής ενός πληθυσμού ως προς το τετραγωνικό σφάλμα, παρουσιάστηκε στην εργασία του Dahiya(1974) ενώ το αντίστοιχο πρόβλημα ως προς την ασύμμετρη συνάρτηση ζημίας LINEX μελετήθηκε από τους Parsian and Farsipour(1999). Στην παρούσα εργασία, έγινε μια προσπάθεια σύγκρισης των αποτελεσμάτων της συνάρτησης μεροληψίας καθώς και της συνάρτησης κινδύνου προκειμένου να διαπιστωθεί ο βέλτιστος εκτιμητής. Η εύρεση εκτιμητών της μέσης τιμής από επιλεγμένο κανονικό πληθυσμό προϋποθέτει τη γνώση βασικών μαθηματικών εργαλείων. Κρίνεται, λοιπόν, αναγκαίο να μελετήσουμε βασικές έννοιες της Μαθηματικής Στατιστικής, οι οποίες θα μας βοηθήσουν να επιτύχουμε το στόχο μας. Στο Κεφάλαιο 1 παρατίθενται βασικοί ορισμοί και θεωρήματα της Μαθηματικής Στατιστικής. Στο Κεφάλαιο 2, περιλαμβάνεται η συνήθης εκτίμηση των παραμέτρων θέσεως από δύο κανονικούς πληθυσμούς με κοινή, γνωστή διασπορά. Στο Κεφάλαιο 3 παρουσιάζουμε τους εκτιμητές της μέσης τιμής του επιλεγμένου κανονικού πληθυσμού, τους οποίους πρότεινε ο Ram.C Dahiya(1974) καθώς και τις αντίστοιχες συναρτήσεις μεροληψίας. Στο Κεφάλαιο 4 γίνεται εκτενής ανάλυση των εκτιμητών μέσης τιμής από κανονικούς πληθυσμούς, τους οποίους πρότειναν οι Parsian and Farsipour(1999) καθώς και οι αντίστοιχες συναρτήσεις μεροληψίας. Στο Κεφάλαιο 5 παραθέτουμε τη συνάρτηση κινδύνου για καθένα από τους εκτιμητές των Parsian and Farsipour(1999) καθώς και αριθμητικά αποτελέσματα για το μέσο τετραγωνικό σφάλμα των εκτιμητών που προτάθηκαν στην εργασία του Dahiya(1974). / --

Η παρούσα διατριβή εντάσσεται ερευνητικά στην περιοχή της Στατιστικής Θεωρίας Αποφάσεων και ειδικότερα στην (σημειακή) εκτίμηση του ποσοστιαίου σημείου στο μοντέλο της διπαραμετρικής εκθετικής κατανομής. Το πρόβλημα της εκτίμησης του ποσοστιαίου σημείου από τη σκοπιά της Στατιστικής Θεωρίας Αποφάσεων ακολούθησε αυτό της παραμέτρου κλίμακας, ειδικότερα αναφέρουμε το πρόβλημα εκτίμησης της διασποράς κανονικής κατανομής με άγνωστη μέση τιμή από τον Stein (1964). Στην εργασία εκείνη ο Stein απέδειξε ότι, με κριτήριο το μέσο τετραγωνικό σφάλμα, ο βέλτιστος αναλλοίωτος εκτιμητής της διασποράς είναι μη αποδεκτός, κατασκευάζοντας άλλον με μικρότερο μέσο τετραγωνικό σφάλμα. Εν συνεχεία, οι Brewster and Zidek (1974) παρουσίασαν δύο γενικές τεχνικές κατασκευής βελτιωμένων εκτιμητών, εφαρμόσιμες για τυχαία bowl-shaped συνάρτηση ζημίας και αποτελεσματικές, κυρίως όταν η υπό εκτίμηση παράμετρος είναι η παράμετρος κλίμακας και επί πλέον υπάρχει και άλλη άγνωστη παράμετρος. Αντικείμενο της μεταπτυχιακής διατριβής είναι η εκτίμηση του ποσοστιαίου σημείου θεωρώντας ανεξάρτητα τυχαία δείγματα από εκθετικούς πληθυσμούς με την ίδια παράμετρο θέσης και διαφορετική παράμετρο κλίμακας για κάθε πληθυσμό ξεχωριστά. Βασιζόμενοι στην εργασία των Kumar and Sharma (1996) βρίσκουμε εκτιμητή μέγιστης πιθανοφάνειας και αμερόληπτο εκτιμητή ελάχιστης διασποράς για το ποσοστιαίο σημείο από τον πρώτο εκθετικό πληθυσμό και στην συνέχεια εφαρμόζουμε τη τεχνική κατασκευής, βελτιωμένων εκτιμητών, των Brewster and Zidek (1974). Η παρουσίαση των επί μέρους θεμάτων και αποτελεσμάτων της διατριβής αυτής οργανώνεται ως εξής. Στο Κεφάλαιο 1 αναφέρονται κάποια βασικά στοιχεία θεωρίας από τη Μαθηματική Στατιστική, όπως βασικοί ορισμοί και θεωρήματα σχετικά κυρίως με τη συνάρτηση κινδύνου (risk function), τους εκτιμητές (UMVUE), τους εκτιμητές μέγιστης πιθανοφάνειας (MLE) και τους αναλλοίωτους (equivariant) εκτιμητές. Στο Κεφάλαιο 2 ορίζεται η διπαραμετρική εκθετική κατανομή και το ποσοστιαίο σημείο της διπαραμετρικής εκθετική κατανομής, , θετική σταθερά ,από τον πρώτο εκθετικό πληθυσμό, το οποίο στη συνέχεια εκτιμάται από τον εκτιμητή μέγιστης πιθανοφάνειας και από τον εκτιμητή. Στο Κεφάλαιο 3 χρησιμοποιούνται τεχνικές βελτίωσης του εκτιμητή του ποσοστιαίου σημείου. Αρχικά εντοπίζεται ο βέλτιστος εκτιμητής του ποσοστιαίου σημείου στην κλάση των εκτιμητών με κριτήριο το μέσο τετραγωνικό σφάλμα και στη συνέχεια χρησιμοποιείται η τεχνική κατασκευής, βελτιωμένων εκτιμητών, των Brewster and Zidek (1974) όταν και όταν . Τέλος στο Κεφάλαιο 4 αναφέρονται κάποια Λήμματα τα οποία χρησιμοποιούνται σε αποδείξεις προτάσεων της διατριβής. / Estimating quantiles of a selected exponential population from k populations.

Η παρούσα διπλωματική διατριβή εντάσσεται ερευνητικά στη περιοχή της Στατιστικής Θεωρίας Αποφάσεων, καθώς ασχολούμαστε με τη μελέτη της κατανομής Laplace CL(θ,s), όπου με θ και s συμβολίζονται αντίστοιχα οι παράμετροι θέσεως και κλίμακος, και η οποία θεωρείται ως ιδανικό μοντέλο κατανομής οικονομικής φύσεως δεδομένων. / This thesis is part of research in the area of Statistical Decision Theory, as it deals with the study of the distribution Laplace CL (θ, s), where θ and s respectively symbolized the position and scale parameters, which is considered as an ideal model of distribution of economic kind of data.

La télémédecine est une approche nouvelle de la pratique médicale qui est particulièrement porteuse d'espoir face à l'enjeu sociétal posé par l'incidence croissante des maladies chroniques. Le développement de la télésurveillance médicale réalisée grâce au recueil de données physiologiques ou biologiques au domicile du patient implique de développer nos capacités à analyser un volume important de données. Le problème auquel s'intéresse cette thèse est d'établir ou d'apprendre automatiquement la fonction qui lie les données fournies par les capteurs à l'état de santé du patient. La difficulté principale tient à ce qu'il est difficile d'établir de manière sûre l'état de santé d'un patient, la seule référence disponible étant alors celle que peut donner le médecin traitant. Nous montrons dans cette thèse que la modélisation stochastique et plus particulièrement le formalisme graphique bayésien permet d'aborder cette question sous trois angles complémentaires. Le premier est celui de la représentation explicite de l'expertise médicale. Cette approche est adaptée aux situations dans lesquelles les données ne sont pas accessibles et où il est donc nécessaire de modéliser directement la démarche du médecin. La seconde approche envisagée est celle de l'apprentissage automatique des paramètres du modèles lorsque suffisamment de données sur les sorties attendues sont disponibles. Nous nous intéressons enfin à la possibilité d'apprendre les actions pertinentes par renforcement sous les contraintes de la problématique médicale à savoir d'après l'observation de l'expert dans sa pratique normale / Telemedicine is a new approach of medical practice that is expected to be one of the answers for facing the challenge of chronic diseases management. Development of remote medical surveillance at home relies on our capacity to interpret a growing amount of collected data. In this thesis, we are interested in defining the function that connects the state of the patient to the data given by the different sensors. The main difficulty comes from the uncertainty when assessing the state of the patient. The only reference available is the one that can be given by the medical doctor. We show in this thesis that stochastic modelling and more specifically graphical bayesian formalism allows to treat this question in three ways. The first one consists in representing explicitly the medical expertise. This approach is adapted to the cases in which data is not accessible, and as a consequence, where it is necessary to model directly the diagnosis rules. The second approach that we study is the automatic learning of model parameters that can be performed when enough information is available concerning the expected outputs of the system. Finally, we propose the use of reinforcement for learning medical actions from the observation of the human expert in its everyday practice. Considering the specificity of the medical domain, we study the likelihood criterion for learning an efficient representation of the state space

L'inférence bayésienne répond aux questions clés de la perception, comme par exemple : "Que faut-il que je crois étant donné ce que j'ai perçu ?". Elle est donc par conséquent une riche source de modèles pour les sciences cognitives et les neurosciences (Knill et Richards, 1996). Cette thèse de doctorat explore deux modèles bayésiens. Dans le premier, nous explorons un problème de codage efficace, et répondons à la question de comment représenter au mieux une information probabiliste dans des neurones pas parfaitement fiables. Nous innovons par rapport à l'état de l'art en modélisant une information d'entrée finie dans notre modèle. Nous explorons ensuite un nouveau modèle d'observateur optimal pour la localisation d'une source sonore grâce à l’écart temporel interaural, alors que les modèles actuels sont purement phénoménologiques. Enfin, nous explorons les propriétés de l'algorithme d'inférence approximée "Expectation Propagation", qui est très prometteur à la fois pour des applications en apprentissage automatique et pour la modélisation de populations neuronales, mais qui est aussi actuellement très mal compris. / Bayesian inference answers key questions of perception such as: "What should I believe given what I have perceived ?". As such, it is a rich source of models for cognitive science and neuroscience (Knill and Richards, 1996). This PhD manuscript explores two such models. We first investigate an efficient coding problem, asking the question of how to best represent probabilistic information in unrealiable neurons. We innovate compared to older such models by introducing limited input information in our own. We then explore a brand new ideal observer model of localization of sounds using the Interaural Time Difference cue, when current models are purely descriptive models of the electrophysiology. Finally, we explore the properties of the Expectation Propagation approximate-inference algorithm, which offers great potential for both practical machine-learning applications and neuronal population models, but is currently very poorly understood.

Η παρούσα μεταπτυχιακή διατριβή εντάσσεται ερευνητικά στην περιοχή της Στατιστικής Θεωρίας Αποφάσεων και ειδικότερα στην εκτίμηση των παραμέτρων στο μοντέλο της διπαραμετρικής εκθετικής κατανομής με παράμετρο θέσης μ και παράμετρο κλίμακος σ. Θεωρούμε το πρόβλημα εκτίμησης των παραμέτρων κλίμακας μ και θέσης σ, όταν μ≤c, όπου c είναι μία γνωστή σταθερά. Αποδεικνύουμε ότι σε σχέση με το κριτήριο του Μέσου Τετραγωνικού Σφάλματος (ΜΤΣ), οι βέλτιστοι αναλλοίωτοι εκτιμητές των μ και σ, είναι μη αποδεκτοί όταν μ≤c, και προτείνουμε βελτιωμένους. Επίσης συγκρίνουμε του εκτιμητές αυτούς σε σχέση με το κριτήριο του Pitman. Επιπλέον, προτείνουμε εκτιμητές που είναι καλύτεροι από τους βέλτιστους αναλλοίωτους εκτιμητές, όταν μ≤c, ως προς την συνάρτηση ζημίας LINEX. Τέλος, η θεωρία που αναπτύσσεται εφαρμόζεται σε δύο ανεξάρτητα δείγματα προερχόμενα από εκθετική κατανομή. / The present master thesis deals with the estimation of the location parameter μ and the scale parameter σ of the two-parameter exponential distribution. We consider the problem of estimation of locasion parameter μ and the scale parameter σ, when it is known apriori that μ≤c, where c is a known constant. We establish that with respect to the mean square error (mse) criterion the best affine estimators of μ and σ in the absence of information μ≤c are inadmissible and we propose estimators which are better than these estimators. Also, we compare these estimators with respect to the Pitman Nearness criterion. We propose estimators which are better than the standard estimators in the unrestricted case with respect to the suitable choise of LINEX loss. Finally, the theory developed is applied to the problem of estimating the location and scale parameters of two exponential distributions when the location parameters are ordered.

Cette thèse présente les résultats d'expérimentations visant à mettre en évidence des mécaniques de jeu utiles pour aider le joueur à développer une posture plus réflexive sur la manière dont il prend une décision. Notre approche consiste à mettre le joueur en défaut en exploitant ses biais de raisonnement, permettant dans un second temps de l’amener à mieux cerner ses processus décisionnels. A ce titre, nous cherchons à placer le joueur en excès de confiance dans le cadre spécifique d'un jeu vidéo. Pour mesurer le comportement, le joueur doit utiliser un outil intégré au déroulement de la partie : un système de mise au travers duquel il renseigne sa confiance en ses chances de succès. Deux jeux spécifiques ont été développés en vue de mesurer l’influence des biais sur la confiance du joueur : un se focalise sur l’influence des biais d’ancrage et de confirmation, l’autre sur l’influence du biais de l'effet difficile / facile d’autre part. / This thesis introduces the results of experiments testing specific game mechanics to help the players to develop reflective decision making. Our approach is, firstly, to bias the players’ judgment. Then, through the bias awareness, we want to help them to have a better understanding about their judgment processes. To do this, we try to place the player in an overconfident state while playing video games. To measure their behavior, the players must use an integrated tool to the game progression: a bet system through which they assess on their confidence in their chances of success. Two games were developed to measure the influence of the biases on the confidence of the player: one focusing on the effect of anchoring and confirmation biases, another one on the hard / easy effect.

Cette thèse contient deux parties différentes. Dans la première partie, nous nous sommes intéressés aux familles exponentielles naturelles cubiques dont la fonction variance est un polynôme de degré inférieur ou égal à 3. Nous donnons trois caractérisations de ces familles en se basant sur une approche Bayesienne. L’une de ces caractérisations repose sur le fait que la fonction cumulante vérifie une équation différentielle. La deuxième partie de notre travail est consacrée aux conséquences de la propriété d’indépendance de type « Matsumoto-Yor » qui a été développée par Koudou et Vallois. Cette propriété fait intervenir la famille de lois de Kummer de type 2 et les lois Beta généralisées. En se basant sur la méthode de conditionnement et sur la méthode de rejet, nous donnons des réalisations presque sûre de ces distributions de probabilités. D’autre part, nous caractérisons la famille de lois de Kummer de type 2 (resp. les lois Beta généralisées) par une équation algébrique impliquant des lois gamma (resp. les lois Beta) / This thesis has two different parts. In the first part we are interested in the real cubic natural exponential families such that their variance function is a polynomial of degree less than or equal to 3. We give three characterizations of such families using a Bayesian approach. One of these characterizations is based on a differential equation verified by the cumulant function. In a second part we study in depth the independence property of the type “Matsumoto-Yor” that was developed by Koudou and Vallois. This property involves the Kummer distribution of type 2 and the generalized beta ones. Using the conditioning and the rejection method, we give almost sure realization of these distributions. We characterize the family of Kummer distribution of type 2 with an algebraic equation involving the gamma ones. We proceed similarly with the generalized beta distributions