La radiothérapie est une des méthodes principales utilisée dans le traitement thérapeutique des tumeurs malignes. Pour améliorer son efficacité, deux problèmes essentiels doivent être soigneusement traités : la prédication fiable des résultats thérapeutiques et la segmentation précise des volumes tumoraux. La tomographie d’émission de positrons au traceur Fluoro- 18-déoxy-glucose (FDG-TEP) peut fournir de manière non invasive des informations significatives sur les activités fonctionnelles des cellules tumorales. Les objectifs de cette thèse sont de proposer: 1) des systèmes fiables pour prédire les résultats du traitement contre le cancer en utilisant principalement des caractéristiques extraites des images FDG-TEP; 2) des algorithmes automatiques pour la segmentation de tumeurs de manière précise en TEP et TEP-TDM. La théorie des fonctions de croyance est choisie dans notre étude pour modéliser et raisonner des connaissances incertaines et imprécises pour des images TEP qui sont bruitées et floues. Dans le cadre des fonctions de croyance, nous proposons une méthode de sélection de caractéristiques de manière parcimonieuse et une méthode d’apprentissage de métriques permettant de rendre les classes bien séparées dans l’espace caractéristique afin d’améliorer la précision de classification du classificateur EK-NN. Basées sur ces deux études théoriques, un système robuste de prédiction est proposé, dans lequel le problème d’apprentissage pour des données de petite taille et déséquilibrées est traité de manière efficace. Pour segmenter automatiquement les tumeurs en TEP, une méthode 3-D non supervisée basée sur le regroupement évidentiel (evidential clustering) et l’information spatiale est proposée. Cette méthode de segmentation mono-modalité est ensuite étendue à la co-segmentation dans des images TEP-TDM, en considérant que ces deux modalités distinctes contiennent des informations complémentaires pour améliorer la précision. Toutes les méthodes proposées ont été testées sur des données cliniques, montrant leurs meilleures performances par rapport aux méthodes de l’état de l’art. / Radiation therapy is one of the most principal options used in the treatment of malignant tumors. To enhance its effectiveness, two critical issues should be carefully dealt with, i.e., reliably predicting therapy outcomes to adapt undergoing treatment planning for individual patients, and accurately segmenting tumor volumes to maximize radiation delivery in tumor tissues while minimize side effects in adjacent organs at risk. Positron emission tomography with radioactive tracer fluorine-18 fluorodeoxyglucose (FDG-PET) can noninvasively provide significant information of the functional activities of tumor cells. In this thesis, the goal of our study consists of two parts: 1) to propose reliable therapy outcome prediction system using primarily features extracted from FDG-PET images; 2) to propose automatic and accurate algorithms for tumor segmentation in PET and PET-CT images. The theory of belief functions is adopted in our study to model and reason with uncertain and imprecise knowledge quantified from noisy and blurring PET images. In the framework of belief functions, a sparse feature selection method and a low-rank metric learning method are proposed to improve the classification accuracy of the evidential K-nearest neighbor classifier learnt by high-dimensional data that contain unreliable features. Based on the above two theoretical studies, a robust prediction system is then proposed, in which the small-sized and imbalanced nature of clinical data is effectively tackled. To automatically delineate tumors in PET images, an unsupervised 3-D segmentation based on evidential clustering using the theory of belief functions and spatial information is proposed. This mono-modality segmentation method is then extended to co-segment tumor in PET-CT images, considering that these two distinct modalities contain complementary information to further improve the accuracy. All proposed methods have been performed on clinical data, giving better results comparing to the state of the art ones.

Le travail réalisé dans le cadre de cette thèse a pour but de caractériser des signaux aléatoires, rencontrés dans le domaine aérien et sous-marin, en s’appuyant sur une approche statistique. En traitement du signal, l'analyse statistique a longtemps été fondée sous l'hypothèse de Gaussianité des données. Cependant, ce modèle n'est plus valide dès lors que la densité de probabilité des données se caractérise par des phénomènes de queues lourdes et d'asymétrie. Une famille de lois est particulièrement adaptée pour représenter de tels phénomènes : les distributions α-stables. Dans un premier temps, les distributions α-stables ont été présentées et utilisées pour estimer des données synthétiques et réelles, issues d'un sondeur monofaisceau, dans une stratégie de classification de fonds marins. La classification est réalisée à partir de la théorie des fonctions de croyance, permettant ainsi de prendre en compte l'imprécision et l'incertitude liées aux données et à l'estimation de celles-ci. Les résultats obtenus ont été comparés à un classifieur Bayésien. Dans un second temps, dans le contexte de la surveillance maritime, une approche statistique à partir des distributions α-stables a été réalisée afin de caractériser les échos indésirables réfléchis par la surface maritime, appelés aussi fouillis de mer, où la surface est observée en configuration bistatique. La surface maritime a d'abord été générée à partir du spectre d'Elfouhaily puis la Surface Équivalente Radar (SER) de celle-ci a été déterminée à partir de l'Optique Physique (OP). Les distributions de Weibull et ont été utilisées et comparées au modèle α-stable. La validité de chaque modèle a été étudiée à partir d'un test de Kolmogorov-Smirnov. / The purpose of this thesis is to characterize random signals, observed in air and underwater context, by using a statistical approach. In signal processing, the hypothesis of Gaussian model is often used for a statistical study. However, the Gaussian model is not valid when the probability density function of data are characterized by heavy-tailed and skewness phenomena. A family of laws can fit these phenomena: the α-stable distributions. Firstly, the α-stable distribution have been used to estimate generated and real data, extracted from a mono-beam echo-sounder, for seabed sediments classification. The classification is made by using the theory of belief functions, which can take into account the imprecision and uncertainty of data and theirs estimations. The results have been compared to a Bayesian approach. Secondly, in a context a marine surveillance, a statistical study from the α-stable distribution has been made to characterize undesirable echo reflected by a sea surface, called sea clutter, where the sea surface is considered in a bistatic configuration. The sea surface has been firstly generated by the Elfouhaily sea spectrum and the Radar Cross Section (RCS) of the sea surface has been computed by the Physical Optics (PO). The Weibull and distributions have been used and the results compared to the α-stable model. The validity of each model has been evaluated by a Kolmogorov-Smirnov test.