La séparation de signaux corrélés à partir de leurs combinaisons linéaires est une tâche difficile et possède plusieurs applications en traitement du signal. Nous étudions deux problèmes, à savoir la séparation aveugle de sources parcimonieuses et le filtrage adaptatif des réflexions multiples en acquisition sismique. Un intérêt particulier est porté sur les mélanges convolutifs : pour ces deux problèmes, des filtres à réponses impulsionnelles finies peuvent être estimés afin de récupérer les signaux désirés.Pour les modèles de mélange instantanés et convolutifs, nous donnons les conditions nécessaires et suffisantes pour l'extraction et la séparation exactes de sources parcimonieuses en utilisant la pseudo-norme L0 comme une fonction de contraste. Des équivalences entre l'analyse en composantes parcimonieuses et l'analyse en composantes disjointes sont examinées.Pour la soustraction adaptative des réflexions sismiques, nous discutons les limites des méthodes basées sur l'analyse en composantes indépendantes et nous soulignons l'équivalence avec les méthodes basées sur les normes Lp. Nous examinons de quelle manière les paramètres de régularisation peuvent être plus décisifs pour l'estimation des primaires. Enfin, nous proposons une amélioration de la robustesse de la soustraction adaptative en estimant les filtres adaptatifs directement dans le domaine des curvelets. Les coûts en calcul et en mémoire peuvent être atténués par l'utilisation de la transformée en curvelet discrète et uniforme. / The recovery of correlated signals from their linear combinations is a challenging task and has many applications in signal processing. We focus on two problems that are the blind separation of sparse sources and the adaptive subtraction of multiple events in seismic processing. A special focus is put on convolutive mixtures: for both problems, finite impulse response filters can indeed be estimated for the recovery of the desired signals.For instantaneous and convolutive mixing models, we address the necessary and sufficient conditions for the exact extraction and separation of sparse sources by using the L0 pseudo-norm as a contrast function. Equivalences between sparse component analysis and disjoint component analysis are investigated.For adaptive multiple subtraction, we discuss the limits of methods based on independent component analysis and we highlight equivalence with Lp-norm-based methods. We investigate how other regularization parameters may have more influence on the estimation of the desired primaries. Finally, we propose to improve the robustness of adaptive subtraction by estimating the extracting convolutive filters directly in the curvelet domain. Computation and memory costs are limited by using the uniform discrete curvelet transform.

Ce travail s’inscrit dans le cadre du développement d’une médecine davantage personnalisée et préventive, pour laquelle la fusion d’informations multi modale et de différentes représentations d'une même modalité sont nécessaires afin d'aboutir à une quantification fiable des images médicales en oncologie. Dans cette étude nous présentons deux applications de traitement et d'analyse des images médicales: le débruitage des images TEP et la détermination des volumes anatomo-fonctionnels des tumeurs en imagerie multi modale TEP/TDM. Pour le débruitage des images TEP, nous avons mis en place une approche intitulée "WCD" permettant de bénéficier des caractéristiques complémentaires de la transformée en ondelettes et la transformée en Curvelets afin de mieux représenter les structures isotropiques et anisotropiques dans ces images, ce qui permet de réduire le bruit tout en minimisant les pertes d'informations utiles dans les images TEP. En ce qui concerne la deuxième application, nous avons proposé une méthode de segmentationTEP/TDM intitulée "WCHMT" permettant d'exploiter la spécificité des arbres de Markov caché de prendre en compte les dépendances statistiques entre l’ensemble des données. Ce modèle permet de gérer simultanément les propriétés complémentaires de l’imagerie fonctionnelle et l’imagerie morphologique dans un cadre unifié où les données sont représentées dans le domaine des Contourlets. Le débruitage en TEP a abouti à une hausse significative du rapport signal sur-bruit (SNR) en garantissant la moindre variation de l'intensité et du contraste local. Quant à la segmentation multimodale TEP/TDM, elle a démontré une bonne précision lors de la détermination du volume tumoral en terme du coefficient de Dice (DSC) avec le meilleur compromis entre la sensibilité (SE) et la valeur prédictive positive (PPV) par rapport à la vérité terrain. / This thesis is a part of the development of more personalized and preventive medicine, for which a fusion of multi modal information and diverse representations of the same modality is needed in order to get accurate and reliable quantification of medical images in oncology. In this study we present two applications for image processing analysis: PET denoising and multimodal PET/CT tumor segmentation. The PET filtering approach called "WCD" take benefit from the complementary features of the wavelet and Curvelets transforms in order to better represent isotropic and anisotropic structures in PET images. This algorithm allows the reduction of the noise while minimizing the loss of useful information in PET images. The PET/CT tumor segmentation application is performed through a Markov model as a probabilistic quadtree graph namely a Hidden Markov Tree (HMT).Our motivation for using such a model is to provide fast computation, improved robustness and an effective interpretational framework for image analysis on oncology. Thanks to two efficient aspects (multi observation and multi resolution), when dealing with Hidden Markov Tree (HMT), we exploit joint statistical dependencies between hidden states to handle the whole data stack. This model called "WCHMT" take advantage of the high resolution of the anatomic imaging (CT) and the high contrast of the functional imaging (PET). The denoising approach led to the best trade-off between denoising quality and structure preservation with the least quantitative bias in absolute intensity recovery. PET/CT segmentation's results performed with WCHMT method has proven a reliable segmentation when providing high Dice Similarity Coeffcient (DSC) with the best trade-off between sensitivity (SE) and positive predictive value (PPV).