Cette thèse traite de la détection de zones de convergence dans une image, dans un cadre a contrario. C'est un travail théorique préliminaire qui explore différentes altérations du cadre a contrario. Elle a pour application dans le domaine médical la détection des lésions stellaires dans les mammographies, responsables de nombreux cancers du sein et qui se matérialisent par un centre intense vers lequel convergent les spicules, structures linéaires normalement présents dans le sein. Les lésions stellaires et distorsions architecturales ont suscité de nombreux travaux. La plupart des méthodes de détection sont basées sur l'extraction de caractéristiques locales de l'image (orientation du gradient, orientation des pixels, variance de l'histogramme de l'orientation...) puis utilisent une méthode de classification pour attribuer à chaque pixel une probabilité d'appartenir à une lésion stellaire. Ces méthodes nécessitent souvent l'utilisation de filtres en pré-traitement et en post-traitement afin de réduire le bruit, ou de seuiller les résultats finaux. La méthodologie a contrario offre un nouveau cadre pour la détection de structures dans les images. Elle s'appuie sur la définition d'un modèle de bruit, et sur une mesure de l'écart des observations à ce modèle. Le modèle porte sur des structures élémentaires et est souvent choisi "uniforme" : c'est-à-dire que les structures sont supposées suivre la loi uniforme et indépendantes. Or dans les mammographies on observe que les spicules ont une orientation privilégiée, et ne sont pas uniformément distribuées. Nous proposons l'utilisation de la méthode a contrario dans un cadre anisotrope pour mieux tenir compte de la distribution normale des spicules dans une mammographie. Les modèles anisotropes proposés modélisent le fait qu'une partie des structures linéaires est normalement convergentes vers un point commun. Ils portent soit sur les droites de l'image quand il s'agit de détecter les convergences globales, soit sur les segments quand on chercher les convergences locales dans une image. Concernant la détection des convergences locales, le cadre a contrario offre de nombreuses possibilités : sur le choix du nombre de fausses alarmes ou sur le choix du modèle de bruit. Ces choix sont détaillés sur des exemples synthétiques, sur des mammographies et sur des images naturelles. Les modèles a contrario que l'on étudie sont donnés sous la forme de mélanges paramétriques de deux termes : un terme uniforme et un terme "gaussien", modélisant le fait qu'une partie des structures est naturellement convergente. Pour ces différents types de modèles nous proposons d'estimer leurs paramètres. Le point de convergence globale est estimé par minimisation du nombre de fausses alarmes, et l'estimation des autres paramètres est faite par maximisation de la log-vraisemblance. Les modèles estimés sont ensuite testés en tant que modèles a contrario pour la détection des convergences et les résultats sont comparés à ceux que donnait le modèle uniforme. / This thesis deals with the detection of points of convergences in images, in an a contrario framework. This is a preliminar work which studies various alterations of the a contrario framework such as the naive model. An application in the medical field is the detection of stellate lesions in mammograms, which are highly suspicious signs of breast cancer and are characterized by a radiating pattern of spicules with a bright center. There are plenty of work regarding stellate lesions and architectural distortions. Most of them are based on the extraction of local features such as the gradient orientation, or the pixel orientation and more generally statistics of the orientation histogram. These features are then used in a classifier to assign to each pixel its probability of malignancy. The a contrario methods sets a different framework for the detection of geometric structures in images. A naïve model on line structures is defined and is often chosen as the uniform model, which is not well suited for mammograms where there is a privileged orientation of spicules. We propose in this thesis an anisotropic a contrario framework for a better description of the normal distribution of spicules in a mammogram. The designed models describe the convergence of some of the line structures to a single point. They either concern the lines or the line segments of an image wether we detect global or local convergences. In the last case we explore several definitions of the number of false alarms and several a contrario models on synthetic, natural images and mammograms. We give the a contrario models as two terms mixtures, one uniform and the other of Gaussian type. These are parametric models and we propose an algorithm to estimate their parameters (the point of convergence is estimated with an a contrario method and the other parameters are approached by maximization of the likelihood). The resulting models are used as a contrario models and the results are compared with those against the uniform model.

In this dissertation, level set methods are employed to segment masses in digital mammographic images and to classify land cover classes in hyperspectral data. For the mammography computer aided diagnosis (CAD) application, level set-based segmentation methods are designed and validated for mass periphery segmentation, spiculation segmentation, and core segmentation. The proposed periphery segmentation uses the narrowband level set method in conjunction with an adaptive speed function based on a measure of the boundary complexity in the polar domain. The boundary complexity term is shown to be beneficial for delineating challenging masses with ill-defined and irregularly shaped borders. The proposed method is shown to outperform periphery segmentation methods currently reported in the literature. The proposed mass spiculation segmentation uses a generalized form of the Dixon and Taylor Line Operator along with narrowband level sets using a customized speed function. The resulting spiculation features are shown to be very beneficial for classifying the mass as benign or malignant. For example, when using patient age and texture features combined with a maximum likelihood (ML) classifier, the spiculation segmentation method increases the overall accuracy to 92% with 2 false negatives as compared to 87% with 4 false negatives when using periphery segmentation approaches. The proposed mass core segmentation uses the Chan-Vese level set method with a minimal variance criterion. The resulting core features are shown to be effective and comparable to periphery features, and are shown to reduce the number of false negatives in some cases. Most mammographic CAD systems use only a periphery segmentation, so those systems could potentially benefit from core features.