Le diagnostic assisté par ordinateur du cancer du sein devient de plus en plus une nécessité vu la croissance exponentielle du nombre de mammographies effectuées chaque année. En particulier, le diagnostic des masses mammaires et leur classification suscitent actuellement un grand intérêt. En effet, la complexité des formes traitées et la difficulté rencontrée afin de les discerner nécessitent l'usage de descripteurs appropriés. Dans ce travail, des méthodes de caractérisation adaptées aux pathologies mammaires sont proposées ainsi que l'étude de différentes méthodes de classification est abordée. Afin de pouvoir analyser les formes des masses, une étude concernant les différentes techniques de segmentation est réalisée. Cette étude nous a permis de nous orienter vers le modèle du level set basé sur la minimisation de l'énergie de la région évolutive. Une fois les images sont segmentées, une étude des différents descripteurs proposés dans la littérature est menée. Cependant, ces propositions présentent certaines limites telles que la sensibilité au bruit, la non invariance aux transformations géométriques et la description générale et imprécise des lésions. Dans ce contexte, nous proposons un nouveau descripteur intitulé les points terminaux du squelette (SEP) afin de caractériser les spiculations du contour des masses tout en respectant l'invariance à l'échelle. Un deuxième descripteur nommé la sélection des protubérances (PS) est proposé. Il assure de même le critère d'invariance et la description précise de la rugosité du contour. Toutefois, le SEP et le PS sont sensibles au bruit. Une troisième proposition intitulée le descripteur des masses spiculées (SMD) assurant une bonne robustesse au bruit est alors réalisée. Dans l'objectif de comparer différents descripteurs, une étude comparative entre différents classifieurs est effectuée. Les séparateurs à vaste marge (SVM) fournissent pour tous les descripteurs considérés le meilleur résultat de classification. Finalement, les descripteurs proposés ainsi que d'autres couramment utilisés dans le domaine du cancer du sein sont comparés afin de tester leur capacité à caractériser convenablement le contour des masses en question. La performance des trois descripteurs proposés et notamment le SMD est mise en évidence à travers les comparaisons effectuées. / The computer-aided diagnosis of breast cancer is becoming increasingly a necessity given the exponential growth of performed mammograms. In particular, the breast mass diagnosis and classification arouse nowadays a great interest. Indeed, the complexity of processed forms and the difficulty to distinguish between them require the use of appropriate descriptors. In this work, characterization methods suitable for breast pathologies are proposed and the study of different classification methods is addressed. In order to analyze the mass shapes, a study about the different segmentation techniques in the context of breast mass detection is achieved. This study allows to adopt the level set model based on minimization of region-scalable fitting energy. Once the images are segmented, a study of various descriptors proposed inthe literature is conducted. Nevertheless, these proposals have some limitations such as sensitivity to noise, non invariance to geometric transformations and imprecise and general description of lesions. In this context, we propose a novel descriptor entitled the Skeleton End Points descriptor (SEP) in order to better characterize spiculations in mass contour while respecting the scale invariance. A second descriptor named the Protuberance Selection (PS) is proposed. It ensures also the same invariance criterion and the accurate description of the contour roughness. However, SEP and PS proposals are sensitive to noise. A third proposal entitled Spiculated Mass Descriptor (SMD) which has good robustness to noise is then carried out. In order to compare different descriptors, a comparative study between different classifiers is performed. The Support Vector Machine (SVM) provides for all considered descriptors the best classification result. Finally, the proposed descriptors and others commonly used in the breast cancer field are compared to test their ability to characterize the considered mass contours.

This Master Thesis presents a novel classification approach for microcalcifications (MCs) extracted from core biopsy tissue samples digitized using micro-CT, a high-resolution 3D imaging modality. MCs are tiny spots of calcium that may occur in the female breast. Although they are common in healthy woman, they are often an early sign of breast cancer. The shape of the MCs is an important factor used to discriminate between benign and malignant abnormalities. However, the current standard imaging modalities (i.e. mammography) are not efficient for a clear shape based analysis. In case of suspiciousness, a biopsy is conducted and the extracted tissue is anatomopathologically investigated for the presence of cancer cells. Nevertheless, only 20-35% of biopsies turn out to be positive. As such, the question whether some unnecessary biopsies can be avoided if the shape of the MCs could be analysed in more detail has been raised. In addition, the MCs themselves are not analysed, but they are characterised as benign (or malignant) according to whether they were found into a benign (or malignant) tissue. As a result, there is a ground truth for the tissue samples but not for the individual MCs. So, when a classifier of a Computer Aided Diagnosis System will be asked to classify a MC according to its shape, there will be a degree of ambiguity and uncertainty. This master thesis investigates whether the use of a clustering method as a preprocessing step before training the classifier could avoid the ground truth issues and could improve the obtained classification results. / Η παρούσα μεταπτυχιακή εργασία παρουσιάζει μια νέα μέθοδο για την ταξινόμηση μικροαποτιτανώσεων μαστού που έχουν εξαχθεί από βιοψίες και έχουν ψηφιοποιηθεί με χρήση micro-CT, μια υψηλής ανάλυσης, τρισδιάστατη τεχνική απεικόνισης. Οι μικροαποτιτανώσεις (ή αλλιώς μικροασβεστώσεις) αποτελούν μικρά αποθέματα ασβεστίου στον μαστικό αδένα. Παρόλο που μπορεί να εμφανιστούν και σε υγιείς γυναίκες, μπορούν να αποτελέσουν ένα πρώιμο σημάδι καρκίνου του στήθους. Το σχήμα είναι ένας από τους σημαντικότερους παράγοντες ο οποίος βοηθάει στη διάκριση ανάμεσα σε καλοήθεις και κακοήθεις μικροασβεστώσεις, ωστόσο δεν μπορεί να απεικονιστεί επαρκώς μέσω των στανταρ απεικονιστικών τεχνικών (μαστογραφία). Σε περίπτωση υποψίας κακοήθειας, διεξάγεται βιοψία με σκοπό την απομάκρυνση ιστού από την ύποπτη περιοχή και την ανατομοπαθολογική του εξέταση για την παρουσία καρκινικών κυττάρων. Ωστόσο, μονο το 20%-35% των βιοψιών αποδεικνύονται κακοήθεις. Ως εκ τούτου, έχει τεθεί το ερώτημα κατά πόσο μπορούν να αποφευχθούν οι μη απαραίτητες βιοψίες εάν το σχήμα των μικροασβεστώσεων μπορούσε να μελετηθεί πιο λεπτομερώς. Επιπροσθέτως, οι μικροασβεστώσεις αυτές καθ’ εαυτές δεν αναλύονται αλλά χαρακτηρίζονται ως καλοήθεις (ή κακοήθεις) με βάση το αν βρέθηκαν μεσα σε καλοήθες (ή κακοήθες) ιστό. Ως αποτέλεσμα, υπάρχει βάση αναφοράς για τα δείγματα ιστού αλλά όχι για τις μικροασβεστώσεις. Έτσι, όταν ζητηθεί από έναν ταξινομητή ενός συστήματος υποβοηθούμενης διάγνωσης με υπολογιστή να ταξινομήσει μικροασβεστώσεις με βάση το σχήμα τους υπάρχει ένα μεγάλο ποσοστό ασάφειας και αβεβαιότητας. Αυτή η μεταπτυχιακή εργασία έχει σκοπό να ερευνήσει εάν η εισαγωγή ενός βήματος συσταδοποίησης πριν αυτού της ταξινόμησης μπορεί να αποφύγει το πρόβλημα έλλειψης βάσης αναφοράς και να βελτιώσει τα αποτελέσματα της ταξινόμησης.