La structure et l'organisation de la substance blanche du cerveau humain ne sont pas encore complètement connues. L'Imagerie par Résonance Magnétique de diffusion (IRMd) offre une approche unique pour étudier in vivo la structure des tissus cérébraux, permettant la reconstruction non invasive des trajectoires des faisceaux de fibres du cerveau en utilisant la tractographie. Aujourd'hui, les techniques récentes d'IRMd avec haute résolution angulaire (HARDI) ont largement amélioré la qualité de la tractographie par rapport à l'imagerie du tenseur de diffusion standard (DTI). Toutefois, les jeux de données de tractographie résultant sont très complexes et comprennent des millions de fibres, ce qui nécessite une nouvelle génération de méthodes d'analyse. Au-delà de la cartographie des principales voies de la substance blanche, cette nouvelle technologie ouvre la voie à l'étude des faisceaux d'association courts, qui ont rarement été étudiés avant et qui sont au centre de cette thèse. L'objectif est d'inférer un atlas des faisceaux de fibres du cerveau humain et une méthode qui permet le mappage de cet atlas à tout nouveau cerveau.Afin de surmonter la limitation induite par la taille et la complexité des jeux de données de tractographie, nous proposons une stratégie à deux niveaux, qui enchaîne des regroupements de fibres intra- et inter-sujet. Le premier niveau, un regroupement intra-sujet, est composé par plusieurs étapes qui effectuent un regroupement hiérarchique et robuste des fibres issues de la tractographie, pouvant traiter des jeux de données contenant des millions de fibres. Le résultat final est un ensemble de quelques milliers de faisceaux de fibres homogènes représentant la structure du jeu de données de tractographie dans sa totalité. Cette représentation simplifiée de la substance blanche peut être utilisée par plusieurs études sur la structure des faisceaux individuels ou des analyses de groupe. La robustesse et le coût de l'extensibilité de la méthode sont vérifiés à l'aide de jeux de fibres simulés. Le deuxième niveau, un regroupement inter-sujet, rassemble les faisceaux obtenus dans le premier niveau pour une population de sujets et effectue un regroupement après normalisation spatiale. Il produit en sortie un modèle composé d'une liste de faisceaux de fibres génériques qui peuvent être détectés dans la plupart de la population. Une validation avec des jeux de données simulées est appliqué afin d'étudier le comportement du regroupement inter-sujet sur une population de sujets alignés avec une transformation affine. La méthode a été appliquée aux jeux de fibres calculés à partir des données HARDI de douze cerveaux adultes. Un nouveau atlas des faisceaux HARDI multi-sujet, qui représente la variabilité de la forme et la position des faisceaux à travers les sujets, a été ainsi inféré. L'atlas comprend 36 faisceaux de la substance blanche profonde, dont certains représentent quelques subdivisions des faisceaux connus, et 94 faisceaux d'association courts de la substance blanche superficielle. Enfin, nous proposons une méthode de segmentation automatique de mappage de cet atlas à tout nouveau sujet.

La structure et l'organisation de la substance blanche du cerveau humain ne sont pas encore complètement connues. L'Imagerie par Résonance Magnétique de diffusion (IRMd) offre une approche unique pour étudier in vivo la structure des tissus cérébraux, permettant la reconstruction non invasive des trajectoires des faisceaux de fibres du cerveau en utilisant la tractographie. Aujourd'hui, les techniques récentes d'IRMd avec haute résolution angulaire (HARDI) ont largement amélioré la qualité de la tractographie par rapport à l'imagerie du tenseur de diffusion standard (DTI). Toutefois, les jeux de données de tractographie résultant sont très complexes et comprennent des millions de fibres, ce qui nécessite une nouvelle génération de méthodes d'analyse. Au-delà de la cartographie des principales voies de la substance blanche, cette nouvelle technologie ouvre la voie à l'étude des faisceaux d'association courts, qui ont rarement été étudiés avant et qui sont au centre de cette thèse. L'objectif est d'inférer un atlas des faisceaux de fibres du cerveau humain et une méthode qui permet le mappage de cet atlas à tout nouveau cerveau.Afin de surmonter la limitation induite par la taille et la complexité des jeux de données de tractographie, nous proposons une stratégie à deux niveaux, qui enchaîne des regroupements de fibres intra- et inter-sujet. Le premier niveau, un regroupement intra-sujet, est composé par plusieurs étapes qui effectuent un regroupement hiérarchique et robuste des fibres issues de la tractographie, pouvant traiter des jeux de données contenant des millions de fibres. Le résultat final est un ensemble de quelques milliers de faisceaux de fibres homogènes représentant la structure du jeu de données de tractographie dans sa totalité. Cette représentation simplifiée de la substance blanche peut être utilisée par plusieurs études sur la structure des faisceaux individuels ou des analyses de groupe. La robustesse et le coût de l'extensibilité de la méthode sont vérifiés à l'aide de jeux de fibres simulés. Le deuxième niveau, un regroupement inter-sujet, rassemble les faisceaux obtenus dans le premier niveau pour une population de sujets et effectue un regroupement après normalisation spatiale. Il produit en sortie un modèle composé d'une liste de faisceaux de fibres génériques qui peuvent être détectés dans la plupart de la population. Une validation avec des jeux de données simulées est appliqué afin d'étudier le comportement du regroupement inter-sujet sur une population de sujets alignés avec une transformation affine. La méthode a été appliquée aux jeux de fibres calculés à partir des données HARDI de douze cerveaux adultes. Un nouveau atlas des faisceaux HARDI multi-sujet, qui représente la variabilité de la forme et la position des faisceaux à travers les sujets, a été ainsi inféré. L'atlas comprend 36 faisceaux de la substance blanche profonde, dont certains représentent quelques subdivisions des faisceaux connus, et 94 faisceaux d'association courts de la substance blanche superficielle. Enfin, nous proposons une méthode de segmentation automatique de mappage de cet atlas à tout nouveau sujet. / Human brain white matter (WM) structure and organisation are not yet completely known. Diffusion-Weighted Magnetic Resonance Imaging (dMRI) offers a unique approach to study in vivo the structure of brain tissues, allowing the non invasive reconstruction of brain fiber bundle trajectories using tractography. Nowadays, the recent dMRI techniques with high angular resolution (HARDI) have largely improve the quality of tractography relative to standard diffusion tensor imaging. However, the resulting tractography datasets are highly complex and include millions of fibers which requires a new generation of analysis methods. Beyond the mapping of the main white matter pathways, this new technology opens the road to the study of short association bundles, which have been rarely studied before and is in the focus of this thesis. The goal is to infer an atlas of the fiber bundles of the human brain and a method mapping this atlas to any new brain.In order to overcome the limitation induced by the size and complexity of the tractography datasets, we propose a two-level strategy, chaining intra- and inter-subject fiber clustering. The first level, an intra-subject clustering, is composed by several steps performing a robust hierarchical clustering of a fiber tractography dataset that can deal with millions of diffusion-based tracts. The end result is a set of a few thousand homogeneous bundles representing the whole structure of the tractography dataset. This simplified representation of white matter can be used further for several studies of individual bundle structure or group analyses. The robustness and the cost of the scalability of the method are checked using simulated tract datasets. The second level, an inter-subject clustering, gathers the bundles obtained in the first level for a population of subjects and performs a clustering after spatial normalization. It produces as output a model composed by a list of generic fiber bundles that can be detected in most of the population. A validation with simulated datasets is applied in order to study the behavior of the inter-subject clustering over a population of subjects aligned with affine registration. The whole method was applied to the tracts computed from HARDI data obtained for twelve adult brains. A novel HARDI multi-subject bundle atlas, representing the variability of the bundle shape and position across subjects was thus inferred. The atlas includes 36 deep WM bundles, some of these representing a few subdivisions of known WM tracts, and 94 short association bundles of superficial WM. Finally, we propose an automatic segmentation method mapping this atlas to any new subject.