La complexité de la forme de la surface est une caractéristique morphologique des surfaces pliées. Dans cette thèse, nous visons à développer des méthodes spectrales pour quantifier cette caractéristique du cortex cérébral humain reconstruit à partir d'images MR structurales. Tout d'abord, nous suggérons certaines propriétés qu'une mesure standard de la complexité de surface devrait posséder. Ensuite, nous proposons deux définitions claires de la complexité de la surface en fonction des propriétés de flexion de surface. Pour quantifier ces définitions, nous avons étendu la transformée de Fourier à fenêtres illustrée récemment pour transformer en maillage des surfaces. Grâce à certaines expériences sur les surfaces synthétiques, nous montrons que nos mesures basées sur la courbure permettent de surmonter les surfaces classiques basées sur la surface, ce qui ne distingue pas les plis profonds des oscillants ayant une surface égale. La méthode proposée est appliquée à une base de données de 124 sujets adultes en bonne santé. Nous définissons également la complexité de la surface par la régularité de Hölder des mouvements browniens fractionnés définis sur les collecteurs. Ensuite, pour la première fois, nous développons un algorithme de régression spectrale pour quantifier la régularité de Hölder d'une surface brownienne fractionnée donnée en estimant son paramètre Hurst H. La méthode proposée est évaluée sur un ensemble de sphères browniennes fractionnées simulées. En outre, en supposant que le cortex cérébral est une surface brownienne fractionnée, l'algorithme proposé est appliqué pour estimer les paramètres Hurst d'un ensemble de 14 corticus cérébraux fœtaux. / Surface shape complexity is a morphological characteristic of folded surfaces. In this thesis, we aim at developing some spectral methods to quantify this feature of the human cerebral cortex reconstructed from structural MR images. First, we suggest some properties that a standard measure of surface complexity should possess. Then, we propose two clear definitions of surface complexity based on surface bending properties. To quantify these definitions, we extended the recently introduced graph windowed Fourier transform to mesh model of surfaces. Through some experiments on synthetic surfaces, we show that our curvature-based measurements overcome the classic surface area-based ones which may not distinguish deep folds from oscillating ones with equal area. The proposed method is applied to a database of 124 healthy adult subjects. We also define the surface complexity by the Hölder regularity of fractional Brownian motions defined on manifolds. Then, for the first time, we develop a spectral-regression algorithm to quantify the Hölder regularity of a given fractional Brownian surface by estimating its Hurst parameter H. The proposed method is evaluated on a set of simulated fractional Brownian spheres. Moreover, assuming the cerebral cortex is a fractional Brownian surface, the proposed algorithm is applied to estimate the Hurst parameters of a set of 14 fetal cerebral cortices.