Ce travail est consacré à la recherche de surfaces de Riemann (\it compactes) extrê\-mes (i.e. maxima locaux) pour la systole, ou tout au moins parfaites. En genre 4, on donne une nouvelle surface extrême et deux surfaces parfaites non extrêmes (ce sont les premiers exemples de telles surfaces en genre $\leq 10$). La méthode consiste à réaliser géométriquement les groupes d'automorphismes à 4 points de branchements. En effet, le lieu des points fixes dans l'espace de Teichmüller $T_g$ d'un tel groupe, dépend d'un paramètre complexe qu'on peut alors ajuster pour maximiser la systole. On étudie ensuite les propriétés variationnelles dans $T_g$ des surfaces obtenues. Par extension de cette méthode, on trouve également une nouvelle surface extrême en genre 6, ainsi qu'une suite infinie de surfaces parfaites non extrêmes de genre $g>3$. En outre, on retrouve, de manière unifiée, les surfaces déjà connues en genre $\leq 5$. La méthode employée pour la recherche de surfaces parfaites, permet de trouver parallèlement un certain nombre de surfaces eutactiques, qui sont intéressantes à classifier en elles-mêmes puisque ce sont les points critiques de la fonction systole. Enfin, le dernier chapitre, développant une toute autre approche, concerne une méthode purement algébrique qui permet de redémontrer l'extrémalité des surfaces respectivement de Bolza et de Klein.

Sur les espaces de modules de différentielles abéliennes existe une action naturelle de SL(2,R). Ses orbites, appelées disques de Teichmüller, se projettent dans les espaces de modules de surfaces de Riemann sur des géodésiques complexes. En tirant en arrière la forme dz du tore standard par des revêtements ramifiés au-dessus d'un seul point, on obtient les surfaces à petits carreaux, points entiers des espaces de modules de différentielles abéliennes. Nous étudions en détail les disques de Teichmüller des points entiers de l'espace des modules des différentielles abéliennes en genre deux avec un zéro double: nombre de disques de Teichmüller pour chaque nombre de carreaux, et leur géométrie; propriétés algébriques des stabilisateurs (sous-groupes de SL(2,Z) qui ne sont pas de congruence); comportement asymptotique des constantes de Siegel-Veech (coefficients des taux de croissance quadratiques des géodésiques fermées) lorsque le nombre de carreaux tend vers l'infini.