Cette thèse comporte trois parties. La première traite du groupe des automorphismes des courbes modulaires X(N), N premier, sur F_p, p différent de N. On y démontre que, pour p>3 et X(N) ordinaire, ce groupe est exactement PSL_2(Z/NZ). On traite également complètement les cas N=7,11,13. La deuxième partie concerne les courbes optimales. On y montre que N_3(5)=13 et on étudie les propriétés géométriques (groupe d'automorphismes et revêtements) d'une courbe atteignant cette borne. La dernière partie est une extension de la méthode AGM pour le calcul du nombre de points en caractéristique 2 sur une courbe de genre 3 ordinaire et non hyperelliptique. On y démontre la formule reliant les rapports de thêta constantes au produit des valeurs propres du Frobenius unités 2-adiques. On donne un algorithme pour le calcul algébrique des rapports initiaux, un bon modèle de calcul (i.e tel que les calculs s'effectuent dans une extension non ramifiée fixe de Q_2) et on montre comment retrouver le polynôme caractéristique grâce à LLL.