Nous montrons que les morphismes du groupe de tresses à n brins dans le mapping class group d'une surface de bord éventuellement non vide et de genre inférieur ou égal à n/2 sont soit cycliques (i.e. dont l'image est un groupe cyclique), soit des transvections de monodromie géométriques (i.e. à multiplication près par un élément du centralisateur de l'image, un générateur standard du groupe de tresses est envoyé sur un twist de Dehn, et deux générateurs standards consécutifs sont envoyés sur deux twists de Dehn le long de deux courbes s'intersectant en un point). En corollaire, nous déterminons les endomorphismes, les endomorphismes injectifs, les automorphismes et le groupe d'automorphisme des groupes suivants : le groupe de tresses à n brins lorsque n est supérieur ou égal à 6, le mapping class group de toute surface de genre supérieur ou égal à 2. Pour chacun des énoncés impliquant le mapping class group, nous étudions deux cas : lorsque le bord est fixé point par point ou seulement composante par composante. Nous décrivons également l'ensemble des morphismes entre différents groupes de tresses dont le nombre de brins diffèrent d'au plus un, et l'ensemble des morphismes entre mapping class groups de surfaces (de bord éventuellement non vide) dont les genres (supérieurs ou égal à 2) différent d'au plus un.

Cette thèse a pour objet de développer de nouveaux algorithmes pour les groupes de tresses. Un problème important en théorie mathématique des tresses est d'améliorer les algorithmes existants pour résoudre le problème de conjugaison. Nous résolvons complètement ce problème dans le cas du groupe des tresses à quatre brins, en exhibant un algorithme de complexité cubique en terme de la longueur des entrées. La démonstration s'appuie sur deux aspects fondamentaux des groupes de tresses : la structure de groupe de Garside et la structure de groupe de difféotopie. Comme résultat préliminaire, nous développons un algorithme de complexité quadratique capable de classifier les tresses à quatre brins selon leur type de Nielsen-Thurston. Plus généralement, nous étudions ce problème de classification pour un nombre arbitraire de brins. Nous donnons une adaptation des résultats connus de Benardete-Gutiérrez-Nitecki au cadre de la structure de Garside duale. Enfin, à l'aide d'un résultat profond (et non constructif) de Masur-Minsky, nous prouvons l'existence d'un algorithme de complexité polynômiale pour décider le type de Nielsen-Thurston d'une tresse avec un nombre de brins arbitraire.

Un automorphisme (extérieur) $phi $ d'un groupe libre $F_n$ de rang fini $ngeq 2$ est dit géométrique s'il est induit par un homéomorphisme d'une surface. La question à laquelle nous intéressons est la suivante: Quels sont les automorphismes de $F_n$ qui sont géométriques?Nous donnons une réponse algorithmique pour la classe des automorphismes à croissance polynomiale (en s'autorisant à remplacer un automorphisme par une puissance).Pour cela, nous sommes amenés à étudier les automorphismes de graphes de groupes. En particulier, nous introduisons deux transformations élémentaires d'automorphismes de graphes de groupes: les quotients et les éclatements.Pour le cas particulier où l'automorphisme est un twist de Dehn partiel, on obtient un critère pour décider quand un tel twist de Dehn partiel est un véritable twist de Dehn.En appliquant le critère à plusieurs reprises sur un twist de Dehn cumulé, nous montrons que soit on peut ＂déplier＂ ce twist de Dehn cumulé jusqu'à obtenir un twist de Dehn ordinaire, soit que $phi$ est à croissance au moins quadratique (et par conséquent, n'est pas géométrique).Cela montre, au passage, que tout automorphisme du groupe libre à croissance linéaire admet une puissance qui est un twist de Dehn. Ce fait est connu des experts, et souvent utilisé, bien qu'il n'en existait pas de preuve formelle dans la littérature (à la connaissance de l'auteur).Pour conclure, on applique l'algorithme de Cohen-Lustig pour le transformer en twist de Dehn efficace, puis on applique l'algorithme Whitehead et des théorèmes classiques de Nielsen-Baer et Zieschang pour construire un modèle géométrique ou pour montrer qu'il n'est pas géométrique. / An automorphism $phi$ of a free group $F_n$ of finite rank $n geq 2$ is said to be geometric it is induced by a homeomorphism on a surface.In this thesis we concern ourselves with answering the question:Which precisely are the outer automorphisms of $F_n$ that are geometric?to which we give an algorithmical decision for the case of polynomially growing outer automorphisms, up to raising to certain positive power.In order to realize this algorithm, we establish the technique of quotient and blow-up automorphisms of graph-of-groups, which when apply for the special case of partial Dehn twist enables us to develop a criterion to decide whether the induced outer automorphism is an actual Dehn twist.Applying the criterion repeatedly on the special topological representative deriving from relative train track map, we are now able to either “unfold” this iterated relative Dehn twist representative level by level until eventually obtain an ordinary Dehn twist representative or show that $hat{phi}$ has at least quadratic growth hence is not geometric.As a side result, we also proved that every linearly growing automorphism of free group has a positive power which is a Dehn twist automorphism. This is a fact that has been taken for granted by many experts, although has no formal proof to be found in the literature.In the case of Dehn twist automorphisms, we then use the known algorithm to make the given Dehn twist representative efficient and apply the Whitehead algorithm as well as the classical theorems by Nielsen, Baers, Zieschangs and others to construct its geometric model or to show that it is not geometric.