Soit G un groupe dénombrable, qui se scinde en un produit libre de la forme G=G_1*...*G_k*F, où F est un groupe libre de type fini, et les G_i sont librement indécomposables et non isomorphes à Z. Nous montrons que le groupe Out(G) des automorphismes extérieurs de G satisfait l'alternative de Tits, dès lors que chacun des groupes G_i et Out(G_i) la satisfait. Par des méthodes similaires, nous montrons aussi l'alternative suivante pour tout sous-groupe H de Out(F_N), due à Handel et Mosher lorsque H est de type fini : soit H fixe virtuellement la classe de conjugaison d'un facteur libre propre de F_N, soit H contient un automorphisme complètement irréductible. Nos méthodes, géométriques, utilisent l'étude de la dynamique de l'action de certains sous-groupes de Out(G) sur des espaces hyperboliques. Nous décrivons notamment l'adhérence de l'outre-espace de G relatif aux G_i, et le bord de Gromov du complexe (hyperbolique) des scindements cycliques relatifs associé. Nous étudions par ailleurs les marches aléatoires sur Out(F_N). Sous un certain nombre de conditions sur la mesure de probabilité mu, nous montrons que presque toute trajectoire de la marche aléatoire sur (Out(F_N),mu) converge vers un point du bord de Gromov du complexe des facteurs libres de F_N, que nous identifions au bord de Poisson de (Out(F_N),mu). Par ailleurs, nous décrivons l'horofrontière de l'outre-espace. Ceci a des applications à l'étude de la croissance des classes de conjugaison de F_N sous l'effet de produits aléatoires d'automorphismes extérieurs. / Let G be a countable group that splits as a free product of the form G=G_1*...*G_k*F, where F is a finitely generated free group, and the groups G_i are freely indecomposable and not isomorphic to Z. We show that Out(G) satisfies the Tits alternative, as soon as all the groups G_i and Out(G_i) do. Similar techniques also yield another alternative for subgroups H of Out(F_N), due to Handel and Mosher when H is finitely generated, namely: either H virtually fixes the conjugacy class of some proper free factor of F_N, or H contains a fully irreducible automorphism. Our methods are geometric, and require understanding the dynamics of the action of some subgroups of Out(G) on Gromov hyperbolic spaces. In particular, we determine the closure of the outer space of G relative to the G_i's, as well as the Gromov boundary of the (hyperbolic) complex of relative cyclic splittings of G. We also study random walks on Out(F_N). Given a probability measure mu on Out(F_N) (satisfying some conditions), we prove that almost every sample path of the random walk on (Out(F_N),mu) converges to a point of the Gromov boundary of the free factor complex of F_N, which we identify with the Poisson boundary of (Out(F_N),mu). We also describe the horoboundary of outer space, and give applications to growth of conjugacy classes of F_N under random products of outer automorphisms.

Following the work of Conant and Vogtmann on determining the homology of the group of outer automorphisms of a free group, a new nontrivial class in the rational homology of Outer space is established for the free group of rank eight. The methods started in [8] are heavily exploited and used to create a new graph complex called the space of good chord diagrams. This complex carries with it significant computational advantages in determining possible nontrivial homology classes.Next, we create a basepointed version of the Lie operad and explore some of it proper- ties. In particular, we prove a Kontsevich-type theorem that relates the Lie homology of a particular space to the cohomology of the group of automorphisms of the free group.