A classification of all undirected trees with automorphism group isomorphic to $(Z_2)^l$ is given in terms of a vertex partition called a refined star partition. Recently the notion of a quantum automorphism group has been defined by T. Banica and J. Bichon. The quantum automorphism group is similar to the classical automorphism group, but has relaxed commutivity. The classification of all undirected trees with automorphism group isomorphic to $(Z_2)^l$ along with a similar classification of all undirected asymmetric trees is used to give some insight into the structure of the quantum automorphism group for such graphs. / Ph. D.

Dans cette thèse on définit et étudie le produit en couronne libre d'un groupe quantique compact par un groupe quantique d'automorphismes, en généralisant la notion de produit en couronne libre par le groupe quantique symétrique introduit par Bichon.Notre recherche est divisée en deux parties. Dans la première, on définit le produit en couronne libre d'un groupe discret par un groupe quantique d'automorphismes. Ensuite, on montre comment décrire les entrelaceurs de ce nouveau objet à l'aide de partitions non-croisées et décorées; à partir de cela et grâce à un résultat de Lemeux, on déduise les représentations irréductibles et les règles de fusion. Ensuite, on prouve des propriétés des algèbres d'opérateurs associées à ce groupe quantique compact, comme la simplicité de la C*-algèbre réduite et la propriété d'Haagerup de l'algèbre de von Neumann.La deuxième partie est une généralisation de la première. D'abord, on définit la notion de produit en couronne libre d'un groupe quantique compact par un groupe quantique d'automorphismes. Après, on généralise la description des espaces des entrelaceurs donnée dans le cas discret et, en adaptant un résultat d'équivalence monoïdale de Lemeux et Tarrago, on trouve les représentations irréductibles et les règles de fusion. Ensuite, on montre des propriétés de stabilité de l'opération de produit en couronne libre. En particulier, on prouve sous quelles conditions deux produits en couronne libres sont monoïdalment équivalents ou ont le semi-anneau de fusion isomorphe. Enfin, on démontre certaines propriétés algébriques et analytiques du groupe quantique duale et des algèbres d'opérateurs associées à un produit en couronne. Comme dernier résultat, on prouve que le produit en couronne de deux groupes quantiques d'automorphismes est isomorphe à un quotient d'un particulier groupe quantique d'automorphismes. / In this thesis, we define and study the free wreath product of a compact quantum group by a quantum automorphism group and, in this way, we generalize the previous notion of free wreath product by the quantum symmetric group introduced by Bichon.Our investigation is divided into two part. In the first, we define the free wreath product of a discrete group by a quantum automorphism group. We show how to describe its intertwiners by making use of decorated noncrossing partitions and from this, thanks to a result of Lemeux, we deduce the irreducible representations and the fusion rules. Then, we prove some properties of the operator algebras associated to this compact quantum group, such as the simplicity of the reduced C*-algebra and the Haagerup property of the von Neumann algebra.The second part is a generalization of the first one. We start by defining the notion of free wreath product of a compact quantum group by a quantum automorphism group. We generalize the description of the spaces of the intertwiners obtained in the discrete case and, by adapting a monoidal equivalence result of Lemeux and Tarrago, we find the irreducible representations and the fusion rules. Then, we prove some stability properties of the free wreath product operation. In particular, we find under which conditions two free wreath products are monoidally equivalent or have isomorphic fusion semirings. We also establish some analytic and algebraic properties of the dual quantum group and of the operator algebras associated to a free wreath product. As a last result, we prove that the free wreath product of two quantum automorphism groups can be seen as the quotient of a suitable quantum automorphism group.

Dans cette thèse nous étudions le groupe quantique d’automorphismes des graphes finis, introduit par Banica et Bichon. Dans un premier temps nous montrerons un théorème de structure du groupe quantique d’automorphismes du produit lexicographique de deux graphes finis réguliers, qui généralise un résultat classique de Sabidussi. Ce théorème donne une condition nécessaire et suffisante pour que ce groupe quantique s’exprime comme le produit en couronne libre des groupes quantiques d’automorphismes de ces deux graphes. Dans un deuxième temps, nous expliciterons certaines améliorations de résultats de Banica, Bichon et Chenevier permettant d’obtenir des critères de non symétrie quantique sur les graphes, à l’aide des outils développés par les auteurs susmentionnés.Enfin, pour poursuivre ces recherches, nous développerons une autre méthode utilisant la dualité de Tannaka-Krein et inspirée de l’étude des groupes quantiques compacts orthogonaux par Banica et Speicher. Celle-ci nous permettra, à l’aide d’une étude orbitale approfondie des graphes sommets-transitifs, d’énoncer une condition suffisante pour qu’un graphe ait des symétries quantiques ; condition qui a vocation à être aussi nécessaire mais ceci reste une conjecture à ce stade. / In this thesis we study the quantum automorphism group of finite graphs, introduces by Banica and Bichon. First we will prove a theorem about the structure of the quantum automorphism group of the lexicographic product of two finite regular graphs. It is a quantum generalization of a classical result of Sabidussi. This theorem gives a necessary and sufficient condition for this quantum group to be discribe as the free wreath product of the quantum automorphism groups of these two graphs. Then, we will give some improvement of Banica, Bichon and Chenevier results, to obtain a quantum non-symmetry criteria on graphs, using tools developped by the above authors. Finally, to continue this research, we will describe another method using Tannaka-Krein duality and inspired by the study of orthogonal compact groups by Banica and Speicher. This will enable us, with a thorough orbital study of vertex-transitive graphs, to state a sufficient condition for a graph to have quantum symmetries ; condition which is intended to be also necessary but this remains conjecture at this point.