Fractional Chern insulators (FCIs) are strongly correlated, topological phases of matter that may exist on a lattice in the presence of broken time-reversal symmetry. This thesis explores the link between FCI states and the quantum Hall effect of the continuum in the context of the Hofstadter model, using a combination of nonperturbative, perturbative and numerical methods. We draw links to experimental realisations of topological phases, and go on to consider a novel way of generating general FCI states using strong interactions on a lattice. We begin by considering the Hofstadter model at weak field, where we use a semiclassical analysis to obtain nonperturbative expressions for the band structure and Berry curvature of the single-particle eigenstates. We use this calculation to justify a perturbative approximation, an approach that we extend to the case when the amount of flux per plaquette is close to a rational fraction with a small denominator. We find that eigenstates of the system are single- or multicomponent wavefunctions that connect smoothly to the Landau levels of the continuum. The perturbative corrections to these are higher Landau level contributions that break rotational invariance and allow the perturbed states to adopt the symmetry of the lattice. In the presence of interactions, this approach allows for the calculation of generalised Haldane pseudopotentials, and in turn, the many-body properties of the system. The method is sufficiently general that it can apply to a wide variety of lattices, interactions, and magnetic field strengths. We present numerical simulations of the Hofstadter model relevant to its recent experimental realisation using optical lattices, noting the additional complications that arise in the presence of an external trap. Finally, we show that even if a noninteracting system is topologically trivial, it is possible to stabilise an FCI state by introducing strong interactions that break time-reversal symmetry. We show that this method may also be used to create a (time-reversal symmetric) fractional topological insulator, and provide numerical evidence to support our argument.

A rich variety of phases can exist in quantum systems. For example, the fractional quantum Hall states have persistent topological characteristics that derive from strong interaction. This thesis uses the exact diagonalization method to investigate quantum lattice models with strong interaction. Our research topics revolve around quantum phase transitions between novel phases. The goal is to find the best schemes for realizing these novel phases in experiments. We studied the fractional Chern insulator and its transition to uni-directional stripes of particles. In addition, we studied topological Mott insulators with spontaneous time-reversal symmetry breaking induced by interaction. We also studied emergent kinetics in one-dimensional lattices with spin-orbital coupling. The exact diagonalization method and its implementation for studying these systems can easily be applied to study other strongly correlated systems. / PHD / Topological quantum states are a new type of quantum state that have properties that cannot be described by local order parameters. These types of states were first discovered in the 1980s with the integer quantum Hall effect and the fractional quantum Hall effect. In the 2000s, the predicted and experimentally discovered topological insulators triggered studies of new topological quantum states. Studies of strongly correlated systems have been a parallel research topic in condensed matter physics. When combining topological systems with strong correlation, the resulting systems can have novel properties that emerge, such as fractional charge. This thesis summarizes our work that uses the exact diagonalization method to study topological states with strong interaction.

La spectroscopie d'intrication, initialement introduite par Li et Haldane dans le contexte de l'effet Hall quantique fractionnaire, a suscité un large éventail de travaux. Le spectre d'intrication est le spectre de la matrice de densité réduite, quand on partitionne le système en deux. Pour de nombreux systèmes quantiques, il révèle une caractéristique unique : calculé uniquement à partir de la fonction d'onde de l'état fondamental, le spectre d'intrication donne accès à la physique des excitations de bord. Dans ce manuscrit, nous donnons un apercu de la spectroscopie d'intrication. Nous introduisons les concepts de base dans le cas des chaînes de spins quantiques. Nous présentons une étude approfondie des spectres d'intrication appliqués aux phases de l'effet Hall quantique fractionnaire, montrant quel type d'information est encodé dans l'état fondamental et comment les différentes facons de partitionner le système permettent de sonder différents types d'excitation. Comme application pratique de cette technique, nous discutons de la manière dont cette technique peut aider à faire la distinction entre les différentes phases qui émergent dans les isolants de Chern en interaction forte.

Cette thèse est consacrée à la description de la physique à une particule ainsi qu'à celle de fluides quantiques bosoniques dans des systèmes topologiques. Les deux premiers chapitres sont introductifs. Dans le premier, nous introduisons des éléments de théorie des bandes et les quantités géométriques et topologiques associées : tenseur métrique quantique, courbure de Berry, nombre de Chern. Nous discutons différents modèles et réalisations expérimentales donnant lieu à des effets topologiques. Dans le second chapitre, nous introduisons les condensats de Bose-Einstein ainsi que les excitons-polaritons de cavité.La première partie des résultats originaux discute des phénomènes topologiques à une particule dans des réseaux en nid d'abeilles. Cela permet de comparer deux modèles théoriques qui mènent à l'effet Hall quantique anormal pour les électrons et les photons dû à la présence d'un couplage spin-orbite et d'un champ Zeeman. Nous étudions aussi l'effet Hall quantique de vallée photonique à l'interface entre deux réseaux de cavités avec potentiels alternés opposés.Dans une seconde partie, nous discutons de nouveaux effets qui émergent due à la présence d'un fluide quantique interagissant décrit par l’équation de Gross-Pitaevskii dans ces systèmes. Premièrement, il est montré que les interactions spin anisotropes donnent lieu à des transitions topologiques gouvernées par la densité de particules pour les excitations élémentaires d’un condensat spineur d’exciton-polaritons.Ensuite, nous montrons que les tourbillons quantifiés d'un condensat scalaire dans un système avec effet Hall quantique de vallée, manifestent une propagation chirale le long de l'interface contrairement aux paquets d'ondes linéaires. La direction de propagation de ces derniers est donnée par leur sens de rotation donnant lieu à un transport de pseudospin de vallée protégé topologiquement, analogue à l’effet Hall quantique de spin.Enfin, revenant aux effets géométriques linéaires, nous nous sommes concentrés sur l’effet Hall anormal. Dans ce contexte, nous présentons une correction non-adiabatique aux équations semi-classiques décrivant le mouvement d’un paquet d’ondes qui s’exprime en termes du tenseur géométrique quantique. Nous proposons un protocole expérimental pour mesurer cette quantité dans des systèmes photonique radiatifs. / This thesis is dedicated to the description of both single-particle and bosonic quantum fluid Physics in topological systems. After introductory chapters on these subjects, I first discuss single-particle topological phenomena in honeycomb lattices. This allows to compare two theoretical models leading to quantum anomalous Hall effect for electrons and photons and to discuss the photonic quantum valley Hall effect at the interface between opposite staggered cavity lattices.In a second part, I present some phenomena which emerge due to the interplay of the linear topological effects with the presence of interacting bosonic quantum fluid described by mean-field Gross-Pitaevskii equation. First, I show that the spin-anisotropic interactions lead to density-driven topological transitions for elementary excitations of a condensate loaded in the polariton quantum anomalous Hall model (thermal equilibrium and out-of-equilibrium quasi-resonant excitation configurations). Then, I show that the vortex excitations of a scalar condensate in a quantum valley Hall system, contrary to linear wavepackets, can exhibit a robust chiral propagation along the interface, with direction given by their winding in real space, leading to an analog of quantum spin Hall effect for these non-linear excitations. Finally, coming back to linear geometrical effects, I will focus on the anomalous Hall effect exhibited by an accelerated wavepacket in a two-band system. In this context, I present a non-adiabatic correction to the known semiclassical equations of motion which can be expressed in terms of the quantum geometric tensor elements. We also propose a protocol to directly measure the tensor components in radiative photonic systems.