Ces dernières années, de nouveaux matériaux bidimensionnels aux propriétés surprenantes ont été découverts, le plus connu étant le graphène. Dans ces matériaux, les électrons du niveau de Fermi ont une masse apparente nulle, et peuvent être décrits par l’équation de Dirac sans masse. Un tel phénomène apparaît dans des situations très générales, pour les matériaux bidimensionnels ayant une structure périodique en « nid d’abeille ». De plus, la prise en compte d’interactions mène à des équations de Dirac non linéaires. Ces équations apparaissent également dans l’étude des paquets d’ondes lumineuses dans certaines fibres optiques. Le but de cette thèse est d’étudier l’existence et la stabilité de solutions stationnaires de ces équations avec termes non linéaires sous-critiques et critiques, et de montrer qu’ils sont la limite de solutions stationnaires de l’équation de Schrödinger non linéaire à potentiel périodique dans certains régimes de paramètres. Du point de vue mathématique, on devra résoudre les équations d’Euler-Lagrange de fonctionnelles d'énergie fortement indéfinies faisant intervenir l’opérateur de Dirac. Il s’agira en particulier d’étudier le cas des non-linéarités avec exposant critique, encore mal comprises pour ce type de fonctionnelle, et qui apparaissent naturellement en optique non linéaire. Les résultats de cette thèse pourraient avoir un impact important en physique, en particulier en physique du solide et optique non linéaire. / Recently, new two-dimensional materials possessing unique properties have been discovered, the most famous being the graphene. In this materials, electrons at the Fermi level behave as massless particles and can be described by the massless Dirac equation. This phenomenon is quite general, and it is a common features of "honeycomb" periodic structures. Moreover, taking into account interaction leads to non-linear Dirac equations, which also appear in the description of light propagation in particular waveguides. The aim of the thesis is to study existence and stability of stationary solutions for those equations with both sub-critical and critical nonlinearities, and to show that they are limit of stationary solutions to the Schroedinger equation with honeycomb potential, for a suitable choice of parameters. This amounts to solving the Euler-Lagrange equation for strongly indefinite energy functionals, involving the Dirac operator. We will deal with critical nonlinearities, which are still poorly understood, and appear naturally in non-linear optics. This results may have an impact on the understanding some solid state or nonlinear optics systems.

Cette thèse en physique constitue une étude théorique des états de bord dans des cristaux bidimensionnels qui exhibent deux cônes de Dirac (dégénérés en spin) dans leur relation de dispersion. Les deux systèmes considérés sont le graphène d'une part, et le réseau carré traversé d'un demi quantum de flux magnétique d'autre part. L'accent est mis sur la description analytique des niveaux d'énergie dispersifs sous fort champ magnétique (régime de l'effet Hall quantique), à l'approche du bord. Selon la géométrie du réseau cristallin et la forme du bord considéré, différents types de couplage sont induits sur les composantes de la fonction d'onde, donnant lieu à des structures d'états de bord différentes mais qui peuvent néanmoins être décrites de façon communes. En l'absence de champ magnétique, des états de bord peuvent également exister dans ces systèmes, mais ceux-ci ont une origine différente et leur existence même dépend de la nature des bords. Dans le cas du graphène, on montre comment comprendre l'existence de tels états en terme d'une phase de Berry particulière, appelée phase de Zak. Cette approche permet entre autre de comprendre comment manipuler ces états de bord en induisant une transition topologique de la phase de Zak à partir des paramètres de volume. Un autre type de transition topologique est également étudié. Il s'agit de la fusion des cônes de Dirac dans le réseau carré à demi flux. On montre que le mécanisme donnant lieu à ce phénomène est totalement différent de celui connu dans le graphène, et que le voisinage de la transition peut toutefois être décrit avec le même Hamiltonien effectif. Une partie plus courte traite de la localisation faible sur un cylindre désordonné en présence d'interactions électroniques. Le but de cette étude est d'illustrer le rôle de la géométrie sur les mécanismes de décohérence dus aux interactions électron-électron dans les systèmes diffusifs. Les harmoniques de la correction de localisation faible alors calculées mettent en évidence différents régimes qui permettent de sonder les différentes échelles de longueur caractérisant la décohérence. Ces longueurs révèlent la sensibilité des processus cohérents à la géométrie, et sont caractérisées par des lois de puissance en température spécifiques.