Cette thèse s'intéresse à l'interaction entre le couplage spin-orbite et les corrélations électroniques dans la matière condensée. En effet, de plus en plus de matériaux - tels que les isolants topologiques ou les oxydes de métaux de transition 5d à base d'iridium - présentent des propriétés pour lesquels l'interaction spin-orbite joue un rôle essentiel. Parmi eux, l'iridate de strontium (Sr2IrO4) a récemment été décrit comme un "isolant de Mott régi par les effets spin-orbite": dans cette image, l'interaction de Coulomb entre les électrons et le couplage spin-orbite se combinent pour rendre le composé isolant. Nous avons étudié la phase isolante paramagnétique de ce matériau avec l'approche LDA+DMFT, une méthode qui combine la théorie de la fonctionnelle de la densité dans l'approximation de la densité locale (LDA) avec la théorie du champ moyen dynamique (DMFT). Sr2IrO4 s'est avéré être un isolant de Mott pour une valeur raisonnable des corrélations électroniques une fois que le couplage spin-orbite et les distorsions structurales du cristal ont été pris en compte. En outre, nos résultats mettent en évidence les rôles respectifs joués par ces deux éléments dans l'obtention d'un état isolant et montrent que seule leur action conjointe permet d'ouvrir un gap de Mott dans un tel composé. Afin de réaliser cette étude, le couplage spin-orbite a dû être inclus au sein du formalisme LDA+DMFT. L'intérêt d'un tel développement technique dépasse le cas de Sr2IrO4, cette implémentation, dite "LDA+SO+DMFT", pouvant être aussi utilisée pour prendre en compte les corrélations électroniques dans d'autres oxydes de métaux de transition 5d ou même au sein des isolants topologiques.

Cette thèse propose une nouvelle implémentation de "l'approximation de la phase aléatoire avec polarisation contrainte" (constrained random phase approximation, cRPA). Notre implémentation repose sur la théorie de la fonctionnelle de la densité, développée dans une base d'ondes planes augmentées (linearized augmented plane wave, LAPW). Cette méthode, appliquée à des matériaux fortement corrélés, permet de calculer de facon réaliste la matrice d'interaction coulombienne effective, qui pourra être traitée par la suite au moyen de l'approche à N-corps souhaitée. En particulier, les valeurs de l'interaction de Hubbard, U , et de l'échange de Hund, J, sont déterminées de manière ab initio, ainsi que leur dépendance en fréquence qui résulte des effets dynamiques de l'écrantage. Comme dans la théorie du groupe de renormalisation de Wilson, l'interaction coulombienne effective dépend du choix du sous-espace corrélé pour lequel est construit un Hamiltonien effectif de basse énergie, alors que les valeurs des observables physiques n'en dépendent pas. Afin de généraliser la cRPA aux matériaux dont la structure électronique exhibe des orbitales corrélées et itinérantes intriquées, une méthode basée sur la projection sur le sous-espace corrélé est également introduite. Différentes classes de matériaux sont envisagées comme applications : i) pnictides à base de fer, LaOFeAs et BaFe2As2, et chalcogénides, FeSe (Chapitre 6), ii) métaux de transition 3d afin de valider notre méthode de projection (Chapitre 6), iii) oxydes de métaux de transition pérovskites, SrMO3 (M = V, Cr, Mn, Nb, Mo, Tc), et pérovskites en couches, Sr2MO4 (M = Mo, Tc, Ru, Rh) (Chapitre 7). L'Hamiltonien d'interaction cRPA est également couplé à la théorie du champ moyen dynamique (LDA+cRPA+DMFT) afin de décrire l'isolant de Mott induit par le couplage spin-orbite, Sr2IrO4, et le pigment à base de terre rare, CeSF (Chapitre 8).