Cette thèse se propose d'étudier la thermodynamique de la matière nucléaire qui constitue l'écorce des proto-étoiles et étoiles à neutrons. Une connaissance détaillée des propriétés thermodynamiques de la matière d'étoile est nécessaire afin d'améliorer la compréhension des phénomènes physiques impliqués dans le refroidissement des proto-étoiles, et dans la formation de supernovae de type II. L'un des objectifs fondamentaux est d'extraire le diagramme des phase de la matière d'étoile afin de déterminer si celui-ci présente des instabilités et/ou des points critiques. Le travail présenté ici se divise en deux parties, une première portant sur des approches classiques, et une seconde sur une approche quantique. Les approches classiques sont basées sur le modèle d'Ising et le groupe de renormalisation. Elles vont nous permettre d'obtenir des informations qualitatives sur la phénoménologie des transitions de phase de la matière d'étoile, et de discuter l'influence de la frustration Coulombienne sur le diagramme des phases. L'approche quantique est basée sur un modèle de dynamique moléculaire fermionique que nous avons dérivé à partir du formalisme de la fonctionnelle de la densité, et implémenté numériquement avec des forces de Skyrme optimisée pour la matière riche en neutrons. Le travail de cette thèse montre des premières applications à l'étude thermodynamique de systèmes finis, et à des calculs de structure nucléaire pour des noyaux légers. Nous proposerons également une ébauche du formalisme qui permettra à terme de traiter numériquement le problème quantique de la matière infinie d'étoile à l'aide du modèle de dynamique moléculaire.

Nous étudions la formation et les propriétés des systèmes auto-gravitants à l'aide de simulations numériques à N corps d'effondrements gravitationnels.<br />Nous effectuons dans un premier temps une synthèse des principaux résultats analytiques concernant les équations de Boltzmann sans collisions et de Poisson, qui modélisent les systèmes gravitationnels non collisionnels ainsi que certaines solutions analytiques de ce système couplé d'équations.<br />Nous présentons ensuite les codes de calcul utilisés pour les simulations. Nous avons parallélisé certains de ces codes, nous introduisons donc le calcul parallèle et la bibliothèque d'échange de message MPI.<br />Nous exposons enfin les résultats de nos simulations, et leurs analyses. Nous déduisons de ces analyses divers résultats pouvant expliquer différentes caractéristiques des systèmes auto-gravitants ainsi que les conditions initiales nécessaires au déclenchement des instabilités d'Antonov et d'orbites radiales.

Dans cette thèse nous avons appliqué la RPA auto-consistante (SCRPA) au modéle de Hubbard avec un petit nombre de sites (une chaîne à 2, 4, 6, ... sites). La SCRPA avait précédemment donné de très bon résultats dans d'autres modèles comme le modèle d'appariement de Richardson. Il était donc intéressant de voir quel genre de résultats la méthode allait produire pour un modèle plus complexe comme le modèle de Hubbard. A notre grande satisfaction le cas à 2 sites et deux électrons (demi-remplissage) est résolu exactement par la SCRPA. Ceci peut sembler un peu trivial mais le fait est que d'autres approximations toute à fait respectables telles que la "GW" ou l'approche avec la fonction d'onde de Gutzwiller restent loin du compte. Avec ce bon point de départ le cas à 6 sites a été regardé ensuite. Pour ce cas la SCRPA n'est, évidemment, plus exacte, cependant les résultats SCRPA s'en écartent uniquement de très peu sur une grande plage de valeurs de la constante de couplage U et notamment dans la région de la transition de phase vers un état avec magnétisation non nulle. Ceci est vrai pour l'énergie du fondamental, les excitations et les nombres d'occupations. On peut considérer cela comme un bon succès de la théorie. Cependant, le cas à 4 sites (plaquette), comme tous les cas à 4n sites, pose un problème à cause d'une dégénérescence au niveau Hartree-Fock. Une généralisation de la présente méthode en incluant en plus des paires, des quadruples opérateurs de Fermions (seconde RPA) est proposée pour traiter ces cas dans la présente approche. En effet pour une plaquette, on peut ainsi également retrouver le résultat exact. C'est donc une perspective intéressante de ce travail.

L'étude de problèmes de physique hadronique dans le cadre de la théorie des champs nécessite l'emploi de méthodes non-perturbatives, les approches perturbatives ne pouvant s'appliquer pour QCD à basse énergie. L'équivalence formelle existant entre la théorie des champs et le problème à N corps nous a conduit à adapter des techniques non-perturbatives usuelles de la théorie du problème à N corps, comme l'approximation de champ moyen (ou approximation gaussienne) et l'approximation de la phase aléatoire (RPA).<br> En se plaçant au-delà du champ moyen où seules sont prises en compte les corrélations entre une particule et un potentiel "moyen" à un corps, la RPA va permettre de rajouter dans le calcul de l'état fondamental des corrélations entre particules.<br> Afin de mettre en place le formalisme, on applique la RPA, sons différentes formes (standard, renormalisée, en termes de fonctions de Green), à l'une des plus simples théories des champs en interaction, la théorie scalaire lambda x phi^4. On montre qu'il se produit une transition de phase due à une brisure dynamique de symétrie dont le paramètre critique se rapproche des résultats obtenus sur réseaux et par la technique des "clusters". Les résultats sont aussi présentés à température finie pour le champ moyen.<br> On étudie également un modèle effectif réaliste de la transition de phase chirale, le modèle sigma-linéaire et on montre que le théorème de Goldstone est restauré, contrairement à l'approximation gaussienne.<br> Enfin pour éclaircir quelques points de la RPA et, aller au-delà des corrélations obtenues dans la forme renormalisée, on considère l'oscillateur anharmonique en mécanique quantique, en introduisant les corrélations minimales au-delà du champ moyen et on montre que les corrélations RPA améliorent grandement le résultat obtenu en champ moyen.

On etudie d'abord la formation des galaxies dans le cadre du modele standard en utilisant des simulations numeriques contraintes puis on invalide un schema concurrent ou l'assemblage des galaxies brillantes est a priori plus precoce. Deux grandes simulations de cosmologies CDM (LCDM et tCDM) avec des fluctuations de densite initiale gaussiennes sont analysees. Elles reproduisent l'Univers Local jusqu'a cz=8000 km/s. Les populations de galaxies sont normalisees avec la relation de Tully-Fisher et la fonction de luminosite locale en bande B. La position et la masse des principaux amas proches coincident et leurs plus brillantes galaxies montrent un accord raisonnable avec les populations reeles. On compare alors aux catalogues PSCz et UZC: la structure a grande echelle observee localement se retrouve, prouvant le succes de l'ensemble des techniques numeriques utilisees, de la contrainte du champ de densite initial au modele semi-analytique de formation des galaxies. De plus, jusqu'a leur limite de resolution, les simulations montrent de grands volumes vides de halos de DM et de tout type de galaxies, en accord avec les observations. La fonction de luminosite simulee a z=3 est plus faible que les donnees, mais les modeles sont suffisants pour donner un apercu des proprietes et de la repartition spatiale des Galaxies Lyman Break, des hotes de QSO, et de leurs descendants a z=0. Enfin, on considere le modele isocourbure avec matiere noire froide (ICDM) propose par Peebles : les fluctuations initiales de densite de DM y sont fortement non-gaussienne. On effectue deux simulations de cotes respectifs 600 et 162 Mpc/h. On confirme des predictions analytiques simples a z=0 et on trouve que les longueurs de correlation des amas et la forme de la distribution de leurs vitesses propres permettent d'invalider ce modele sur la base des donnees actuelles. Il est aussi exclu par des mesures recentes des anisotropies du CMB.

La résolution du problème à N-corps constitue aussi bien en mécanique classique qu'en mécanique quantique un des grands enjeux de la physique. En physique nucléaire, diverses méthodes ont été développées pour obtenir des solutions approchées permettant de décrire convenablement les propriétés des noyaux (spectres, transitions électromagnétiques...). Dans cette thèse, nous avons tout d'abord rappelé comment les symétries pouvaient être utilisées pour obtenir des solutions exactes. Nous avons notamment insisté sur le rôle occupé par l'algèbre unitaire en mécanique quantique et nous avons développé et implémenté une façon de construire les représentations irréductibles de cette algèbre à partir d'un état dit de poids maximal et dans lesquelles ont été calculés les spectres de systèmes bosoniques et fermioniques aussi bien avec des interactions réalistes qu'avec des interactions aléatoires. L'utilisation d'interactions aléatoires à 1- et 2-corps conservant le moment angulaire a révélé que certaines caractéristiques des spectres (état fondamental de moment angulaire nul, existence de bandes rotationnelles, vibrationnelles...) étaient robustes. Ainsi dans une seconde partie, nous avons montré que le choix de l'espace de valence conditionne fortement les spectres possibles d'un système quantique : en particulier, nous avons élaboré une méthode géométrique qui, dans certains cas, permet de prévoir les propriétés du fondamental. Nous avons également présenté des résultats numériques dans des situations où la méthode géométrique ne s'applique pas. Dans la dernière partie, nous nous sommes intéressés au lien entre le chaos et les spectres des noyaux obtenus avec des interactions réalistes.

La première moitié de ce mémoire est consacrée à la théorie KAM et au théorème d'Arnold sur la stabilité des systèmes planétaires. Ce travail a fait l'objet d'un article en préparation et d'une publication~:\footnote{ \url{http://people.math.jussieu.fr/~fejoz/articles.html}} -- ''Twisted conjugacies and invariant tori theorems''~\cite{Fejoz:2010a}. Je redémontre une forme normale de champs de vecteurs due à Moser~\cite{Moser:1967}, pour les perturbations de champs de vecteurs admettant un tore invariant quasi-périodique diophantien. Cette forme normale, que j'appelle une \emph{conjugaison tordue} est une porte d'entrée pour démontrer des théorèmes de tores invariants dus à Kolmogorov, Arnold, Rüssmann et Herman, ainsi que d'autres théorèmes, par exemple pour des champs de vecteurs dissipatifs. J'introduis une notion de \emph{conjugaison hypothétique}, comme un intermédiaire commun aux théorèmes de tores invariants avec une condition de non-dégénérescence faible, améliore certaines estimations sur la dépendance fonctionnelle de la forme normale, et donne quelques applications nouvelles à la mécanique céleste. -- ''Démonstration du théorème d'Arnold sur la stabilité du système planétaire (d'après Herman)''~\cite{Fejoz:2004}. Cet article donne une démonstration du théorème d'Arnold pour $N$ planètes dans l'espace $\R^3$. La démonstration de~\cite{Fejoz:2010a} est une clarification et une amélioration de la partie abstraite de ~\cite{Fejoz:2004}. Arnold avait publié le résultat remarquable suivant~: dans le problème planétaire newtonien à $N$ planètes, si les masses des planètes sont assez petites, il existe dans l'espace des phases un sous-ensemble invariant de mesure de Lebesgue strictement positive, formé de tores invariants quasipériodiques de dimension $3N-1$~\cite{Arnold:1963}. La suggestion d'Arnold pour le démontrer en toute généralité était de fixer la direction du moment cinétique, pour se débarrasser de la dégénérescence due à l'invariance par rotation, puis d'appliquer sa version dégénérée du théorème de Kolmogorov pour trouver des tores lagrangiens invariants au voisinage de la singularité séculaire elliptique (mouvements képlériens elliptiques circulaires horizontaux). Cette stratégie de réduction partielle ne marche pas à cause d'une résonance mystérieuse, découverte par Herman, qui généralise à $N$ planètes une résonance déjà connue de Clairaut dans le problème de la lune. Cette résonance n'avait pas été remarquée dans le cas de $2$ planètes, où la réduction des noeuds de Jacobi permet de réduire complètement le problème par la symétrie de rotation, en coordonnées de Delaunay (je rappelle en appendice la définition de ces coordonnées, et propose une nouvelle démonstration de leur caractère symplectique). Ici, je démontre par récurrence sur le nombre de planètes, en suivant les idées d'Herman, que l'image locale de l'application fréquence (vue comme fonction des demi grands axes des planètes) est contenue dans un plan vectoriel de codimension deux, mais dans aucun plan vectoriel de codimension supérieure. Un argument de la théorie des intersections lagrangiennes permet alors d'appliquer un théorème de tores invariants qui ne requiert qu'une faible condition de non-dégénérescence. La seconde moitié de ce mémoire traite d'orbites périodiques et relativement périodiques (i.e. périodiques en repère tournant), dans le problème global des $N$ corps. Elle aussi est basée sur deux articles. -- ''The flow of the equal-mass spatial 3-body problem in the neighborhood of the equilateral relative equilibrium'' (avec A. Chenciner)~\cite{Chenciner:2008}. Nous démontrons qu'exactement deux familles de solutions relativement périodiques bifurquent de la solution d'équilibre relatif de Lagrange~: la famille homographique et la famille $\mathcal{P}_{12}$. De plus, en restriction à la variété centrale de dimension $4$ de l'équilibre relatif de Lagrange, la dynamique locale est une application twist d'un anneau de section, bordé par les deux familles. Un autre article montre que la famille $\mathcal{P}_{12}$ se termine, de l'autre côté, à la solution en Huit de Chenciner-Montgomery~\cite{Chenciner:2005a}. Entre ces deux extrémités, on sait que la famille $\mathcal{P}_{12}$ existe comme famille des minima de l'action lagrangienne parmi les lacets possédant sa classe de symétrie. Une telle famille pourrait a priori être non unique, ou discontinue, mais les expériences numériques ne laissent guère de doute (voir la figure dans la préface). -- ''Unchained polygons and the {$N$}-body problem'' (avec A. Chenciner)~\cite{Chenciner:2009}. L'équilibre relatif de Lagrange apparaît dans ce qui précède comme le centre organisateur du Huit. Nous montrons que le même phénomène se produit avec l'équilibre relatif du carré à quatre masses égales, qui apparaît comme centre organisateur de la famille du Hip-Hop. Plus généralement, beaucoup de classes de solutions récemment découvertes appartiennent aux familles de Lyapunov issues d'équilibres relatifs symétriques. Dans un repère tournant où elles deviennent périodiques, ces familles acquièrent des symétries remarquables. Nous étudions la possibilité de les prolonger globalement comme minima de l'action lagrangienne en un repère tournant, au sein de leur classe de symétrie. Une étape préliminaire est de déterminer les intervalles de la fréquence de rotation du repère sur lesquels un équilibre relatif est l'unique minimum absolu de l'action. Nous nous focalisons ensuite sur notre exemple principal, l'équilibre relatif du polygone régulier à $N$ sommets. L'existence locale de familles de Lyapunov verticales repose sur le fait que la restriction de la partie quadratique de l'énergie aux directions centrales est définie positive. Nous calculons les groupes de symétrie $G_{\frac rs}(N,k,\eta)$ des familles de Lyapunov verticales, et les utilisons pour prolonger les familles globalement. Les exemples paradigmatiques sont les familles de Huits pour un nombre impair de corps et les familles de Hip-Hops pour un nombre pair. Ce sont précisément les éléments de ces deux types de familles qui peuvent être des minima globaux. Dans les autres cas, des obstructions apparaissent, qui sont dues à des isomorphismes entre les groupes de symétrie de différentes famille~; c'est le cas des \emph{chaînes chorégraphiques}, dont les éléments sont seulement des minima locaux (sauf pour $N=3$). Une autre particularité intéressante de ces chaînes est le rôle décisif joué par la parité, en particulier à travers la valeur prise par le moment cinétique. Pour les familles de Lyapunov bifurquant d'un polygone à au plus $6$ sommets, nous vérifions en outre que la torsion locale est non dégénérée, ce qui justifie de prendre la rotation du repère comme paramètre. Cet article montre la fécondité des considérations de symétrie, comme technique de démonstration mais aussi comme guide heuristique dans la recherche de solutions remarquables. Le problème des $n$ corps, depuis longtemps à l'origine de nombreuses théories mathématiques, garde entier, de part la variété des techniques nécessaires à son étude, son pouvoir de fascination.

Nous étudions la formation et les propriétés des systèmes auto-gravitants à l'aide de simulations numériques à N corps d'effondrements gravitationnels. Nous effectuons dans un premier temps une synthèse des principaux résultats analytiques concernant les équations de Boltzmann sans collisions et de Poisson, qui modélisent les systèmes gravitationnels non collisionnels ainsi que certaines solutions analytiques de ce système couplé d'équations. Nous présentons ensuite les codes de calcul utilisés pour les simulations. Nous avons parallélisé certains de ces codes, nous introduisons donc le calcul parallèle et la bibliothèque d'échange de message MPI. Nous exposons enfin les résultats de nos simulations, et leurs analyses. Nous déduisons de ces analyses divers résultats pouvant expliquer différentes caractéristiques des systèmes auto-gravitants ainsi que les conditions initiales nécessaires au déclenchement des instabilités d'Antonov et d'orbites radiales.

Au cours de cette thèse, la physique des systèmes en interaction à été étudié expérimentalement à partir de gaz froids d'atomes de Rydberg. Les atomes de Rydberg sont des atomes dans un état fortement excités et ils ont la propriété d'interagir fortement du fait d'interactions électrostatiques à longue portée. Le premier résultat majeur de cette thèse est l'observation expérimentale d'un processus à quatre corps. Ce processus consiste en l'échange d'énergie interne entre quatre atomes de Rydberg induit par leurs interactions mutuelles. Il a été possible, en plus de son observation expérimentale, de décrire théoriquement ce processus, au niveau quantique. L'excitation par laser des gaz d'atomes de Rydberg en forte interaction a aussi été étudiée durant cette thèse. Cette situation donne lieu à de très intéressants comportements à N-corps. Ce sujet d'intérêt fondamental pourrait aussi amener à d'éventuelles applications pour la réalisation de simulateurs quantiques ou de sources de lumière non classiques. Un second résultat majeur de cette thèse est l'observation expérimentale d'une statistique fortement sub-poissonienne, i.e corrélée de l'excitation Rydberg. Ce résultat confirme le caractère à N-corps de tels systèmes. Le troisième résultat majeur de cette thèse est le développement d'un modèle théorique pour l'excitation par laser des gaz d'atomes de Rydberg en forte interaction. En utilisant les états quantiques dit états collectifs de Dicke, il a été possible de mettre au jour de nouveaux mécanismes liés au comportement à N-corps de ces sytèmes atomiques en forte interaction.

Le désordre joue un rôle fondamental dans de nombreux domaines de la physique, tels que la matière condensée, l'optique, l'acoustique ou la physique atomique. Il est responsable de nombre d'effets surprenants, tels que la localisation d'Anderson, certaines transitions métal-isolant et d'intriguantes phases vitreuses. La complexité inhérente aux systèmes désordonnés soulève des défis considérables à la pleine compréhension de ces phénômènes. Au cours des dernières années, le désordre s'est imposé comme un axe de recherche majeur dans le domaine des gaz quantiques ultrafroids. Ces derniers offrent de fascinantes perspectives pour mieux comprendre les effets du désordre dans les systèmes quantiques, grâce non seulement à un contrôle sans précédent de leurs paramètres mais aussi à leurs propriétés originales. Cette thèse d'Habilitation présente nos contributions récentes à la théorie des gaz quantiques désordonnés selon trois axes directeurs: - La localisation d'Anderson dans les gaz quantiques désordonnés; - Le désordre dans les gaz de Bose en interaction; - La simulation de modèles de Hubbard étendus et de modèles de spin avec des atomes ultrafroids. D'une part, nous proposons et analysons des expériences visant à réaliser des simulateurs quantiques afin d'étudier des questions ouvertes, d'importance fondamentale pour le domaine des systèmes désordonnés. A cet égard, nous montrons que les gaz quantiques offrent des perspectives prometteuses. D'autre part, nous réalisons des travaux amont qui mettent notamment en avant les propriétés originales des gaz quantiques. Ces derniers permettent ainsi de jeter un regard nouveau sur des problèmes d'intérêt général dans le domaine des systèmes désordonnés.