En dimension trois, les états propres d'une particule quantique soumise à un potentiel désordonné présentent une transition, appelée transition d'Anderson, entre un régime délocalisé à faible désordre et un régime localisé à fort désordre. Cette localisation étant due aux interférences, elle est facilement perturbée par des effets de décohérence ou d'interaction entre particules, et est donc délicate à observer. Dans ce mémoire, nous rapportons nos travaux théoriques ayant permis la première observation expérimentale de la transition d'Anderson avec des ondes de matière atomiques.<br /><br />Un nuage d'atomes froids soumis à une onde stationnaire pulsée de façon quasi-périodique réalise une variante du Kicked Rotor (paradigme du chaos quantique) analogue à un modèle d'Anderson 3D. Cependant, la limite thermodynamique n'est pas accessible expérimentalement. Interprétant ces contraintes comme similaires à des effets de taille finie, nous construisons une méthode de ``finite-time scaling'' permettant de caractériser la transition expérimentalement, de donner la première détermination expérimentale non-ambigüe de l'exposant critique $\nu$ de la transition, et de confirmer que le Kicked Rotor quasi-périodique appartient à la même classe d'universalité que le modèle d'Anderson. À partir de la théorie auto-cohérente de la localisation, nous calculons l'état critique du système, prédiction trouvée en très bon accord avec les données expérimentales et numériques.

En physique du solide, l'étude des effets du désordre a mené à la découverte d'une transition de phase. A faible désordre le solide est conducteur. A fort désordre ce dernier devient isolant. Cette dernière porte le nom de "transition d'Anderson" ou encore de "transition métal-isolant". Elle peut être caractérisée par un exposant critique . Il est prédit théoriquement que sa valeur est universelle, autrement dit, qu'elle n'est pas dépendante des détails microscopiques caractérisant le désordre, mais seulement des symétries satisfaites par le hamiltonien. La réalisation expérimentale d'un tel système est délicate. Des effets de décohérence trop nombreux viennent fausser la mesure de l'exposant critique. Pour contourner ces difficultés, nous réalisons un rotateur frappé avec des atomes froids. La dynamique quantique de ce système est connue pour être la même que celle de l'électron dans un potentiel désordonné. Nous testons alors différents jeux de paramètres régissant le désordre microscopique, et montrons que l'exposant critique en est indépendant. Ainsi nous prouvons expérimentalement l'universalité de la transition, ainsi que son appartenance à une classe d'universalité : l'ensemble gaussien orthogonal. Nous détaillons par ailleurs un changement de taille dans le dispositif : la réalisation d'une onde stationnaire vertical et d'une détection vélocimétrique par temps de vol.

En utilisant des atomes refroidis par laser placés dans une onde stationnaire pulsée nous réalisons expérimentalement un système quantique présentant une dynamique chaotique à la limite classique appelé « kicked rotor ». Le kicked rotor est le paradigme de l'étude du chaos quantique. Un tel système présente un phénomène de « localisation dynamique » correspondant à la suppression de la diffusion ergodique par des interférences quantiques. Après un temps caractéristique, la distribution en impulsion est gelée à un état stationnaire et son énergie cinétique atteint une valeur asymptotique.<br />Le forçage périodique du kicked rotor est une condition nécessaire à l'apparition de la localisation dynamique. Dans ce cas, on montre que la localisation dynamique est équivalente à un modèle d'Anderson à une dimension pour les solides désordonnés. De nombreuses études numériques ont étudié l'analogie avec le modèle d'Anderson à deux et trois dimensions lorsque le forçage comporte deux et trois fréquences. Nous proposons une étude expérimentale de la destruction de la localisation dynamique par un forçage à deux fréquences en introduisant progressivement une seconde fréquence dans le forçage. Celle-ci révèle l'existence d'une loi d'échelle quantique concernant la délocalisation. Pour le modèle avec forçage à trois fréquences correspondant au modèle d'Anderson à trois dimensions les expériences montrent l'existence d'une transition de phase entre un état localisé et un état délocalisé.

En présence de désordre, la diffusion des particules peut être complètement annihilée, don- nant lieu à la fameuse localisation d'Anderson. En dimension trois, une transition de phase sépare une telle phase isolante du régime diffusif. À partir de différentes approches théo- riques et numériques, cette thèse a pour objectif de déterminer l'effet des interactions entre particules sur la localisation d'Anderson et sur la transition d'Anderson, dans le contexte expérimental des condensats de Bose-Einstein. Dans le cas unidimensionnel, la compétition entre désordre et interaction induit l'existence de trois régimes dynamiques dont les caracté- ristiques sont étudiées grâce à une approche spectrale. En nous appuyant sur le modèle du rotateur frappé quasi-périodique, nous caractérisons l'émergence du régime sub-diffusif qui tend à remplacer le régime localisé dans le cas tridimensionnel. Nous étudions également la dynamique des excitations du système et démontrons l'universalité de la transition d'An- derson vis-à-vis des quasi-particules de Bogoliubov. Dans l'objectif d'étudier la validité de l'équation de Gross-Pitaevskii, nous nous sommes enfin intéressés à une nouvelle approche, la méthode de la troncature d'Husimi. Celle-ci nous permet d'envisager une étude de la compétition entre désordre et interaction enrichie par la prise en compte du bruit quantique.