Les états de Rydberg circulaires possèdent des propriétés singulières dont l'étude théorique et expérimentale fait l'objet de ce mémoire. Dans une première partie, ces états sont décrits à la fois dans le cadre de la théorie semi classique et dans le point de vue habituel de la mécanique quantique. Il est fait largement appel dans cette partie aux symétries dynamiques de l'hydrogène, qui permettent de comprendre fondamentalement comment ces états peuvent être préparés et survivre en présence de champs extérieurs variés. Dans une seconde partie, sont décrites les expériences que nous avons réalisées sur les états circulaires du Lithium en vue d'une mesure très précise de la constante de Rydberg R. Il s'agit essentiellement de la démonstration d'une nouvelle méthode de préparation de ces états, dite "en champs croisés" et de la réalisation d'une spectroscopie micro-onde de transitions entre niveaux circulaires adjacents. Nous décrivons successivement des expériences où l'excitation est impulsionnelle puis continue, ce dernier mode de préparation présentant de multiples avantages pour la mesure de R. Dans la troisième partie, un calcul détaillé des fréquences de transition entre niveaux circulaires du lithium est présenté. Partant du modèle élémentaire de Bohr, l'effet des perturbations de plus en plus fines, tant internes qu'externes à l'atome est pris en compte et évalué avec une précison correspondant à onze chiffres significatifs. La hiérarchie des perturbations à prendre en compte est inhabituelle, puisque les effets externes des champs électriques ou magnétiques appliqués sont plus grands que les effets internes (magnétiques, relativistes, couplage de l'électron de valence au coeur atomique). Le résultat obtenu permet d'envisager la détermination très précise de R à partir du spectre micro-onde expérimental.

La constante de Rydberg $\ R_\infty = \alpha^2 m_{ e} c^2/2hc \$ est déduite d'une comparaison théorie - expérience très précise sur l'atome d'hydrogène. Les derniers calculs d'électrodynamique quantique menés de différentes façons donnent des résultats similaires validant ainsi l'exactitude des termes calculés. Les écarts entre niveaux de l'atome d'hydrogène sont maintenant très bien connus grâce aux mesures faites en unité de fréquence. Ainsi la constante de Rydberg fait partie des constantes fondamentales les mieux déterminées $\Delta R_\infty / R_\infty = 6.6 10^{-12}$. Cependant pour que la comparaison soit complète, il faut connaître indépendamment la valeur de la distribution de charge du proton. Ceci peut être réalisé via une expérience sur l'hydrogène muonique (dans cet atome exotique, l'électron est remplacé par un muon). Après une introduction sur la comparaison théorie - expérience pour l'atome d'hydrogène, les derniers développements de l'expérience sur l'hydrogène muonique sont présentés.<br /><br />La mesure du recul induit par un photon sur un atome de masse M conduit à une détermination pertinente de la constante de structure fine $\alpha$ en utilisant la constante de Rydberg, et les rapports des masses de l'électron, du proton, de l'atome considéré. Dans cet optique, nous avons développé une nouvelle expérience d'oscillations de Bloch avec des atomes de rubidium ultra-froids. Le principe de l'expérience est exposé brièvement tout en insistant sur l'originalité de notre approche. Les premiers résultats métrologiques obtenus très récemment sont présentés.

L'objet de cette thèse est une mesure absolue de la fréquence de la transition 1S-3S dans l'atome d'hydrogène, afin d'améliorer la connaissance de la constante de Rydberg et du déplacement de Lamb. Expérimentalement, un laser Ti :Sa continu à 820 nm est quadruplé en fréquence dans des cristaux de LBO et BBO. La transition à deux photons de 205 nm est réalisée dans une cavité optique colinéaire au jet atomique. L'effet Doppler du second ordre est compensé par l'action d'un champ magnétique statique. Un peigne de fréquences optiques sert à comparer directement la fréquence absolue du Ti :Sa à l'étalon primaire de fréquence. La détection de la fluorescence à 656 nm est assurée par une caméra CCD. L'ajustement des données expérimentales par les formes de raie calculées conduit à une valeur de l'effet Doppler du second ordre incompatible avec les prévisions approximatives de la fréquence absolue 1S-3S, suggérant l'existence d'un effet systématique tel qu'un champ électrique parasite.

La premiere partie du manuscript concerne l'etude des performances metrologiques d'un etalon secondaire de frequence utilisant les transitions a deux photons du rubidium. La mesure de la frequence absolue de cet etalon est decrite ainsi que ses applications a la spectroscopie de l'hydrogene atomique. La seconde partie concerne le calcul tres precis des niveaux d'energie et des fonctions d'onde de l'ion moeculaire H2+, ainsi que des resonances des especes exotiques ou l'electron est remplace par un muon ou un pion. A partir des fonctions d'onde, les probabilites de transition a deux photons entre niveaux vibrationnels de H2+ sont calculees. Un nouveau shema experimental pour deduire le rapport de la masse du proton a celle de l'electron par spectroscopie de H2+ est propose et discute. Enfin, une nouvelle methode de calcul du probleme coulombien a trois corps en deux dimensions est proposee et appliquee a l'helium.