L'objet de cette thèse est l'étude de plusieurs applications des processus de mélange à quatre ondes induits dans les vapeurs atomiques. Dans la première partie, les notions de base de l'optique non-linéaire dans les milieux de Kerr sont rappelés. Dans la seconde partie, nous étudions les propriétés des oscillateurs à mélange à quatre ondes en anneau dont le milieu amplificateur est constitué d'une vapeur de sodium soumise à deux ondes pompes ne circulant pas dans la cavité. Les applications de ces oscillateurs comme senseur de rotation et comme générateur de faisceaux jumeaux sont démontrées, les principes de ces deux notions étant rappelées dans leur grande ligne. Dans la troisième partie, nous présentons plusieurs résultats sur le mélange à quatre ondes lorsque les ondes incidentes ont des polarisations linéaires orthogonales. Cette géométrie nous a permis d'observer un processus de mélange à deux ondes, et de réaliser un miroir à contraste de phase et un miroir auto-pompé. Les résultats obtenus expérimentalement dans les vapeurs de rubidium et de sodium sont en accord avec un modèle théorique basé sur les équations du pompage optique, ce modèle permettant d'interpréter sous forme d'activité optique les fortes non-linéarités observées.

Le gyrolaser est un capteur de rotation utilisé dans la plupart des centrales de navigation inertielle. Dans sa forme usuelle, il est constitué d'une cavité laser en anneau remplie d'un mélange d'hélium et de néon pompé par des électrodes à haute tension. L'utilisation d'un milieu amplificateur gazeux, si elle permet de garantir naturellement le fonctionnement bidirectionnel stable nécessaire à la mesure des rotations, constitue en revanche la principale limitation industrielle des gyrolasers actuels en termes de coût, fiabilité et durée de vie. On étudie dans ce mémoire la possibilité de substituer au milieu à gain gazeux un milieu solide (Nd-YAG pompé diode). On présente pour cela une étude théorique et expérimentale des différents régimes de fonctionnement du laser en anneau à état solide. On montre que la stabilité du régime bidirectionnel peut être garantie par une boucle de contre-réaction agissant sur les états de polarisation pour créer des pertes différentielles proportionnelles à la différence d'intensité entre les modes contrarotatifs. Cette technique permet l'obtention d'un gyrolaser à état solide, dont la réponse en fréquence est perturbée par les couplages entre modes. Plusieurs solutions, optiques et mécaniques, destinées à améliorer la qualité de cette réponse en fréquence sont successivement étudiées. On se pose enfin la question d'un possible équivalent atomique du gyrolaser, en soulignant les analogies qui existent entre la physique du gyrolaser à état solide et celle de certains dispositifs à onde de matière. Un modèle original de description unidimensionnelle d'un condensat de Bose-Einstein dans un piège torique en rotation dans le cas d'un fort confinement transverse est présenté. Quelques applications possibles de ce modèle théorique sont finalement discutées. Ces travaux ont donné lieu au dépôt de 9 brevets en France et à l'étranger, ainsi qu'à plusieurs publications scientifiques, dont une dans la revue Physical Review Letters. Ils ont également débouché sur la réalisation d'un prototype industriel de gyrolaser à état solide, actuellement en cours d'étude et de caractérisation par la division Thales Aerospace. Enfin, ils ont été couronnés par le Prix de Thèse de l'École Polytechnique 2007 et par le Prix de l'Innovation Technologique Air et Espace 2007.