Nous étudions les possibilités qu'offre une cavité à miroir mobile pour mesurer de très petits déplacements. L'utilisation d'une cavité optique de grande finesse permet d'observer le bruit thermique des miroirs, qui constitue une limitation importante des mesures de très grande sensibilité. Le miroir est également susceptible de se déplacer sous l'effet des fluctuations quantiques de la pression de radiation, ce qui mène à une Limite Quantique Standard dans une mesure de position. Nous présentons les résultats obtenus dans notre expérience, où un faisceau laser est envoyé dans une cavité à une seule entrée-sortie, dont le miroir arrière est déposé sur un résonateur mécanique. Nous avons observé le mouvement Brownien de ce miroir avec une très grande sensibilité (2,75 x 10^-19 m/√Hz). Nous avons également étudié la possibilité de refroidir le miroir à l'aide de la pression de radiation d'un second faisceau modulé en intensité. Au voisinage de la résonance mécanique. on applique une force visqueuse supplémentaire sans bruit additionnel (friction froide). Nous avons observé une réduction du bruit thermique aussi bien à la fréquence de résonance mécanique qu'à basse fréquence. Une application potentielle d'un tel processus de refroidissement aux interféromètres gravitationnels est discutée.

Les fluctuations sont présentes dans toute mesure et elles en limitent la sensibilité ultime. Ceci est vrai en particulier pour les fluctuations de nature fondamentale qui correspondent au bruit thermique et au bruit quantique. Un premier objectif de cette thèse a été le développement d'une méthode générale qui permette le traitement de ces fluctuations dans des systèmes de mesure comportant des éléments passifs et des éléments actifs remplissant des fonctions d'amplification ou de contre-réaction. Cette méthode, basée d'une part sur la théorie des réseaux, d'autre part sur le formalisme quantique de la matrice S, s'applique aux systèmes linéaires et, plus généralement, aux systèmes linéarisables autour du point de fonctionnement. Elle peut prendre en compte toutes les sources de bruit et décrit donc la non-idéalité de la mesure. Son caractère modulaire se prête bien au traitement des systèmes complexes. Un deuxième objectif a été l'étude des effets des fluctuations quantiques et thermiques sur la sensibilité des mesures électromécaniques. Le bruit dans ces systèmes, habituellement dominé par les fluctuations thermiques, s'est rapproché du niveau quantique, sous la pression des expériences nécessitant de très hautes sensibilités (détection des ondes gravitationnelles, test du principe d'équivalence dans l'espace) et grâce aux développements technologiques dans le domaine cryogénique. La méthode développée dans cette thèse fournit un cadre théorique consistent pour traiter fluctuations quantiques et thermiques dans ces systèmes. Des résultats précis ont été obtenus pour un accéléromètre conçu par l'ONERA pour des expériences de physique fondamentale dans l'espace et qui présente la particularité d'utiliser un mécanisme de friction froide. Ces résultats permettent d'estimer les limites ultimes de sensibilité d'un tel instrument.

Nous présentons une expérience de mesure optique ultrasensible de petits déplacements d'un miroir placé dans une cavité Fabry-Perot de grande finesse, avec une sensibilité au niveau de l'attomètre. <br />Nous avons mesuré le bruit thermique du miroir et suivi son évolution temporelle dans l'espace des phases. Nous avons refroidi le miroir en exerçant une force de friction froide et obtenu une compression du bruit thermique dans l'espace des phases. <br />Une étude spatiale des modes acoustiques internes a été réalisée pour différentes géométries du miroir, en balayant une force de pression de radiation sur la surface du miroir. Les résultats valident les modèles théoriques utilisés pour les interféromètres gravitationnels et permet de définir une géométrie favorable à la démonstration des effets quantiques du couplage optomécanique. <br />Nous présentons également une étude théorique des bruits thermiques et quantiques dans un nouveau type d'antenne gravitationnelle, constituée de deux sphères imbriquées.

On présente une expérience de mesure optique ultrasensible des vibrations mécaniques d'un micro-miroir inséré dans une cavité Fabry-Perot de grande finesse. Le micro-miroir est constitué d'un traitement optique présentant peu de pertes déposé à la surface d'un résonateur de taille sub-millimétrique en silicium. On a mesuré le bruit thermique du résonateur sur une large plage de fréquences et déterminé les caractéristiques de ses modes propres de vibration: fréquence, facteur de qualité, masse effective, structure spatiale. Ces modes ont des fréquences de résonance élevées (1 MHz) et des faibles masses effectives (100 µg). On a appliqué une force électrostatique sur le micro-résonateur, ce qui a permis de tester sa réponse mécanique et de le refroidir par contrôle actif en mettant en oeuvre un processus de friction froide.<br /><br />On a également mis en évidence un effet d'auto-refroidissement dû à la modification de la dynamique par la pression de radiation dans une cavité désaccordée. On a observé selon le désaccord un refroidissement et un chauffage du résonateur, qui conduit à forte puissance à une instabilité dynamique.<br /><br />Ces techniques de refroidissement combinées à de la cryogénie passive devraient permettre de refroidir suffisamment le micro-résonateur pour observer son état quantique fondamental.<br /><br />On présente enfin une étude expérimentale de l'effet photothermique et une mesure des dilatations induites par l'échauffement lié à l'absorption de lumière dans les traitements optiques.