Dans ce manuscrit nous présentons une expérience de mesure optique ultrasensible des vibrations mécaniques d'un micro-miroir dans une cavité Fabry-Perot de grande finesse. Le micro-miroir est constitué d'un résonateur de taille micrométrique en silicium, de fréquence de résonance de l'ordre du mégahertz, sur lequel est déposé un traitement optique de haute réflectivité. La sensibilité très élevée des mesures interférométriques est en principe suffisante pour observer les fluctuations quantiques de point zéro du résonateur. Pour atteindre le régime où l'énergie d'agitation thermique du micro-résonateur devient négligeable devant celle de l'état quantique fondamental, sa température doit être inférieure à 30 microKelvin. Afin d'approcher cette température, nous avons utilisé à la fois des méthodes cryogéniques traditionnelles et une technique de refroidissement laser basée sur les effets dynamiques de la pression de radiation dans une cavité désaccordée. Nous avons ainsi étudié la possibilité de combiner mesures optiques de haute sensibilité et cryogénie en plaçant le micro-résonateur et la cavité dans un cryostat à circulation d'hélium liquide. Nous avons mesuré le spectre de bruit thermique à température cryogénique et réalisé un refroidissement par pression de radiation du micro-résonateur. Nous avons également étudié un nouveau mécanisme de couplage optomécanique à trois modes, à bandes latérales résolues, plus efficace pour refroidir un micro-résonateur. Nous avons mis en évidence à la fois un effet de réduction et d'augmentation de la température effective du micro-miroir selon le couplage des modes optiques. Cette technique permet également d'étudier le phénomène des instabilités paramétriques pouvant apparaître dans les interféromètres gravitationnels de seconde génération.