La force de Casimir, du nom du physicien qui prédit en 1948 l'existence de cette force attractive dans la configuration idéale de deux miroirs parfaits, plans et parallèles, est d'origine purement quantique. Elle résulte de l'existence des fluctuations quantiques de point zéro du champ électromagnétique et joue un rôle prépondérant dans le fonctionnement des nanosystèmes mécaniques en cours de développement et qui pourraient dans les années futures révolutionner l'industrie de la microélectronique. Pourtant, les effets correctifs liés à la conductivité des surfaces ou à l'empilement diélectrique des couches commencent seulement à être étudiés. L'objet du travail expérimental développé durant cette thèse a été la réalisation d'un appareil de mesure de forces faibles entre deux surfaces de tailles micrométriques en vue de l'étude de la force de Casimir. Nous avons adapté la technique mise au point au cours de la thèse de G. Jourdan à un environnement cryogénique afin d'atteindre les sensibilités en force requises pour l'étude de surfaces complexes. Ce manuscrit décrit ce nouvel appareil et ses performances. Nous avons ainsi étudié l'amortissement visqueux de notre sonde de force (un microlevier AFM avec une sphère collée à son extrêmité) engendré par le confinement du fluide environnant. A 4 K, nous avons mis en évidence des effets opto-mécaniques induits par le bruit laser. Enfin, nos premiers tests entre deux surfaces d'or de faible rugosité nous ont amenés à lutter contre une force parasite. Nous avons déterminé l'origine de cette force et réussi à la contrer. La force de Casimir entre une sphère en or et un échantillon de silicium a alors pu être mesurée.