Les transitions de phase près d'un point critique - dites du second ordre - sont un sujet toujours d'actualité en raison des nombreux phénomènes critiques intéressants tels que la force de Casimir critique, les problèmes de confinements ou les phénomènes hors d'équilibre suivant une trempe au point critique. Cette thèse vise à étudier expérimentalement certains phénomènes engendrés près d'un point critique. La thèse est divisée en deux axes : le premier consiste à développer plusieurs systèmes expérimentaux qui permettront de mesurer essentiellement la viscosité, par l'intermédiaire des fluctuations thermiques à l'échelle micrométrique. Le deuxième axe consiste à trouver et caractériser des mélanges binaires présentant une transition de phase du second ordre dans lesquelles on souhaite faire des mesures. Les enjeux de ces systèmes expérimentaux sont d'avoir une régulation en température précise, une sonde de mesure sensible aux fluctuations thermiques et/ou à des forces de l'ordre du pN, et un échantillon fiable et reproductible présentant un point critique accessible expérimentalement. Nous avons ainsi monté à partir d'un microscope à force atomique (AFM) déjà présent au laboratoire, un système de mesure de viscosité à sonde AFM fibrée. Malgré sa faible efficacité en terme de sonde de mesure métrologique, nous avons pu décrire et développer un modèle de couplage de modes de vibration permettant de comprendre la mécanique de microleviers AFM fibrés. J'ai également développé au laboratoire la mesure de microscopie dynamique différentielle qui permet de faire des mesures à sondes multiples contrairement au premier montage. J'ai discuté de la précision de la mesure dans le cadre de notre objectif d'étude des fluctuations critiques. En ce qui concerne l'échantillon de mesure, nous avons étudié plusieurs mélanges binaires que nous avons caractérisés par des méthodes classiques de turbidité et diffusion statique de la lumière. Cette caractérisation nous a permis de connaître les mélanges binaires pour les utiliser dans un troisième système de mesure : billes micrométriques piégées dans des pinces optiques déjà monté au laboratoire. Nous y avons rajouté un système de régulation thermique fait maison pour être exploité avec les contraintes de la pince optique. Ces tests ont fait apparaître un phénomène inattendu d'oscillations de transition de phase induites par laser. Nous avons développé un modèle pour les décrire. Enfin, des expériences préliminaires - toujours avec les pinces optiques dans les mélanges binaires - nous ont permis d'observer qualitativement des effets de l'approche au point critique par des mesures de viscosité et d'interaction type force de Casimir critique. / Phase transitions near a critical point, or second order phase transitions, are still a recent object of studies because of the large amount of interesting critical phenomena as the critical Casimir force, confinements problems or out of equilibrium phenomena following a quench at the critical point. This thesis experimentally studies phenomena near a critical point. This manuscript is divided in two parts : the first one consists in building several experimental set-up which measure viscosity through thermal fluctuation at micrometric scale. The second part consists in finding and characterize binary mixtures which show a second order phase transition. Preliminary results have been done in these samples. One of the principal points of these experimental set-up are a well regulated temperature, a probe sensitive to thermal fluctuation and/or pN forces and a reproducible binary mixture which presents a critical point easy to reach experimentally. We mounted from an Atomic Force Microscope (AFM) already built in the laboratory, a hanging-fiber probe to measure viscosity of liquids. Despite its weak efficiency as a metrologic probe, we described and developed a mode coupling model which let us understand mechanics of hanging-fiber probes. I also developed in the lab the dynamic differential microscopy technique (DDM) which do measurements with several probes. I discussed about the measure precision with in mind the aim of studying critical fluctuations. For the choice of the sample, we studied several binary mixtures. We characterized them by classical methods as turbidity measurements and static light scattering. These characterizations let us learn about binary mixtures in order to use them in a third experimental set-up : beads trapped in an optical tweezers already built in the lab. We added to it a home-made thermal regulation which can be used with the constraints of optical tweezers. These tests showed an unexpected phenomenon of oscillating phase transition induce by laser. We developed a model to describe it. At last, preliminary experiments with optical tweezers in binary mixtures showed qualitative effects of an approach near a critical point on the viscosity and on interactions between beads as critical Casimir force.

À l'approche d'un point critique, la divergence de la longueur de corrélation des fluctuations peut être tronquée par le confinement du système. Cette troncature engendre des effets de taille finie présentant des caractères universels au sein d'un classe de transitions de phases.Nous nous sommes intéressés particulièrement à la classe d'universalité du modèle d'Ising, regroupant notamment les transitions de phase ferro/paramagnétique pour les systèmes magnétiques uniaxiaux, la transition liquide/gaz et encore la démixtion de mélanges binaires. Nous présentons tout d'abord une introduction aux phénomènes critiques, à l'universalité, au « finite-size scaling » et aux simulations Monte Carlo du modèle d'Ising, sur lesquelles se fondent la majeur partie de ce travail.Un effet de taille finie ayant attiré une grande attention durant les dernières dizaines d'années est la force de Casimir critique. Les travaux théoriques et numériques concernant cette force ont, dans leur quasi totalité, été menés dans des systèmes magnétiques modèles, tel que les modèles d'Ising ou XY. Par contre, les approches expérimentales ont toutes été réalisées dans des systèmes fluides, tels que des mélanges binaires ou de l'hélium IV proche de la transition superfluide.Une motivation de ce travail a été de chercher a résoudre cette situation paradoxale en proposant, d'une part, un protocole expérimental pour la mesure de la force de Casimir dans une couche mince magnétique et, d'autre part, une approche numérique dans un mélange binaire de type Lennard-Jones. Cette dernière approche présente l'avantage d'ouvrir la porte à des études des fluctuations de la force de Casimir ou encore hors-équilibre. / Approaching a critical point, the divergence of the correlation length of fluctuations can be cut-off by a confinement of the system. This truncation fosters finite size effects with universal features in a class of continuous phase transitions. We are particularly interested in the Ising universality class, regrouping transitions such as the ferromagnetic/paramagnetic transition for uniaxial magnetic systems, the liquid/gas tran- sition and the demixing of binary mixtures. We will first present an introduction to critical phenomena, universality, finite-size scaling and Monte Carlo simulations of the Ising model, on which a major part of this work relies.A finite size effect that has particularly drawn attention in the past decades is the critical Casimir force. On the one hand, theoretical and numerical works on the subject have almost systematically been performed in magnetic model systems, such as the Ising or XY models. On the other hand, experimental approaches were all realized in fluid systems, such as binary mixtures or helium IV close to the superfluid transition.A motivation of this work was to bridge this gap by proposing, firstly, an experimental protocol for measuring the critical Casimir force in a magnetic layer and, secondly, a numerical approach in a Lennard-Jones binary mixture. The latter is of particular interest as it could lead the way to studying fluctuations of the Casimir force or out-of-equilibrium phenomena.