À l'approche d'un point critique, la divergence de la longueur de corrélation des fluctuations peut être tronquée par le confinement du système. Cette troncature engendre des effets de taille finie présentant des caractères universels au sein d'un classe de transitions de phases.Nous nous sommes intéressés particulièrement à la classe d'universalité du modèle d'Ising, regroupant notamment les transitions de phase ferro/paramagnétique pour les systèmes magnétiques uniaxiaux, la transition liquide/gaz et encore la démixtion de mélanges binaires. Nous présentons tout d'abord une introduction aux phénomènes critiques, à l'universalité, au « finite-size scaling » et aux simulations Monte Carlo du modèle d'Ising, sur lesquelles se fondent la majeur partie de ce travail.Un effet de taille finie ayant attiré une grande attention durant les dernières dizaines d'années est la force de Casimir critique. Les travaux théoriques et numériques concernant cette force ont, dans leur quasi totalité, été menés dans des systèmes magnétiques modèles, tel que les modèles d'Ising ou XY. Par contre, les approches expérimentales ont toutes été réalisées dans des systèmes fluides, tels que des mélanges binaires ou de l'hélium IV proche de la transition superfluide.Une motivation de ce travail a été de chercher a résoudre cette situation paradoxale en proposant, d'une part, un protocole expérimental pour la mesure de la force de Casimir dans une couche mince magnétique et, d'autre part, une approche numérique dans un mélange binaire de type Lennard-Jones. Cette dernière approche présente l'avantage d'ouvrir la porte à des études des fluctuations de la force de Casimir ou encore hors-équilibre. / Approaching a critical point, the divergence of the correlation length of fluctuations can be cut-off by a confinement of the system. This truncation fosters finite size effects with universal features in a class of continuous phase transitions. We are particularly interested in the Ising universality class, regrouping transitions such as the ferromagnetic/paramagnetic transition for uniaxial magnetic systems, the liquid/gas tran- sition and the demixing of binary mixtures. We will first present an introduction to critical phenomena, universality, finite-size scaling and Monte Carlo simulations of the Ising model, on which a major part of this work relies.A finite size effect that has particularly drawn attention in the past decades is the critical Casimir force. On the one hand, theoretical and numerical works on the subject have almost systematically been performed in magnetic model systems, such as the Ising or XY models. On the other hand, experimental approaches were all realized in fluid systems, such as binary mixtures or helium IV close to the superfluid transition.A motivation of this work was to bridge this gap by proposing, firstly, an experimental protocol for measuring the critical Casimir force in a magnetic layer and, secondly, a numerical approach in a Lennard-Jones binary mixture. The latter is of particular interest as it could lead the way to studying fluctuations of the Casimir force or out-of-equilibrium phenomena.