Une étude expérimentale est menée afin de comprendre le phénomène de nucléation lors de l'ébullition. Cette étude est menée sur des surfaces polies miroir ou ultra-polies en aluminium, l’acétone étant le fluide de travail. L'analyse est réalisée en fonction de la topographie de la surface liée au degré de polissage et en fonction du revêtement de la surface dans le but de modifier sa mouillabilité. L’étude a mis en avant trois catégories de comportement, fonctions de l’état de surface : les surfaces nano lisses, les surfaces nano lisses avec défauts et les surfaces rugueuses. Les bonnes caractéristiques obtenues avec des échantillons nano lisses comportant des défauts aléatoirement répartis ont conduit à la réalisation d’échantillons nano lisses avec des défauts de position et de taille contrôlés. Les résultats obtenus avec ces derniers échantillons présentent les meilleures performances. Une amélioration supérieure à un facteur deux par rapport aux surfaces rugueuses est observée, ce qui représente un gain substantiel. Bien qu’il soit le fondement de la plupart des modèles théoriques, le nucléus à l’origine de la formation d’une bulle n’a jamais été observé expérimentalement car sa taille dépasse la capacité des moyens de mesure traditionnels. Dans ce mémoire, une méthode optique - basée sur la résonnance de plasmons sur des surfaces comportant un réseau de diffraction - est utilisée dans le but d’étudier ce phénomène. Les expériences mettent en évidence la capacité de cette méthode à mesurer la variation de la température pariétale de l’échantillon avant le déclenchement de l’ébullition. Les mesures de résonance plasmon montrent qu’il n’y a pas de modification de la densité du fluide au voisinage de la paroi pour des surchauffes proches du déclenchement de l’ébullition. La nucléation est trop rapide pour être mesurée. Cependant, des premiers nuclei de condensation ont été détectés par cette méthode, ce qui constitue un résultat très prometteur. / An experimental study was conducted in order to understand the phenomenon of nucleation in boiling. This study was done on smooth surface or ultra-smooth surface made of aluminum, the working fluid is acetone. The analysis was realized as a function of the topography of the sample, roughness level, and as a function of nanocoating of the surface in order to modify the wettability. The study classed the sample in three categories, depending on the surface condition: the ultra-smooth surface, the ultra-smooth surface with defect and the rough surface. The good characteristics were obtained for the ultra-smooth sample with randomly distributed defects led to the fabrication of ultra-smooth sample with controlled artificial cavity. The results obtained with these latter samples present the best performances. A two-fold improvement over rough surfaces is observed, representing a substantial gain. Although it is the foundation of most theoretical models, the nucleus at the origin of the formation of a bubble has never been observed experimentally because its size exceeds the capacity of the traditional means of measurement. In this memory, an optical method - based on the resonance of plasmons on surfaces with a diffraction grating - is used to study this phenomenon. The experiments demonstrate the ability of this method to measure the temperature variation in the wall of the sample before boiling. Plasmon resonance measurements show that there is no change in the density of the fluid near the wall for overheating close to the boiling point. The nucleation is too fast to be measured. However, first nuclei of condensation were detected by this method, which is a very promising result.