La génération de seconde harmonique magnétique (mSHG pour magnetic Second Harmonic Generation) est un phénomène physique très sensible apparaissant grâce aux brisures de symétrie aux niveaux des surfaces et interfaces des structures métalliques magnétiques. Elle constitue donc un outil puissant pour explorer ce type d'interfaces et des nanostructures. Dans ce travail, nous nous intéressons aux couplages et interactions entre la mSHG et les ondes électromagnétiques pouvant se propager en surface des matériaux. Un intérêt spécifique est porté sur l’ excitation de (i) plasmon polaritons de surfaces (SPP) dans des films métalliques en structures multicouches, (ii) d'anomalies de diffraction (dîtes de Wood) dans des nanostructures métalliques périodiques. Pour étudier l'influence de l'excitation linéaire et non-linéaire des SPP sur la mSHG, l'intensité du signal réfléchi par génération de seconde harmonique (SH) et le contraste magnétique lié à ce signal ont été mesurés par la technique de l'effet Kerr magnéto-optique transverse (MOKE) en fonction de l'angle d'incidence. Via l'utilisation de sources lasers femtosecondes émettant dans le proche infrarouge, domaine spectral où les variations de la dispersion des SPP et du coefficient d'amortissement sont significatives, nous avons pu distinguer les différentes contributions linéaires et non-linéaires aux processus d'excitation. Ce travail de thèse a ainsi permis de montrer que l’accord de phase entre la mSHG et les ondes électromagnétiques de surface peuvent contribuer très efficacement à l'augmentation des signaux SH et de contraste magnétique associé. / Owing to surface and interface sensitivity, the magnetic Second Harmonic Generation (mSHG) represents a useful tool to probe magnetic interfaces and nanostructures. This work investigates the coupling and interaction of the mSHG with electromagnetic waves propagating along the surface. Two types of surface waves have been studied: (i) surface plasmon polaritons (SPP) at surfaces of metallic thin films and multilayers, and (ii) the diffraction anomaly at the surface of periodically arranged metallic nanostructures. To study influence of linear and nonlinear excitation of surface waves on the mSHG, the reflected second harmonic (SH) intensity and the magnetic SH contrast in the transverse magneto-optical geometry were measured as a function of the angle of incidence. The use of different femtosecond light sources in the near-infrared optical range, where the SPP dispersion and damping exhibit significant variations, made it possible to disentangle linear and nonlinear contributions to the excitation of surface waves. In this thesis, it is proven that phase-matching of the mSHG and surface electromagnetic waves can lead to the enhancement of both the SH yield and the nonlinear magneto-optical signal. These results are important for controlling of the nonlinear magneto-optical response and could impact the development of magnetic storage devices, label-free biosensors and nonlinear magneto-optical switches.