La diffraction des ondes électromagnétiques par des surfaces rugueuses intéresse de nombreux domaines comme l'Optique, la furtivité, la compatibilité électromagnétique ou bien encore la télédétection. La modélisation de ce phénomène peut se faire soit à l'aide de théories rigoureuses basées sur la résolution des équations de Maxwell, soit avec des théories approchées. Actuellement, le problème tridimensionnel de la diffusion des ondes électromagnétiques par des surfaces rugueuses éclairées sous incidence rasante ne peut pas être résolu de manière satisfaisante par les méthodes rigoureuses. Ces méthodes ne peuvent donc pas être utilisées pour estimer la validité des méthodes approchées pour ce type d'incidence. Afin de résoudre ce problème, de nouvelles équations intégrales de frontière ont été développées. A l'aide du théorème d'extinction et du théorème de réciprocité, le comportement du champ diffracté pour les angles rasants a pu être déterminé. A partir de ces résultats, l'amplitude diffractée a été reformulée afin d'obtenir explicitement le bon comportement du champ pour de tels angles. Une technique de résolution numérique de l'équation intégrale obtenue a été mise en oeuvre pour des surfaces rugueuses infiniment conductrices en polarisation Horizontale. La validation a été menée par comparaison avec des résultats issus du formalisme intégral classique, pour des angles d'incidence raisonnables. La pertinence de quelques méthodes approchées pour des incidences rasantes a été étudiée. Le problème de diffraction par la surface de la mer ne pouvant être résolu de manière rigoureuse pour des vents supérieurs à 4m/s, l'étude s'est portée sur les modèles à deux échelles et les fonctions d'ombrage. Nous montrons que ces dernières ne sont pas adaptées à la surface océanique. Enfin, en comparant un modèle à deux échelles, combinant l'Optique géométrique et l'approximation des faibles pentes, aux données expérimentales de Nathanson, nous avons montré que les phénomènes hydrodynamiques comme le déferlement augmentent de manière significative l'énergie rétro-diffusée dans les angles rasants.

La profilométrie optique est une technique de métrologie de surface rapide et non destructive. Dans ce mémoire, nous avons abordé cette problématique par des méthodes inverses de diffraction électromagnétique et dans une configuration de type Microscopie Tomographique Optique par Diffraction (ODTM). La surface est sondée par un éclairement sous plusieurs angles d'incidences ; la mesure en amplitude et en phase du champ lointain diffracté constitue les données du problème. Des profils de surfaces ont été reconstruits en considérant différents modèles de diffraction, parmi lesquelles une méthode approchée fondée sur les approximations de diffusion simple et de paraxialité. La résolution latérale de cette méthode et des techniques classiques de profilométrie est limitée par le critère d'Abbe-Rayleigh, défini sur la base de l'ouverture numérique pour l'éclairement et la détection du champ. Afin de dépasser cette limite de résolution, nous avons développé une méthode itérative de Newton-Kantorovitch régularisée. L'opérateur de diffraction y est rigoureusement modélisé par une méthode des moments, résolution numérique des équations du formalisme intégral de frontière, et l'expression de la dérivée de Fréchet de cet opérateur est obtenue par la méthode des états adjoints, à partir du théorème de réciprocité. Pour les surfaces unidimensionnelles métalliques, notre technique permet d'inverser à partir de données synthétiques des surfaces très rugueuses avec une résolution au delà du critère d'Abbe-Rayleigh. / Optical profilometry is a nondestructive and fast noncontact surface metrology technique. In this thesis, we have tackled this issue with inverse scattering electromagnetic methods and in an Optical Digital Tomographic Microscopy (ODTM) configuration. The surface is probed with illuminations under several incidence angles; the measure of far scattered field amplitude and phase constitutes the problem data. Surface profiles have been reconstructed using different scattering models among which an approximate theory based on single scattering and paraxiality. The lateral resolution of this technique and classical profilometric approaches is limited by the so-called Abbe-Rayleigh's criterion defined out of the numerical aperture for illumination and field detection. In order to overpass this resolution limit, we have developed a regularized iterative Newton-Kantorovitch's method. The scattering operator is rigorously modelized with the method of moments, that is a numerical solution of boundary integral equations, and its Fréchet derivative adjoint states expression is deduced from the reciprocity theorem. For one-dimensional metallic surfaces, our method succeeds in inverting from synthetic data very rough surfaces with the resolutions beyond the Abbe-Rayleigh's criterion. The performance of this technique and inversion conditions clearly differ from one polarization to the other : in the TM case, interactions at longer distance than in the TE case improve yet the resolution. This work includes also an experimental validation of our inverse model on grooves in indium phosphure substrate at 633 nm.