La diffraction des ondes électromagnétiques par des surfaces rugueuses intéresse de nombreux domaines comme l'Optique, la furtivité, la compatibilité électromagnétique ou bien encore la télédétection. La modélisation de ce phénomène peut se faire soit à l'aide de théories rigoureuses basées sur la résolution des équations de Maxwell, soit avec des théories approchées. Actuellement, le problème tridimensionnel de la diffusion des ondes électromagnétiques par des surfaces rugueuses éclairées sous incidence rasante ne peut pas être résolu de manière satisfaisante par les méthodes rigoureuses. Ces méthodes ne peuvent donc pas être utilisées pour estimer la validité des méthodes approchées pour ce type d'incidence. Afin de résoudre ce problème, de nouvelles équations intégrales de frontière ont été développées. A l'aide du théorème d'extinction et du théorème de réciprocité, le comportement du champ diffracté pour les angles rasants a pu être déterminé. A partir de ces résultats, l'amplitude diffractée a été reformulée afin d'obtenir explicitement le bon comportement du champ pour de tels angles. Une technique de résolution numérique de l'équation intégrale obtenue a été mise en oeuvre pour des surfaces rugueuses infiniment conductrices en polarisation Horizontale. La validation a été menée par comparaison avec des résultats issus du formalisme intégral classique, pour des angles d'incidence raisonnables. La pertinence de quelques méthodes approchées pour des incidences rasantes a été étudiée. Le problème de diffraction par la surface de la mer ne pouvant être résolu de manière rigoureuse pour des vents supérieurs à 4m/s, l'étude s'est portée sur les modèles à deux échelles et les fonctions d'ombrage. Nous montrons que ces dernières ne sont pas adaptées à la surface océanique. Enfin, en comparant un modèle à deux échelles, combinant l'Optique géométrique et l'approximation des faibles pentes, aux données expérimentales de Nathanson, nous avons montré que les phénomènes hydrodynamiques comme le déferlement augmentent de manière significative l'énergie rétro-diffusée dans les angles rasants.