Les études et développement menés dans ce travail de thèse ont porté sur divers aspects du traitement de l'évolution réaliste des états de mer, notamment sur les spécificités d'une approche déterministe non-linéaire, sur la prise en compte d'un forçage par le vent et de la dissipation dans une approche à phase résolue, et sur un développement à but opérationnel des techniques de modélisations réalistes. En parvenant à une meilleure modélisation des états de mer, ils visent à permettre une meilleure interprétation des images radar rétrodiffusées par la surface de la mer. Les applications concernent entre autres la caractérisation et la prévision court terme en temps réel des conditions de mer, ainsi que la détection de cibles marines. Un modèle numérique tridimensionnel basé sur une méthode High Order Spectral sert de support à l'étude des processus non-linéaires à l'œuvre en conditions océaniques. Une première partie de cette étude permet de mettre en lumière un ensemble de critères nécessaires à la bonne mise en œuvre de cette méthode. On met notamment plus particulièrement en évidence une problématique d'initialisation liée à un besoin de simulations de référence dès les premiers instants de modélisation. Une méthode d'initialisation non-linéaire est proposée et évaluée. La prise en compte d'un forçage par le vent et de dissipation par moutonnement est ensuite proposée. La paramétrisation du couplage rétroactif océan-atmosphère et de la dissipation, en pression, à l'œuvre dans les modèles stochastiques de prévision d'état de mer est adaptée à la formulation déterministe. Une formulation récente du couplage (Bidlot et al. (2005)) est testée et validée comparativement avec la modélisation stochastique usuelle issue du modèle WAVEWATCH3. L'approche déterministe est finalement capable de prendre efficacement en compte les termes de forçage et dissipation et permet des évolutions d'états de mer réalistes. Le problème de modélisation opérationnelle des états de mer, à moindre coût calcul mais avec une prise en compte suffisamment réaliste des spécificités océaniques est abordé. Une méthode numérique est proposée et testée comparativement à l'approche complètement non-linéaire de référence.