Les modèles numériques d'état de mer décrivent l'évolution du spectre d'énergie de l'état de mer sous l'action conjointe de plusieurs processus physiques qui apportent, dissipent ou transfèrent de l'énergie. Une meilleure prise en compte des interactions non-linéaires entre quadruplets de fréquences de vagues est essentielle à l'amélioration des modèles d'état de mer. Sur la base d'une approche proposée par Lavrenov (2001), nous avons développé et optimisé une méthode de calcul quasi-exacte des interactions non-linéaires vague-vague en grande profondeur d'eau. Cette approche, nommée GQM (" Gaussian Quadrature Method "), est basée sur l'utilisation de quadratures de Gauss, et permet d'obtenir des estimations très précises du terme de transfert non-linéaire à des coûts de calcul raisonnables. A l'aide de cette méthode, nous nous sommes d'abord intéressés à la modélisation de l'évolution temporelle du spectre des vagues dans un cas homogène et sans forçage. Dans un second temps, l'introduction de différents termes de forçage par le vent et de dissipation par moutonnement nous a permis de montrer la sensibilité du spectre des vagues aux modèles choisis. Des situations plus proches de la réalité mais conservant une géométrie simple (fetch limité, fetch oblique) ont ensuite été modélisées en prenant en compte la propagation spatiale des vagues. Nous avons notamment comparé les résultats du modèle à des mesures issues de la campagne SHOWEX de 1999 (Duck, NC, USA). Les travaux effectués confirment d'une part la nécessité de modéliser de façon précise les interactions nonlinéaires dans les modèles spectraux d'états de mer et montrent d'autre part la faisabilité de ces améliorations grâce à la méthode GQM et l'algorithme de calcul mis au point au cours de la thèse.