Cette thèse est consacrée à l’étude théorique ainsi qu’au traitement numérique de fluides incompressibles à surface libre. La première partie concerne un système d’équations appelé le système de Green–Naghdi. Comme le système de Saint-Venant, il s’agit d’une approximation d’eaux peu-profondes du problème de Zakharov. La différence est que le système de Green–Naghdi est d’un degré plus élevé en ordre d’approximation. C’est pourquoi il contient tous les termes du système de Saint-Venant plus de termes d’ordre trois non-linéairement dispersives. Autrement dit, le système de Green–Naghdi peut être vu comme une perturbation dispersive du système de Saint-Venant. Ce dernier système étant hyperbolique, il entre dans le cadre classique développé pour des systèmes hyperboliques. En particulier, il est entropique (au sense de Lax) et symétrique. On peut donc lui appliquer les résultats d’existence et d’unicité bien connus pour des systèmes hyperboliques. Dans la première partie de ce travail, on généralise la notion de symétrie à une classe plus générale de systèmes contenant le système de Green–Naghdi. Ceci nous permet de symétriser les équations de Green–Naghdi et d’utiliser la symétrie obtenue pour déduire un résultat d’existence globale après avoir ajouté un terme dissipative d’ordre 2 au système. Ceci est fait en adaptant l’approche utilisée dans la littérature pour des systèmes hyperboliques. La deuxième partie de ce travail concerne le traitement numérique des équations de Navier–Stokes à surface libre avec un terme de tension de surface. Ici, la surface libre est modélisée en utilisant la formulation des lignes de niveaux. C’est pourquoi la condition cinématique (condition de l’évolution de surface libre) s’écrit sous la forme d’une équation d’advection satisfaite par la fonction de ligne de niveaux. Cette équation est résolue sur une domaine de calcul contenant strictement le domaine de fluide, sur de petits sous-intervalles du temps. Chaque itération de l’algorithme global correspond donc à l’advection du domaine du fluide sur le sous-intervalle du temps associé et ensuite de résoudre le système de Navier–Stokes discrétisé en temps sur le domaine du fluide. Cette discrétisation en temps est faite par la méthode des caractéristiques. L’outil clé qui nous permet de résoudre ce système uniquement sur le domaine du fluide est l’adaptation de maillage anisotrope. Plus précisément, à chaque itération le maillage est adapté au domaine du fluide tel que l’erreur d’approximation et l’erreur géométrique soient raisonnablement petites au voisinage du domaine du fluide. La résolution du problème discrétisé en temps sur le domaine du fluide est faite par l’algorithme d’Uzawa utilisé dans la cadre de la méthode des éléments finis. Par ailleurs, la condition de glissement de Navier est traité ici en ajoutant un terme de pénalisation à la formulation variationnelle associée. / This thesis is about theoretical study and numerical treatment of some problems raised in incompressible free-surface fluid dynamics. The first part concerns a model called the Green–Naghdi (GN) equations. Similarly to the non linear shallow water system (called also Saint-Venant system), the Green–Naghdi equations is a shallow water approximation of water waves problem. Indeed, GN equation is one order higher in approximation compared to Saint-Venant system. For this reason, it contains all the terms of Saint-Venant system in addition to some non linear third order dispersive terms. In other words, the GN equations is a dispersive perturbation of the Saint-Venant system. The latter system is hyperbolic and fits the general framework developed in the literature for hyperbolic systems. Particularly, it is entropic (in the sense of Lax) and symmertizable. Therefore, we can apply the well-posedness results known for symmetric hyperbolic system. During the first part of this work, we generalize the notion of symmetry to a more general type of equations including the GN system. This lets us to symmetrize the GN equation. Then, we use the suggested symmetric structure to obtain a global existence result for the system with a second order dissipative term by adapting the approach classically used for hyperbolic systems. The second part of this thesis concerns the numerical treatment of the free surface incompressible Navier–Stokes equation with surface tension. We use the level set formulation to represent the fluid free-surface. Thanks to this formulation, the kinematic boundary condition is treated by solving an advection equation satisfied by the level set function. This equation is solved on a computational domain containing the fluid domain over small time subintervals. Each iteration of the algorithm corresponds to the adevction of the fluid domain on a small time subinterval and to solve the time-discretized Navier–Stokes equations only on the fluid domain. The time discretization of the Navier–Stokes equation is done by the characteristic method. Then, the key tool which lets us solve this equation on the fluid domain is the anisotropic mesh adaptation. Indeed, at each iteration the mesh is adapted to the fluid domain such that we get convenient approximation and geometric errors in the vicinity of the fluid domain. This resolution is done using the Uzawa algorithm for a convenient finite element method. The slip boundary conditions are considered by adding a penalization term to the variational formulation associated to the problem.

Dans cette thèse, nous considérons le problème d'Euler surface libre sur un domaine à fond non plat, dans le cadre du régime d'ondes longues de faible amplitude. L'objectif est de construire, justifier et comparer de nouveaux modèles asymptotiques pour ce problème, permettant de prendre en compte les effets liés aux variations bathymétriques. En premier lieu, nous construisons rigoureusement deux classes de modèles de Boussinesq symétriques dans le cadre de deux régimes topographiques distincts, celui de faible variations bathymétriques et celui de fortes variations. Dans un second temps, nous retrouvons et discutons dans le cas de faibles variations topographiques l'approximation classique de Korteweg-de Vries, et proposons une nouvelle approximation via l'ajout de termes bathymétriques. Dans une troisième partie, ces deux modèles, ainsi que les modèles de Boussinesq construits dans la première partie, sont simulés numériquement et comparés sur des cas tests de topographie. Enfin, il est présenté une étude numérique des équations de Green-Naghdi, dont le domaine de validité physique est plus étendu, ainsi qu'une comparaison numérique de ce modèle avec les modèles précédents sur des bathymétries spécifiques.