L'objectif de cette thèse consiste à étudier la méthode de pénalité-projection vectorielle notée VPP (Vector Penalty-Projection method), qui est une méthode à pas fractionnaire pour la résolution des équations de Navier-Stokes incompressible avec conditions aux limites ouvertes. Nous présentons une revue bibliographique des méthodes de projection traitant le couplage de vitesse et de pression. Nous nous intéressons dans un premier temps aux conditions de Dirichlet sur toute la frontière. Les tests numériques montrent une convergence d'ordre deux en temps pour la vitesse et la pression et prouvent que la méthode est rapide et peu coûteuse en terme de nombre d'itérations par pas de temps. En outre, nous établissons des estimations d'erreurs de la vitesse et de la pression et les essais numériques révèlent une parfaite concordance avec les résultats théoriques. En revanche, la contrainte d'incompressibilité n'est pas exactement nulle et converge avec un ordre de O(varepsilondelta t) où varepsilon est un paramètre de pénalité choisi assez petit et delta t le pas temps. Dans un second temps, la thèse traite les conditions aux limites ouvertes naturelles. Trois types de conditions de sortie sont étudiés et testés numériquement pour l'étape de projection. Nous effectuons des comparaisons quantitatives des résultats avec d'autres méthodes de projection. Les essais numériques sont en concordance avec les estimations théoriques également établies. Le dernier chapitre est consacré à l'étude numérique du schéma VPP en présence d'une condition aux limites ouvertes non-linéaire sur une frontière artificielle modélisant une charge singulière pour le problème de Navier-Stokes. / Motivated by solving the incompressible Navier-Stokes equations with open boundary conditions, this thesis studies the Vector Penalty-Projection method denoted VPP, which is a splitting method in time. We first present a literature review of the projection methods addressing the issue of the velocity-pressure coupling in the incompressible Navier-Stokes system. First, we focus on the case of Dirichlet conditions on the entire boundary. The numerical tests show a second-order convergence in time for both the velocity and the pressure. They also show that the VPP method is fast and cheap in terms of number of iterations at each time step. In addition, we established for the Stokes problem optimal error estimates for the velocity and pressure and the numerical experiments are in perfect agreement with the theoretical results. However, the incompressibility constraint is not exactly equal to zero and it scales as O(varepsilondelta t) where $varepsilon$ is a penalty parameter chosen small enough and delta t is the time step. Moreover, we deal with the natural outflow boundary condition. Three types of outflow boundary conditions are presented and numerically tested for the projection step. We perform quantitative comparisons of the results with those obtained by other methods in the literature. Besides, a theoretical study of the VPP method with outflow boundary conditions is stated and the numerical tests prove to be in good agreement with the theoretical results. In the last chapter, we focus on the numerical study of the VPP scheme with a nonlinear open artificial boundary condition modelling a singular load for the unsteady incompressible Navier-Stokes problem.