Lors d'un hypothétique accident majeur dans un réacteur à eau sous pression, la dégradation du coeur peut produire un bain stratifié, traversé par un flux de bulles. Ce dernier influence grandement les transferts thermiques, dont l'intensité est déterminante dans le déroulement de l'accident. Dans ce contexte, ce travail porte sur une modélisation de type interface diffuse pour l'étude d'écoulements incompressibles, anisothermes, composés de trois constituants non miscibles, sans changement de phase. Dans les méthodes à interface diffuse, l'évolution du système est décrite à travers la minimisation d'une énergie libre. L'originalité de notre approche, inspirée du modèle de Cahn-Hilliard, réside dans la forme particulière de l'énergie que nous proposons, qui permet d'avoir un modèle algébriquement et dynamiquement consistant, au sens suivant : d'une part, l'énergie libre triphasique coïncide exactement avec celle du modèle de Cahn-Hilliard diphasique quand seulement deux des phases sont présentes ; d'autre part, si une phase est initialement absente alors elle n'apparaîtra pas au cours du temps, cette dernière propriété étant stable vis à vis des erreurs numériques. L'existence et l'unicité des solutions faibles et fortes sont démontrées en dimension 2 et 3 ainsi qu'un résultat de stabilité pour les états métastables.<br /><br />La modélisation d'un système ternaire en écoulement anisotherme est ensuite poursuivie par couplage des équations de Cahn-Hilliard avec celles du bilan d'énergie et de Navier-Stokes où les contraintes surfaciques sont prises en compte à travers des forces volumiques capillaires. L'ensemble est discrétisé en temps et en espace de façon à préserver les propriétés du problème continu (conservation du volume, estimation d'énergie). Différents résultats numériques sont présentés, depuis le cas de validation de l'étalement d'une lentille entre deux phases jusqu'à l'étude des transferts de masse et de chaleur à travers une interface liquide/liquide traversée par une bulle ou un train de bulles.

Cette thèse est consacrée à l'étude de certains aspects numériques et mathématiques liés à la simulation d'écoulements incompressibles triphasiques à l'aide d'un modèle à interfaces diffuses de type Cahn-Hilliard/Navier-Stokes. La discrétisation spatiale est effectuée par éléments finis. La présence d'échelles très différentes dans le système suggère l'utilisation d'une méthode de raffinement local adaptatif. La procédure mise en place permet de tenir compte implicitement des non conformités des maillages générés, pour produire in fine des espaces d'approximation conformes. Nous montrons, en outre, qu'il est possible d'exploiter cette méthode pour construire des préconditionneurs multigrilles. Concernant la discrétisation en temps, notre étude a commencé par celle du système de Cahn-Hilliard. Pour remédier aux problèmes de convergence de la méthode de Newton utilisée pour résoudre ce système (non linéaire), nous proposons un schéma semi-implicite permettant de garantir la décroissance de l'énergie. Nous montrons l'existence et la convergence des solutions discrètes. Nous poursuivons ensuite cette étude en donnant une discrétisation en temps inconditionnellement stable du modèle complet Cahn-Hilliard/Navier-Stokes ne couplant pas fortement les deux systèmes. Nous montrons l'existence des solutions discrètes et, dans le cas où les trois fluides ont la même densité, nous montrons leur convergence. Nous étudions, pour terminer cette partie, diverses problématiques liées à l'utilisation de la méthode de projection incrémentale. Enfin, la dernière partie présente plusieurs exemples de simulations numériques, diphasiques et triphasiques, en deux et trois dimensions.