Ce travail est dédié à la mise en place de modèles d'écoulements de fluides complexes, à leur analyse théorique ainsi qu'au développement et à l'analyse de convergence de schémas numériques appropriés. <br /><br />Une première partie du travail concerne l'étude de modèles dits à interface diffuse pour les écoulements incompressibles multiphasiques. Après une étude assez précise du cadre diphasique, on propose la généralisation au cadre triphasique, ce qui nécessite d'introduire la notion importante de consistance des modèles. Des résultats numériques confirment la pertinence des modèles proposés. Ensuite, on s'intéresse au modèle plus classique de Navier-Stokes non-homogène incompressible pour lequel on établit le caractère bien posé du problème pour des conditions aux limites ouvertes non-linéaires en sortie d'un écoulement. Une brique essentielle de ce travail est l'étude détaillée du problème de traces pour l'équation de transport associée à un champ de vitesse peu régulier. Ce travail, dont l'intérêt dépasse le cadre applicatif décrit ci-dessus, fait l'objet d'un chapitre à part entière.<br /><br />Dans une seconde partie, on s'intéresse à l'approximation numérique par des méthodes de volumes finis des solutions de problèmes elliptiques non-linéaires monotones (du type p-laplacien). Un premier chapitre décrit un certain nombre de résultats obtenus dans le contexte de maillages cartésiens. Un second chapitre est consacré à l'étude d'un cadre géométrique plus général par le biais de méthodes dites en dualité discrète. Une attention particulière est portée au cas où les coefficients du problème présentent des discontinuités spatiales, ce qui mène à des problèmes de transmission non-linéaire entre deux milieux.<br /><br />Le mémoire s'achève par la description de quelques travaux connexes, d'une part sur une classe de schémas VF pour les équations elliptiques linéaires adaptés à des maillages non orthogonaux, et d'autre sur l'étude numérique de problèmes elliptiques couplés 2D/1D issus de la description asymptotique d'écoulements dans des milieux poreux fracturés.

Nous proposons une étude numérique bidimensionnelle des écoulements laminaires de convection mixte en conduite rectangulaire horizontale chauffée par le bas (encore appelés "écoulements de Poiseuille-Rayleigh-Bénard"). La méthode de résolution est de type volumes finis; elle est basée sur la méthode du Lagrangien augmenté. Nous présentons une revue bibliographique, historique et complète, des travaux effectués sur ce sujet. Nous rapportons de manière détaillée les résultats de trois thèses, analysant la stabilité linéaire de l'écoulement de Poiseuille et la stabilité faiblement non-linéaire des rouleaux thermoconvectifs transverses à l'axe de la conduite, et fournissant des mesures expérimentales très fines des champs de vitesse dans les domaines linéaires et non-linéaires. L'objectif de ce travail est d'étudier dans quelle mesure les simulations numériques s'accordent avec théories et expériences en effectuant des comparaisons quantitatives systématiques avec ces trois thèses. Nous étudions l'influence des conditions aux limites ouvertes et périodiques sur la stabilité et sur le développement spatial et temporel des rouleaux transversaux, en prenant en compte le caractère convectif ou absolu de l'instabilité. Cinq sortes de conditions aux limites ouvertes sont testées. On montre que l'amplitude de la perturbation en amont de la frontière de sortie peut considérablement varier d'une condition à l'autre, alors que la longueur de la zone perturbée varie très peu, et que la structure de l'écoulement en dehors de la zone perturbée se conserve. Avec les conditions aux limites périodiques, les rouleaux transversaux transitent vers l'écoulement de Poiseuille au passage du seuil entre instabilité convective et stabilité linéaire. Avec les conditions aux limites ouvertes, cette transition a lieu près du seuil entre instabilité absolue et instabilité convective. Tous les résultats de la stabilité faiblement non-linéaire sont reproduits par la simulation 2D, et certains résultats expérimentaux 3D sont retrouvés avec une grande précision. On montre que les points de désaccord qui sont mis en évidence résultent d'effets purement tridimensionnels et qu'ils ne pourront donc être traités que par la simulation numérique 3D.