Des milieux hétérogènes et désordonnés émergent dans plusieurs applications de la science et de l'ingénierie nucléaires, en particulier en ce qui concerne la propagation des neutrons et des photons. Les exemples sont très répandus et concernent par exemple la double hétérogénéité des éléments combustibles dans les réacteurs à lit de boulets ou l'évaluation de la probabilité de re-criticité suite aux arrangements aléatoires du combusitble résultant d'accidents graves. Dans cette thèse, nous étudierons le transport linéaire de particules dans des milieux aléatoires. Dans la première partie, nous nous concentrerons sur quelques modèles mathématiques qui peuvent être utilisés pour la description de matériaux aléatoires. Une attention particulière sera accordée aux tessellations stochastiques, où un domaine est partitionné en polyèdres convexes en échantillonnant des hyperplans aléatoires selon une probabilité donnée. Les inclusions stochastiques de sphères dans une matrice seront également brièvement introduites. Un code informatique sera développé afin de construire explicitement de telles géométries par des méthodes de Monte Carlo. Dans la deuxième partie, nous évaluerons ensuite les caractéristiques générales du transport de particules dans des milieux aléatoires. Pour ce faire, nous allons considérer quelques benchmarks assez simples pour permettre une compréhension approfondie des effets des géométries aléatoires sur les trajectoires de particules tout en conservant les propriétés clés du transport linéaire. Les calculs de transport seront réalisés en utilisant le code de transport de particules Monte Carlo Tripoli4, développé au SERMA. Les cas de modèles de désordre quenched et annealed seront considérés séparément. Dans le premier, un ensemble de géométries sera généré en utilisant notre code, et le problème de transport sera résolu pour chaque configuration: des moyennes d'ensemble seront alors prises pour les observables d'intérêt. Dans le second cas, un modèle de transport efficace capable de reproduire les effets du désordre dans une seule réalisation sera étudié. Les approximations des modèles annealed seront élucidées, et des améliorations significatives seront proposées. / Heterogeneous and disordered media emerges in several applications in nuclear science and engineering, especially in relation to neutron and photon propagation. Examples are widespread and concern for instance the double-heterogeneity of the fuel elements in pebble-bed reactors, or the assessment of re-criticality probability due to the random arrangement of fuel resulting from severe accidents. In this Thesis, we will investigate linear particle transport in random media. In the first part, we will focus on some mathematical models that can be used for the description of random media. Special emphasis will be given to stochastic tessellations, where a domain is partitioned into convex polyhedra by sampling random hyperplanes according to a given probability. Stochastic inclusions of spheres into a matrix will be also briefly introduced. A computer code will be developed in order to explicitly construct such geometries by Monte Carlo methods. In the second part, we will then assess the general features of particle transport within random media. For this purpose, we will consider some benchmark problems that are simple enough so as to allow for a thorough understanding of the effects of the random geometries on particle trajectories and yet retain the key properties of linear transport. Transport calculations will be realized by using the Monte Carlo particle transport code Tripoli4, developed at SERMA. The cases of quenched and annealed disorder models will be separately considered. In the former, an ensemble of geometries will be generated by using our computer code, and the transport problem will be solved for each configuration: ensemble averages will then be taken for the observables of interest. In the latter, effective transport model capable of reproducing the effects of disorder in a single realization will be investigated. The approximations of the annealed disorder models will be elucidated, and significant ameliorations will be proposed.

La thèse est composée de deux parties.Dans la première partie, nous allons étudier le flot quasi-invariant défini par une équation différentielle stochastique de Stratanovich avec le dérive ayant seulement la BV-régularitésur un espace euclidien, en généralisant des résultats de L. Ambrosio sur l'existence,unicité et stabilité des flots lagrangiens associés aux équations différentielles ordinaires[Invent. Math. 158 (2004), 227{260]. Comme une application d'un résultat de stabilité,nous allons construire une solution explicite à l'equation de transport stochastique enterme de flot stochastique. La différentiabilité approximative du flot sera aussi investie,lorsque le dérive possµede une régularité de Sobolev.Dans la deuxième partie, nous allons généraliser la théorie de DiPerna-Lions aux cas desvariétés riemanniennes complètes. Nous allons utiliser le semi-groupe de la chaleur pourrégulariser des fonctions et des champs de vecteur. L'estimation sur le commutateur seraobtenue par la méthode probabiliste. Une application de cette estimation est de prouverl'unicité des solutions à l'équation de transport à l'aide du concept des solutions renormal-isables. L'équation différentielle ordinaire associée à un champ de vecteur de régularité deSobolev sera enfin résolue en adoptant une méhode due à L. Ambrosio. La fin de cett par-tie consacre à la construction des processus de diffusion, par la méthode de la variation deconstante, sur une variété riemannienne complète, ayant comme générateur, un opérateurelliptique contenant le dérive non-régulier. Pour cela, nous allons donner des conditionssur la courbure pour que le flot horizontal canonique soit un flot de difféomorphismes / The thesis mainly consists of two parts.In the first part, we study the quasi-invariant flow generated by the Stratonovich stochas-tic differential equation with BV drift coefficients in the Euclidean space. We generalizethe results of Ambrosio [Invent. Math. 158 (2004), 227{260] on the existence, uniquenessand stability of regular Lagrangian flows of ordinary differential equations to Stratonovichstochastic differential equations with BV drift coefficients. As an application of the sta-bility result, we construct an explicit solution to the corresponding stochastic transportequation in terms of the stochastic flow. The approximate differentiability of the flow isalso studied when the drift coefficient has some Sobolev regularity.In the second part, we generalize the DiPerna-Lions theory in the Euclidean space to thecomplete Riemannian manifold. We define the commutator on the complete Riemannianmanifold which is a probabilistic version of the one in the DiPerna-Lions theory, andestablish the commutator estimate by the probabilistic method. As a direct applicationof the commutator estimate, we investigate the uniqueness of solutions to the transportequation by the method of the renormalized solution. Following Ambrosio's method, weconstruct the DiPerna-Lions flow on the Riemannian manifold. In order to construct thediffusion process associated to an elliptic operator with irregular drift on the completeRiemannian manifold, we give some conditions which guarantee the strong completenessof the horizontal flow. Finally, we construct the diffusion process with the drift coefficienthaving only Sobolev regularity.Besides, we present a brief introduction of the classical theory on the ordinary differentialequation in the smooth case and the quasi-invariant flow of homeomorphisms under theOsgood condition before the first part; and we recall some basic tools and results whichare widely used throughout the whole thesis after the second part.