Les procédés de séparation membranaire, utilisés couramment dans de nombreux domaines industriels, comme l’agro-alimentaire, le traitement des eaux ou les biotechnologies, sont de plus en plus mis en œuvre dans le domaine des bioraffineries. L’ultrafiltration tangentielle, par exemple, montre un fort potentiel dans l’étape de séparation des matières premières comme les nanocristaux de cellulose pour les transformer en biomasse. Cependant, l’augmentation de la concentration en particules à la surface de la membrane limite ce procédé, entrainant la formation des phénomènes de polarisation de concentration et de colmatage, réduisant les performances de filtration. Ces travaux de thèse ont pour objectif d’améliorer la compréhension des mécanismes de formation de ces phénomènes. Deux méthodes de caractérisation couvrant les échelles nanométriques à micrométiques ont été mises au point, grâce au développement de cellules de filtration couplant l’ultrafiltration à la diffusion de rayons X aux petits angles d’une part, et à la micro vélocimétrie par images de particules d’autre part. Ces mesures effectuées in-situ lors de la filtration tangentielle de suspensions de nanocristaux de cellulose et d’argile de Laponite, ont permis de caractériser l’organisation structurale et le champ hydrodynamique au sein des couches de polarisation. La corrélation de ces résultats avec les lois de comportement rhéologique des suspensions ont permis d’accéder pour la première fois aux champs de contraintes dans les couches de polarisation de concentration et de colmatage lors du procédé. / Membrane separation processes commonly used in several industrial applications, like bio and agro industries, waste water and clean water treatments, are more and more exploited in biorefinery. As an example, cross-flow ultrafiltration process shows a high potential in separation protocol of raw feed components like cellulose nanocrystals to produce biomass. This process is limited by the increase of particles concentration at the membrane surface, which conducts to phenomena named concentration polarization and fouling, which decrease the filtration performance. The PhD work objective is to bring a better understanding of the mechanisms involved in the formation of these phenomena. Two characterization methods covering length scales from nanometer to micrometer have been developed thanks to new designed tangential ultrafiltration cells allowing to link the ultrafiltration process to small angle X rays scattering and to micro particle image velocimetry. These measurement performed in-situ during ultrafiltration of nanocrystal celluloses and Laponite clay suspensions have allowed characterizing the structural organization and the velocity field within the concentration polarization layers. The correlation of these results with the rheological behavior properties of the suspensions, have permitted to access for the first time to the stress field within the concentration polarization and fouling layer during the tangential ultrafiltration process.