Aujourd'hui, la nanofiltration (NF) est perçue comme un procédé de séparation efficace et propre permettant d’extraire ou de concentrer des solutés ioniques ou neutres. Son développement à l’échelle industrielle n’est cependant pas encore optimal car les différents mécanismes de séparation sont encore mal compris. Cette thèse a porté d’une part sur l’étude des propriétés charge de surface des membranes de NF/OI et d’autre part sur les mécanismes de transport à travers des membranes de NF. Il a tout d’abord été montré, grâce à des mesures électrocinétiques réalisées sous atmosphère contrôlée, que certaines membranes commerciales subissent un post-traitement afin d’améliorer leurs performances de filtration. La détermination du potentiel zêta, grandeur caractéristique de la charge de surface, s’est révélée être une méthode adaptée pour mettre en évidence la présence d’une couche de post-traitement à la surface d’une membrane. La suite de l’étude a été consacrée à la compréhension des mécanismes de transport lors de la NF de mélanges ternaires contenant deux cations différents (Na+ et Ca2+) et un anion commun (Cl-). L’utilisation du modèle de transport SEDE a permis de montrer que les performances des membranes de NF résultent de la combinaison d’effets stériques, électriques et diélectriques. La dernière partie de ce travail a été consacrée à la NF d’un coproduit de l’industrie agro-alimentaire, le produit fermenté de soja (PFS). Il a été montré que la NF est potentiellement adaptée au dessalement du PFS (réduction de la teneur en cations monovalents) sans perte des sucres d’intérêt. / Today, nanofiltration (NF) is acknowledged as an efficient and environmentally-friendly separation process suited to extract or to concentrate neutral or ionic solutes. However, its development at industrial scale is not yet optimal because separation mechanisms are still poorly understood. This thesis focused on studying surface charge properties of NF/RO membranes and transport mechanisms through NF membranes as well. Firstly it was shown through electrokinetic measurements performed under controlled atmosphere that some commercial membranes undergo a post-treatment to improve their filtration performance. Determining the zeta potential, a physical quantity representative of the membrane surface charge, was shown to be a reliable method to highlight the presence of a post-treatment layer on the membrane surface. The second part of the study dealt with the understanding of transport mechanisms involved in NF of ternary mixtures containing two different cations (Na+ and Ca2+) and a common anion (Cl-). Using the SEDE transport model it was shown that the performance of NF membranes results from the combination of steric, electric and dielectric effects. The last part of this work was concerned with nanofiltration of a food industry co-product, the fermented soy product (PFS). It was shown that NF is potentially suitable for PFS desalination (reduction in the monovalent cation concentration) without loss of the sugars of interest.