Le palier hydrodynamique est une solution de guidage en rotation particulièrement appréciée pour ses caractéristiques d’amortissement à hautes vitesses de rotation. Cependant les performances des machines tournantes lubrifiées par un film fluide sont impactées par des effets non linéaires difficiles à analyser. La prédiction du comportement du système par la simulation nécessite une modélisation avancée de l’écoulement de lubrifiant dans le palier hydrodynamique. Enfin, l’état de surface semble avoir un impact important sur l’écoulement du fluide lubrifiant, lui-même agissant sur les caractéristiques statiques et dynamiques des parties tournantes. Cette étude vise à améliorer les modèles numériques liés à l’impact de l’état de surface des paliers hydrodynamiques sur la dynamique de ligne d’arbre. La méthode d’homogénéisation multi-échelles a été utilisée à cet effet dans un algorithme multi-physiques pour décrire l’interaction entre la structure flexible en rotation et les films fluides des supports de lubrification. Différents modèles ont été utilisés pour prendre en compte la présence de zone de rupture de film lubrifiant. Des méthodologies non-linéaires fréquentielles ont été mises en place afin de permettre l’étude paramétrique des solutions périodiques d’un tel système et de leur stabilité. Afin de confronter ce modèle complexe à la réalité, un banc d’essai miniature a également été conçu. Différents échantillons présentant des états de surface modifiés par ablation à l’aide de LASER femto-seconde ont été testés. L’étude expérimentale a permis de vérifier certaines tendances prévues par la simulation. Des améliorations des performances des paliers hydrodynamiques par rapport aux vibrations auto-entretenues du système ont été démontrées pour certaines textures. En revanche toutes les améliorations ne sont pas prédites par les algorithmes d’homogénéisation multi-échelles. La présence de recirculation dans les aspérités du motif a été mise en évidence à partir de la résolution locale des équations de Navier-Stokes. Ce résultat participe à la remise en question des hypothèses classiques utilisées en texturation, et peut justifier les améliorations obtenues expérimentalement avec les paliers texturés. / The hydrodynamic bearing provides good damping properties in rotating machineries. However, the performances of rotor-bearings systems are highly impacted by nonlinear effects that are difficult to analyze. The rotordynamics prediction requires advanced models for the flow in the bearings. The surface of the bearings seems to have a strong impact on the lubricant flow, acting on the static and dynamic properties of the rotating parts. This study aims to enhance the simulation of the bearings’ surface state effect on the motion of the rotating shaft. The flexible shaft interacts with textured hydrodynamic bearings. Multi-scales homogenization is used in a multi-physics algorithm in order to describe the fluid-structure interaction. Different models are used to account for the cavitation phenomenon in the bearings. Nonlinear harmonic methods allow efficient parametric studies of periodic solutions as well as their stability. Moreover, a test rig has been designed to compare predictions to real measurements. Several textured shaft samples modified with femto-seconds LASER surface texturing are tested. In most cases the experimental study showed similar results than the simulation. Enhancements of the vibration behaviors of the rotor-bearing system have been revealed for certain texturing patterns. The self-excited vibration, also known as "oil whirl" phenomenon, is stabilized on a wide rotating frequency range. However, the simulation tool does not predict well the enhancements that are observed. Vortices in surface texturing patterns have been revealed numerically with Navier-Stokes equation resolution. These results are opposed to the classical lubrication hypothesis. It is also a possible explanation of the enhancements that are experimentally measured with textured bearings.