L'objectif de ce travail de thèse est d'étudier analytiquement et numériquement le comportementdynamique non-linéaire des rotors, en prenant en compte des effets significatifs comme les grandesdéformations en flexion, les non-linéarités géométriques et le cisaillement. Le manuscrit est diviséen trois parties principales. Dans la première partie, le principe de Hamilton est utilisé pour formulerles équations du mouvement qui prennent en compte un ensemble d’effets non-linéaires comme desdéformations d'ordre supérieur en flexion et le cisaillement. De plus, si les supports du rotor nepermettent pas à l'arbre de se déplacer dans la direction axiale, il y a alors une force dynamiqueharmonique agissant axialement sur le rotor en fonctionnement. Ces modèles se composentd’équations différentielles non-linéaires du deuxième et du quatrième ordre.Les deux parties suivantes sont consacrées à la résolution des différents modèles non-linéairesdéveloppés dans la première partie. Des méthodes analytiques et numériques sont appliquées afin detraiter les équations non-linéaires du mouvement. Une méthode basée sur des développementsasymptotiques, la méthode des échelles multiples (MEM) est utilisée. Les courbes de réponse sonttracées pour différentes résonances possibles et l'effet de la non-linéarité est discuté par rapport àl'analyse linéaire. La réponse forcée du système provoquée par un balourd est également présentéepour plusieurs configurations du rotor. Lorsque les déformations de cisaillement sont prises encompte, l'analyse est effectuée pour différents élancements afin de mettre en évidence cet effet sur ladynamique d’un système arbre-disque / The objective of the present work is to investigate the nonlinear dynamic behavior of the rotorsystems analytically and numerically, taking into account the significant effects, for example, higherorder large deformations in bending, geometric nonlinearity and shear effects.This thesis is dividedinto two major parts. In the first part, Hamilton’s principle is used to derive the equations of motionwhich take into account various effects, for example, nonlinearity due to higher order largedeformations in bending and shear effects. In addition, if the supports of the rotor do not allow theshaft to move in the axial direction, then there will be a dynamical force acting axially on the rotoras it operates. The mathematical models are composed of coupled nonlinear differential equations ofthe 2nd and the 4th order.In the second part, the resolution of various nonlinear models developed in the first part isaddressed. Analytical and numerical methods are applied for treating the nonlinear equations ofmotion. A method based on asymptotic developments, the method of multiple scales (MMS) is used.The response curves are plotted for different possible resonance conditions and the effect ofnonlinearity is discussed with respect to the linear analysis. The forced response of the system due toa mass unbalance is also presented for various configurations of the rotor. When shear deformationsare taken into account, the analysis is performed for various slenderness ratios to highlight sheareffects on the dynamics of the shaft-disk rotor systems