Cette thèse porte sur la commande non linéaire des systèmes mécaniques sous-actionnés, ces systèmes possédant moins d'actionneur que de degrés de liberté. La dynamique interne de ces systèmes est souvent instable ce qui les rend difficiles à commander et requiert des méthodes de commande spécifiques. La contribution de cette thèse est la proposition de deux approches de commandes originales dont le but est la génération de cycle limites stables sur toutes les coordonnées du système mécanique sous-actionné. La première approche de commande est basée sur la linéarisation partielle par retour d'état et l'optimisation de trajectoires de référence. La seconde approche est basée sur les travaux récents sur la commande sans modèle, une technique de commande qui permet de contrôler un système sans avoir besoin de modèle mathématique préalable de sa dynamique. Ces deux approches de commande sont appliquées à un système mécanique sous-actionné particulier: le pendule inversé stabilisé par roue d'inertie. Plusieurs scénarios sont proposés, à la fois en simulation numérique et en temps-réel sur une plate-forme expérimentale. Les résultats obtenus attestent de la capacité des contrôleurs proposés à stabiliser le système autour de cycles limites stables en dépit de la présence de perturbations externes. / This thesis is focused on non linear control of underactuated mechanical systems, thoses systems with less actuators than degrees of freedom. The internal dynamics of such system is often unstable making them particulary difficult to control. Thus specific care must be taken when designing controlers for such systems. The main contribution of this thesis is the design of two new control schemes for stable limit cycles generation on all coordinates of underactuated mechanical systems. First control approach is based on partial feedback linearization and reference trajectories optimization. Second approach is based on recent work on model free control,a control scheme which doesn't require prior mathematicalmodel of the controlled system dynamics. The proposed approaches are applied to an inertiawheel inverted pendulumtestbed. Several experimental scenarios are proposed, both in numerical simulation and in realtime implementation. Obtained results demonstrate the ability of both controllers to stabilize the system around stable limit cycles and to reject external disturbances.