Le travail présenté dans cette thèse porte sur la modélisation et la commande non linéaire le système du forage pétrolier. La problématique principale consiste à proposer un modèle de forage non linéaire et à élaborer un ensemble de stratégies de commande avancées pour améliorer les performances du trépan.<br />A l'heure actuelle, les commandes des systèmes de forage pétroliers sont réalisées à l'aide de régulateurs classiques PI ou PID. Leurs performances se dégradent notablement lors de vibration de torsion causée par le « stick- slip », phénomène qui peut provoquer des couples non linéaires et donc endommager le trépan et le train de tiges. Par conséquent, il est nécessaire de disposer de systèmes de commande plus performants afin de mieux répondre aux exigences et aux performances demandées.<br />En dépit des diverses lois de commandes linéaires tentatives pour commander ce système mais qui ne garantissent pas la stabilité vis-à-vis des incertitudes. Ceci nous a conduits à proposer une modèle non linéaire en prenant en compte la totalité de l'information du phénomène du stick-slip, ce qui a conduit à une modélisation globale du forage rotary approchant donc au mieux le comportement réel de la plate-forme pétrolière. Pour cela, nous avons suggéré deux approches pour améliorer les performances du système de forage rotary:<br />• Commande par la technique de linéarisation par bouclage.<br />• Développement d'une commande par la technique des modes glissant associé à la commande linéarisation par Bouclage.<br />Comme le système de forage est généralement, est un système soumis aux incertitudes paramétriques, nous avons proposé, de plus, une nouvelle loi de commande non linéaire par Backstepping permettant de mieux améliorer la réponse de la vitesse de rotation du trépan.<br />Ces trois stratégies de commandes apparaissent la première fois dans ce domaine et la approche de Backsteping s'avère la meilleure. Les résultats de simulations obtenus dans les trois cas sont concluants et la synthèse par Backstepping montré la supériorité de, où la question de robustesse a pu être considérée.