Cette thèse porte tout d'abord sur la dynamique des satellites co-orbitaux. En généralisant le problème des points de Lagrange, des résultats sur l'existence de configurations stationnaires ont été obtenus. Pour N co-orbitaux de masses arbitraires et négligeables devant celle du corps central, l'existence de points d'équilibre dépend de la parité de N. Si N est impair, alors quelles que soient les séparations angulaires entre les satellites, il existe toujours un ensemble de masses qui réalise un équilibre. L'ensemble des solutions physiquement réalistes (masses positives) se restreint à un sous-domaine de séparations angulaires. Pour N pair, des conditions supplémentaires sont à vérfier. Le cas N = 3 est traité globalement, en donnant l'ensemble des solutions d'équilibre et leur stabilité. Pour N > 3, des méthodes numériques sont présentées. Ces résultats ont permis d'élaborer un modèle de confinement des arcs de Neptune compatible avec les dernières observations (Dumas et al., 1999; Sicardy et al., 1999b; de Pater et al., 2004) : les arcs sont piégés entre des petits satellites co-orbitaux (de rayons inférieurs à environ 5 km) en équilibre stable dans l'anneau Adams. La stabilité du système, soumis aux perturbations du satellite Galatéa, a été testée numériquement avec succès. Un scénario de l'origine et de l'évolution d'un tel système est proposé. Dans un deuxième volet, la dynamique de Prométhée et Pandore est examinée. Des observations HST récentes (French et al., 2003) ont révélé des variations brutales et anti-corrélées en moyen mouvement, qui proviennent d'une interaction chaotique entre les deux satellites (Goldreich et Rappaport, 2003a), et qui sont causées par la superposition de 4 résonances de moyen mouvement 121 :118 (Goldreich et Rappaport, 2003b). Nous confirmons ici numériquement le mouvement chaotique en incluant les perturbations des satellites principaux de Saturne. Les masses de Prométhée et Pandore ont été déterminées par ajustement des simulations numériques aux données HST, et correspondent à des masses volumiques moyennes de l'ordre de 0.5 g/cm3. Des éphémérides pour Prométhée et Pandore, durant la mission Cassini autour de Saturne, sont déduites de ces ajustements. Finalement, des simulations à long terme semblent indiquer que Prométhée et Pandore transfèrent du moment cinétique aux satellites co-orbitaux Janus et Epiméthée, augmentant ainsi le temps de vie du système Prométhée-Pandore.

La première partie de cette thèse est motivèe par un problème important soulevé par la théorie linéaire des ondes de densité, Celle-ci prévoit en effet un transfert de moment cinétique entre une onde et le satellite qui l'excite.Ce transfert devrait créer l'effondrement des anneaux sur la planète, en particulier de l'anneau A, et l'éloignement des satellites en des temps caractéristiques très courts devant l'âge du système solaire , ce qui contredit l'hypothèse de l'origine primordiale des anneaux, qui semblait a priori la plus simple pour expliquer leur existence, Plusieurs hypothèses ont été avancées pour résoudre cette question: soit bien sür les anneaux sont jeunes, soit le calcul du transfert de moment cinétique par la théorie linéaire est largement surestimé, soit encore la physique qui permet la survivance des anneaux n'est pas comprise. Le but de mon travail est de tester la deuxième hypothèse, en utilisant une représentation non-linéaire des ondes de densité, Dans un premier temps, j'expliquerai les bases du formalisme non-linéaire utilisé, qui a été développé par Borderies, Goldreich et Tremaine et appliqué par ce groupe à une grande variété de problèmes de dynamique des anneaux de planètes. Je présenterai également un travail théorique formulant ce formalisme dans le cas où le corps central ne possède pas la symétrie sphérique. J'expliquerai ensuite comment je l'ai utilisé dans l'étude d'un des profils d'onde enregistré par Voyager, et je montrerai les implications de cette étude sur notre connaissance des caractéristiques physiques des anneaux et de leur dynamique. La seconde partie de cette thèse se rattache au premier des axes de recherche mentionné ci-dessus. Les études statistiques des anneaux portent en quasi-totalité sur la détermination de la dispersion de vitesse des particules, qui dans la plupart des cas sont supposées toutes identiques. A l'inverse, je me suis intéressé à un problème encore peu étudié: la distribution en taille des particules dans les anneaux. J'exposerai un modèle analytique que j'ai développé en vue d'expliquer les caractéristiques de la distribution dans les anneaux de Saturne, qui a pu être déterminée à l'aide des données de l'expérience d'occultation radio des anneaux réalisée par Voyager. L'un des buts d'une telle étude est d'entreprendre un premier pas dans l'élaboration d'une théorie statistique des anneaux plus complète que celles dont on dispose actuellement (en vue par exemple, d'une détermination couplée de la dispersion de vitesse et de la distribution en taille des particules) .