Dans le premier chapitre, nous étudions le conditionnement d'un processus de Lévy complètement asymétrique à demeurer dans un intervalle fini. <br /><br />Les deux suivants sont consacrés aux processus de branchement à espace d'états continu, qui sont des processus de Lévy sans saut négatif changés de temps : généalogie (deuxième chapitre), dont nous dérivons des théorèmes de type Ray-Knight, et conditionnement à ne jamais s'éteindre (troisième chapitre). <br /><br />Enfin, le dernier chapitre traite de théorie du renouvellement multivariée dans deux cas naturels d'ensembles aléatoires emboîtés.

Nous cherchons à construire une génétique des populations branchantes, basée notamment sur les processus de branchement à espace d'états continu, dits CB-processus. <br /><br />Nous modifions d'abord les arbres branchants afin d'en obtenir des versions stationnaires, de deux façons : en introduisant des interactions de type compétitif entre les individus, de manière à réguler la taille de la population ("processus de branchement logistique"); en appliquant divers conditionnements, au sens des h-processus de Doob : conditionnement du processus de Lévy associé à rester dans un intervalle, conditionnement à la non-extinction des CB-processus (Q-processus), mais aussi des CB-processus avec interactions, sous leur forme diffusion.<br /><br />Nous étudions la probabilité de fixation d'un mutant, question qui conditionne l'évolution de la diversité. En utilisant la théorie des diffusions, nous proposons un cadre unifié permettant de comparer deux modèles classiques et le modèle de branchement logistique. Puis nous munissons les individus d'un trait quantitatif soumis à des mutations, et nous suivons, par une approche micro--macro, l'évolution du trait résident ("diffusion canonique de la dynamique adaptative").<br /> <br /><br />Nous étudions la généalogie associée aux CB-processus avec immigration, dont un cas particulier est le Q-processus cité plus haut. Nous construisons des arbres branchants (dont la largeur n'est pas markovienne), dits \emph{arbres de ramification}, sur lesquels se voient directement les deux types de généalogies associées aux CB-processus, qui ont été découvertes par J.-F. Le Gall et ses collaborateurs. Nous donnons également une démonstration de la représentation de Lamperti des CB-processus comme processus de Lévy changés de temps.<br /><br />Nous décrivons de façon rétrospective la structure généalogique des CB-processus, puis celle des arbres de ramification, comme le fait une des approches phares de la génétique des populations moderne, dite théorie de la coalescence. <br /><br />Des collaborations dans divers domaines de la biologie des populations sont également exposées : génétique des populations classique, écologie des invasions, biologie de la conservation.

Nous nous intéressons à des équations différentielles stochastiques obtenues en perturbant par un bruit blanc des équations différentielles ordinaires admettant N orbites périodiques asymptotiquement stables. Nous construisons une chaîne de Markov à temps discret et espace d’états continu appelée application de Poincaré aléatoire qui hérite du comportement métastable du système. Nous montrons que ce processus admet exactement N valeurs propres qui sont exponentiellement proches de 1 et nous donnons des expressions pour ces valeurs propres et les fonctions propres associées en termes de fonctions committeurs dans les voisinages des orbites périodiques. Nous montrons également que ces valeurs propres sont bien séparées du reste du spectre. Chacune de ces valeurs propres exponentiellement proche de 1 est également reliée à un temps d’atteinte de ces voisinages. De plus, les N valeurs propres exponentiellement proches de 1 et fonctions propres à gauche et à droite associées peuvent être respectivement approchées par des valeurs propres principales, des distributions quasi-stationnaires, et des fonctions propres principales à droite de processus tués quand ils atteignent ces voisinages. Les preuves reposent sur une représentation de type Feynman–Kac pour les fonctions propres, la transformée harmonique de Doob, la théorie spectrale des opérateurs compacts et une propriété de type équilibré détaillé satisfaite par les fonctions committeurs. / We consider stochastic differential equations, obtained by adding weak Gaussian white noise to ordinary differential equations admitting N asymptotically stable periodic orbits. We construct a discrete-time,continuous-space Markov chain, called a random Poincaré map, which encodes the metastable behaviour of the system. We show that this process admits exactly N eigenvalues which are exponentially close to 1,and provide expressions for these eigenvalues and their left and right eigenfunctions in terms of committorfunctions of neighbourhoods of periodic orbits. We also provide a bound for the remaining part of the spectrum. The eigenvalues that are exponentially close to 1 and the right and left eigenfunctions are well-approximated by principal eigenvalues, quasistationary distributions, and principal right eigenfunctions of processes killed upon hitting some of these neighbourhoods. Each eigenvalue that is exponentially close to 1is also related to the mean exit time from some metastable neighborhood of the periodic orbits. The proofsrely on Feynman–Kac-type representation formulas for eigenfunctions, Doob’s h-transform, spectral theory of compact operators, and a recently discovered detailed balance property satisfied by committor functions.