L'objet de cette thèse est d'étudier la probabilité de survie d'un processus de branchement en environnement aléatoire markovien et d'étendre dans ce cadre les résultats connus en milieu aléatoire indépendant et identiquement distribué. Le coeur de l'étude repose sur l'utilisation des théorèmes limites locaux pour une marche aléatoire centrée (Sn)n 0 sur R à pas markoviens et pour (mn)n 0, où mn = min (0; S1; ; Sn). Pour traiter le cas d'un environnement aléatoire markovien, nous développons dans un premier temps une étude des théorèmes locaux pour une chaîne semi-markovienne à valeurs réelles en améliorant certains résultats déjà connus et développés initialement par E. L. Presman (voir [22] et [23]). Nous utilisons ensuite ces résultats pour l'étude du comportement asymptotique de la probabilité de survie d'un processus de branchement critique en environnement aléatoire markovien. Les résultats principaux de cette thèse ont été annoncés dans les Comptes Rendus de l'Académie des Sciences ([21]). Un article plus détaillé est soumis pour publication dans la revue Journal of Theoretical Probability. Dans cette thèse, nous précisons les énoncés de ces théorèmes et détaillons leurs démonstrations.

L'objet de la thèse est d'étudier des processus stochastiques coalescents modélisant la généalogie d'une population échangeable avec immigration. On représente la population par l'ensemble des entiers N = {1, 2, ..}. Imaginons que l'on échantillonne n individus dans la population aujourd'hui. On cherche à regrouper ces n individus selon leur ancêtre en remontant dans le temps. En raison de l'immigration, il se peut qu'à partir d'une certaine génération, certains individus n'aient pas d'ancêtre dans la population. Par convention, nous les regrouperons dans un bloc que nous distinguerons en ajoutant l'entier 0. On parle du bloc distingué. Les coalescents distingués échangeables sont des processus à valeurs dans l'espace des partitions de Z+ := {0, 1, 2, ...}. A chaque temps t est associée une partition distinguée échangeable, c'est-à-dire une partition dont la loi est invariante sous l'action des permu- tations laissant 0 en 0. La présence du bloc distingué implique de nouvelles coagulations, inexistantes dans les coalescents classiques. Nous déterminons un critère suffisant (et né- cessaire avec conditions) pour qu'un coalescent distingué descende de l'infini. C'est-à-dire qu'immédiatement après 0, le processus n'ait plus qu'un nombre fini de blocs. D'autre part, nous nous intéressons à une relation de dualité entre ces coalescents et des processus à valeurs dans les mesures de probabilité, appelés processus de Fleming-Viot généralisés avec immigration. Nous établissons des liens entre ces derniers et les processus de branchement continus avec immigration. Dans le cas d'un processus de branchement avec reproduction α-stable et immigration (α−1)-stable, nous montrons que le processus à valeurs mesures associé, renormalisé, est un processus de Fleming-Viot avec immigration changé de temps.

Dans cette thèse, nous nous intéressons à trois développements des arbres de ramification("splitting trees") introduits par Geiger & Kersting (1997), et aux processus de branchement de Crump-Mode-Jagers (CMJ) qui y sont associés. Ces arbres aléatoires modélisent une population où tous les individus ont des durées de vie indépendantes et identiquement distribuées et qui donnent naissance à taux constant b durant leurs vies à des copies d'eux-mêmes. Le processus comptant le nombre d'individus vivants au cours du temps est un processus CMJ binaire et homogène qui peut être vu comme une généralisation du processus de vie et de mort markovien dans lequel les durées de vie sont exponentielles. Dans un premier chapitre, nous considérons un modèle île-continent, généralisant celui de Karlin et McGregor, et dans lequel des individus portant des types immigrent à taux T vers une île et y fondent des familles qui évoluent indépendamment et suivant le mécanisme décrit précédemment. Différentes hypothèses sont faites sur la façon dont les types sont choisis (soit chaque nouvel immigrant est d'un type différent des précédents, soit il est de type i avec une proba pi, etc.) et nous déterminons les proportions asymptotiques de chacun des types dans la population totale. Dans le cas "nouvel immigrant=nouveau type", la limite suit une distribution GEM de paramètre T/b et nous remarquons qu'elle ne dépend que de ce rapport et pas de loi de la durée de vie des individus. Dans un second temps, nous étudions un autre modèle de population dans des mutations pouvant se produire à la naissance des individus avec une certaine probabilité. Nous considérons un modèle dit à une infinité d'allèles, c'est-à-dire que chaque mutant est d'un type (ou allèle) jamais rencontré auparavant, et neutre car quels que soient leurs types, les individus évoluent tous de la même manière. Nous étudions la partition allélique de la population en considérant son spectre de fréquence qui décrit le nombre de types d'âge donné et portés par un nombre donné d'individus. Nous obtenons des résultats concernant son comportement asymptotique en utilisant les caractéristiques aléatoires de Jagers & Nerman. Nous donnons également la convergence en loi des abondances des plus grandes familles et des âges des plus vieilles familles. Dans le dernier chapitre, nous nous intéressons à des processus de Lévy spectralement positifs (ou sans sauts négatifs), ne dérivant pas vers l'infini et que l'on conditionne à rester positifs en un nouveau sens. Pour cela, un processus X partant de x > 0 est conditionné à atteindre des hauteurs arbitrairement grandes avant de toucher 0 où le terme hauteur est à comprendre au sens du processus des hauteurs de Duquesne & Le Gall (2002). La loi du processus conditionné est définie à l'aide d'une h-transformée via une martingale. Lorsque X est à variation finie, l'argument principal est que X peut être vu comme le processus de contour d'un arbre de ramification et ainsi conditionner le processus de Lévy revient à conditionner l'arbre à atteindre des générations arbitrairement grandes. Lorsque X est à variation infinie, le processus des hauteurs est défini à l'aide de temps locaux et la martingale est construite à partir du processus d'exploration de Duquesne et Le Gall, qui est un processus de Markov à valeurs mesures.

L'objet de ce mémoire est de présenter de façon succincte les travaux que j'ai menés et auxquels j'ai collaboré depuis la fin de ma thèse. Ces travaux sont reliés par le thème central de la structure arborescente aléatoire ou du processus de branchement.

Cette thèse étudie le Q-processus de certains processus de branchement (superprocessus inhomogènes) ou de recombinaison (processus de Lambda-Fleming-Viot) via une approche généalogique. Dans le premier cas, le Q-processus est défini comme le processus conditionné à la non-extinction, dans le second cas comme le processus conditionné à la non-absorption. Des constructions trajectorielles des Q-processus sont proposées dans les deux cas. Une nouvelle relation entre superprocessus homogènes et processus de Lambda-Fleming-Viot est établie. Enfin, une étude du Q-processus est menée dans le cadre général des processus régénératifs

Dans le premier chapitre, nous étudions le conditionnement d'un processus de Lévy complètement asymétrique à demeurer dans un intervalle fini. <br /><br />Les deux suivants sont consacrés aux processus de branchement à espace d'états continu, qui sont des processus de Lévy sans saut négatif changés de temps : généalogie (deuxième chapitre), dont nous dérivons des théorèmes de type Ray-Knight, et conditionnement à ne jamais s'éteindre (troisième chapitre). <br /><br />Enfin, le dernier chapitre traite de théorie du renouvellement multivariée dans deux cas naturels d'ensembles aléatoires emboîtés.

Cette thèse est consacrée à l'étude de quelques propriétés mathématiques de deux modèles de population : le processus Fleming-Viot généralisé d'une part et le processus de branchement d'autre part. Dans les deux cas, la population est composée d'une infinité d'individus, chacun étant caractérisé par un type génétique. Au cours du temps les fréquences asymptotiques de ces types évoluent de façon aléatoire au travers d'événements de reproduction où un individu tiré aléatoirement donne naissance à une descendance portant le même type génétique. Mathématiquement ces deux modèles sont décrits par des processus aléatoires à valeurs mesures. Afin de donner un sens à la généalogie de la population sous-jacente, plusieurs approches ont été proposées au cours des quinze dernières années. La contribution principale de cette thèse consiste en l'unification de deux constructions : la représentation lookdown définie par Peter Donnelly et Thomas Kurtz en 1999 et les flots stochastiques de ponts (ou de subordinateurs) introduits au début des années 2000 par Jean Bertoin et Jean-François Le Gall. Cette unification nécessite l'introduction d'objets nouveaux (les Eves, les flots stochastiques de partitions) et repose sur une étude fine des comportements asymptotiques des deux modèles mentionnés précédemment. En particulier, nous définissons la propriété d'Eve comme suit : si la fréquence asymptotique d'un type génétique tend vers $1$ lorsque $t$ devient grand alors la population descend asymptotiquement d'un seul individu au temps initial, appelé l'Eve de la population. Dans le cas des processus de branchement nous obtenons une condition nécessaire et suffisante sur le paramètre du modèle (aussi appelé mécanisme de branchement) qui assure que cette propriété d'Eve est vérifiée. Nous obtenons également une classification complète de tous les autres comportements possibles. Dans le cas des processus Fleming-Viot généralisés, nous obtenons une classification partielle des comportements possibles en fonction du paramètre du modèle. Enfin, lorsque la propriété d'Eve est vérifiée, nous construisons de façon trajectorielle la représentation lookdown à partir d'un flot stochastique de ponts (ou de subordinateurs). Nous présentons également une étude complète du processus de branchement explosif conditionné à la non-explosion et faisons apparaître une famille infinie de mesures quasi-stationnaires pour ce processus. Finalement nous nous intéressons au processus des longueurs du coalescent de Kingman dynamique et présentons une construction alternative à celle de Pfaffelhuber, Wakolbinger et Weisshaupt.

L’objet de cette thèse est d’étudier la probabilité de survie d’un processus de branchement en environnement aléatoire markovien et d’étendre dans ce cadre les résultats connus en milieu aléatoire i.i.d.. le cœur de l’étude repose sur l’utilisation des théorèmes limites locaux pour une marche aléatoire centrée (Sn)n≥0 sur R à pas markoviens et pour (rnn)n≥0, où mn = min (0, S1,... , Sn). Pour traiter le cas d’un environnement aléatoire markovien, nous développons dans un premier temps une étude des théorèmes locaux pour une chaîne semi-markovienne à valeurs réelles en améliorant certains résultats déjà connus et développés initialement par E. L. Presman (voir aussi [21]). Nous utilisons ensuite ces résultats pour l’étude du comportement asymptotique de la probabilité de survie d’un processus de branchement critique en environnement aléatoire markovien. Les résultats principaux de cette thèse (théorème limite local et son application au processus de branchement critique eu milieu aléatoire) ont été acceptés et publiés dans le Comptes Rendus de l‘Académie des Sciences ([20]). Le texte principal de cette mémoire de thèse consisite les détails des preuves. / The purpose of this thesis is to study the survival probability of a branching process in markovian random environment and expand in this framework some known results which have been developed for a branching processus in i.i.d. random environment, the core of the study is based on the use of the local limit theorem for a centered random walk (Sn)n≥o on R with markovian increasements and for (mn)n≥0. where mn = min (O. S1,……. , Sn). In order to treat the case of a markovian random environment, we establish firstly a local limit theorem for a semi-markovian chain on R. which improves certain results developed initially by E. P. Presman (see also [21]). And then we use these results to study the asymptotic behavior of a critical branching process in markovian environment. The main results et this thesis (local limit theorem and its application to the critical branching process in random environment) are accepted and published in Comptes Rendus de l’Académie des Sciences ([20]). The principal text et this thesis contains the details of the proofs.

On considère une marche aléatoire réelle dont les accroissements sont construits à partir d’une chaîne de Markov définie sur un espace abstrait. Sous des hypothèses de centrage de la marche et de décroissance rapide de la dépendance de la chaîne de Markov par rapport à son passé (de type trou spectral), on se propose d’étudier le premier instant pour lequel une telle marche markovienne passe dans les négatifs. Plus précisément, on établit que le comportement asymptotique de la probabilité de survie est inversement proportionnel à la racine carrée du temps. On étend également à nos modèles markoviens le résultat des marches aléatoires aux accroissements indépendants suivant : la loi asymptotique de la marche aléatoire renormalisée et conditionnée à rester positive est la loi de Rayleigh. Dans un deuxième temps, on restreint notre modèle aux cas où la chaîne de Markov définissant les accroissements de la marche aléatoire est à valeurs dans un espace d’états fini. Sous cette hypothèse et lorsque que la marche est dite non-lattice, on complète nos résultats par des théorèmes locaux pour la marche aléatoire conjointement avec le fait qu’elle soit restée positive. Enfin on applique ces développements aux processus de branchement soumis à un environnement aléatoire, lui-même défini à partir d’une chaîne de Markov à valeurs dans un espace d’états fini. On établit le comportement asymptotique de la probabilité de survie du processus dans le cas critique et les trois cas sous-critiques (fort, intermédiaire et faible) / We consider a real random walk whose increments are constructed by a Markov chain definedon an abstract space. We suppose that the random walk is centred and that the dependence of the Markov walk in its past decreases exponentially fast (due to the spectral gap property). We study the first time when the random walk exits the positive half-line and prove that the asymptotic behaviour of the survey probability is inversely proportional to the square root of the time. We extend also to our Markovian model the following result of random walks with independent increments: the asymptotic law of the random walk renormalized and conditioned to stay positive is the Rayleigh law. Subsequently, we restrict our model to the cases when the Markov chain defining the increments of the random walk takes its values on a finite state space. Under this assumption and the condition that the walk is non-lattice, we complete our results giving local theorems for the random walk conditioned to stay positive. Finally, we apply these developments to branching processes under a random environment defined by a Markov chain taking its values on a finite state space. We give the asymptotic behaviour of the survey probability of the process in the critical case and the three subcritical cases (strongly, intermediate and weakly).

L’objet de cette thèse concerne l’étude asymptotique des processus de branchement sur-critiques en environnement aléatoire, qui sont une généralisation du processus de Galton-Watson, avec une loi de reproduction choisie aléatoirement et de manière i.i.d. suivant les générations. Dans le cas de non extinction, nous démontrons une succession de résultats asymptotiques plus fins que ceux établis dans des travaux antérieurs. Le chapitre 1 est consacré à l’étude de l’écart relatif entre le processus (Zn) normalisé et la loi normale. Nous établissons une borne de type Berry-Esseen ainsi qu’un développement pour des déviations de type Cramér, généralisant ainsi le théorème central limite et le principe des déviations modérées établis précédemment dans la littérature. Le second chapitre concerne l'asymptotique de la distribution du processus (Zn) ainsi que le moment harmonique critique de la variable limite W de la population normalisée. Nous établissons un équivalent de l'asymptotique de la distribution du processus Zn et donnons une caractérisation des constantes via une équation fonctionnelle similaire au cas du processus de Galton-Watson. Dans le cas des processus de branchement en environnement aléatoire, les résultats améliorent l'équivalent asymptotique de la distribution de Zn établi dans des travaux antérieurs sous normalisation logarithmique, sous la condition que chaque individu donne naissance à au moins un individu. Nous déterminons aussi la valeur critique pour l'existence du moment harmonique de W sous des conditions simples d'existence de moments, qui sont bien plus faibles que les hypothèses imposées dans la littérature, et généralisons le résultat à Z_0=k individus initiaux. Le troisième chapitre est consacré à l'étude de l'asymptotique des moments harmoniques d'ordre r>0 de Zn. Nous établissons un équivalent et donnons une expression des constantes. Le résultat met en évidence un phénomène de transition de phase, relié aux transitions de phase des grandes déviations inférieures du processus (Zn). En application de ce résultat, nous établissons un résultat de grandes déviations inférieures pour le processus (Zn) sous des hypothèses plus faibles que celles imposées dans des travaux précédents. Nous améliorons également la vitesse de convergence dans un théorème central limite vérifié par W_n-W, et déterminons l'asymptotique de la probabilité de grandes déviations pour le ratio Zn+1/Z_n. / The purpose of this Ph.D. thesis is the study of branching processes in a random environment, say (Z_n), which are a generalization of the Galton-Watson process, with the reproduction law chosen randomly in each generation in an i.i.d. manner. We consider the case of a supercritical process, assuming the condition that each individual gives birth to at least one child. The first part of this work is devoted to the study of the relative and absolute distance between the normalized process log Z_n and the normal law. We show a Berry-Esseen bound and establish a Cramér type large deviation expansion, which generalize the central limit theorem and the moderate deviation principle established for log Z_n in previous studies.In the second chapter we study the asymptotic of the distribution of Z_n, and the critical value for the existence of harmonic moments of the limit variable W of the normalized population size. We give an equivalent of the asymptotic distribution of Z_n and characterize the constants by a functional relation which is similar to that obtained for a Galton-Watson process. For a branching process in a random environment, our result generalizes the equivalent of the asymptotic distribution of Z_n established in a previous work in a log-scale, under the condition that each individual gives birth to at least one child. We also characterize the critical value for the existence of harmonic moments of the limit variable W under weaker conditions that in previous studies and generalize this result for processes starting with Z_0=k initial individuals. The third chapter is devoted to the study of the asymptotic of the harmonic moments of order r>0 of Z_n. We show the exact decay rate and give an expression of the limiting constants. The result reveals a phase transition phenomenon which is linked to the phase transitions in the lower large deviations established in earlier studies. As an application, we improve a lower large deviation result for the process (Z_n) under weaker hypothesis than those stated in the literature. Moreover, we also improve the rate of convergence in a central limit theorem for W-W_n and give the asymptotic of the large deviation for the ratio Zn+1/Z_n.