Dans cette thèse nous considérons une population branchante générale où les individus vivent et se reproduisent de manière i.i.d. La durée de vie de chaque individu est distribuée suivant une mesure de probabilité arbitraire et chacun d'eux donne naissance à taux exponentiel. L'arbre décrivant la dynamique de cette population est connu sous le nom de splitting tree. Le processus comptant le nombre d’individus vivant au temps t est connu sous le nom de processus de Crump-Mode-Jagers binaire homogène, et il est connu que ce processus, quand correctement renormalisé, converge presque sûrement en temps long vers une variable aléatoire. Grâce à l'étude du splitting tree sous-jacent à la population via les outils introduit par A. Lambert en 2010, nous montrons un théorème central limite pour cette convergence p.s. dans le cas surcritique. Nous supposons, de plus, que les individus subissent des mutations à taux exponentiel sous l'hypothèse d'infinité d'allèles. Nous nous intéressons alors au spectre de fréquence allélique de la population qui compte la fréquence des tailles de familles dans la population à un instant donnée. Grâce aux méthodes développées dans cette thèse, nous obtenons des résultats d’approximations du spectre de Fréquence. Enfin nous nous intéressons à des questions statistiques sur des arbres de Galton-Watson conditionnés par leurs tailles. Le but est d'estimer la variance de la loi de naissance rendue inaccessible par le conditionnement. On utilise le fait que le processus de contour d'un tel arbre converge vers une excursion Brownienne quand la taille de l'arbre grandit afin de construire des estimateurs de la variance à partir de forêts / In this thesis we consider a general branching population. The lifetimes of the individuals are supposed to be i.i.d. random variables distributed according to an arbitrary distribution. Moreover, each individual gives birth to new individuals at Poisson rate independently from the other individuals. The tree underlying the dynamics of this population is called a splitting tree. The process which count the number of alive individuals at given times is known as binary homogeneous Crump-Mode-Jagers processes. Such processes are known, when properly renormalized, to converge almost surely to some random variable. Thanks to the study of the underlying splitting tree through the tools introduced by A. Lambert in 2010, we show a central limit theorem associated to this a.s. convergence. Moreover, we suppose that individuals undergo mutation at Poisson rate under the infinitely many alleles assumption. We are mainly interested in the so called allelic frequency spectrum which describes the frequency of sizes of families (i.e. sets of individuals carrying the same type) at fixed times. Thanks to the methods developedin this thesis, we are able to get approximation results for the frequency spectrum. In a last part, we study some statistical problems for size constrained Galton-Watson trees. Our goal is to estimate the variance of the birth distribution. Using that the contour process of such tree converges to a Brownian excursion as the size of the tree growth, we construct estimators of the variance of the birth distribution

Cette thèse étudie des modèles de populations branchantes appelés arbres de ramification, dans lesquels les individus évoluent indépendamment les uns des autres, ont des durées de vie indépendantes, identiquement distribuées (non nécessairement exponentielles), et donnent naissance à taux constant au cours de leur vie. On enrichit ces modèles en supposant que chaque individu porte un type et peut subir à la naissance une mutation, qui lui confère un nouveau type. On démontre dans le premier chapitre des résultats théoriques de convergence en loi pour des processus de Lévy bivariés sans sauts négatifs. Ces résultats sont ensuite exploités dans le deuxième chapitre pour établir un principe d'invariance pour l'arbre généalogique des populations décrites ci-dessus, enrichi de leur historique mutationnel, dans une asymptotique de grande taille de population. Enfin, on étudie dans le troisième chapitre la structure généalogique et le spectre de fréquence par site (nombre de mutations portées par un nombre donné d'individus) d'échantillons uniformes dans des populations branchantes critiques dont la limite d'échelle est un arbre brownien (par exemple, des arbres de naissance et mort critiques). Des perspectives d'applications de ces résultats à la génétique des populations sont présentées dans le quatrième chapitre. / This thesis studies branching population models called splitting trees, where individuals evolve independently from one another, have independent and identically distributed lifetimes (that are not necessarily exponential), and give birth at constant rate during their lives. We further assume that each individual carries a type, and possibly undergoes a mutation at her birth, that changes her type into a new one. In the first chapter, we prove convegence results for bivariate Lévy processes with non negative jumps. These theoretical results are used in the second chapter to establish an invariance principle for the genealogical tree of the populations described above, enriched with their mutational history, in a large population size asymptotic. Finally we study in the third chapter the genealogical structure and the site frequency spectrum (number of mutations carried by a given number of individuals) for uniform samples in critical branching populations whose scaling limit is a Brownian tree (e.g., critical birth-death trees). Possible future applications of these results to population genetics are presented in the fourth chapter.