Le modèle linéaire mixte a été formalisé il y a plus de 60 ans. Celui-ci permet d'estimer un modèle avec des effets fixes équivalents à ceux du modèle linéaire classique et des effets aléatoires. Ce type de modélisation, d'abord utilisé en génétique animale, est depuis quelques années largement utilisé en génétique humaine. Les utilisations de ce modèle sont nombreuses. En effet, il peut être utilisé en étude de liaison, d'association, pour l'estimation de l'héritabilité ou encore dans la recherche d'empreinte parentale et peut s'adapter à des données familiales ou en population.Le but de mon doctorat est d'exploiter différentes méthodes basées sur les modèles mixtes d'abord sur des données génétiques en population puis sur des données génétiques familiales.Dans un premier temps, nous explorons dans ce manuscrit la théorie des modèles linéaires mixtes et leur utilisation en génétique. Nous adaptons aussi certaines méthodes pour les appliquer à notre recherche. Ce travail a donné lieu au développement informatique d'un package R permettant d'utiliser ces modèles dans le cadre des études génétiques.Dans un deuxième temps, nous utilisons les modèles linéaires mixtes pour l'estimation de l'héritabilité dans une étude en population française, l'étude Trois-Cités. Nous disposons dans cette étude des génotypes des tag-SNPs habituellement utilisés dans les études d'association ainsi que des lieux de naissance et de plusieurs traits anthropométriques quantitatifs tels que la taille. L'objectif est alors d'étudier la présence et la prise en compte dans l'analyse de stratification de population dans cette étude. Dans ce manuscrit, nous analysons les coordonnées géographiques des lieux de naissance. Nos résultats mettent en évidence la difficulté pour corriger correctement la stratification de population avec les méthodes classiques dans certains cas. Nous analysons ensuite les traits anthropométriques en particulier la taille dont nous estimons l'héritabilité à 39% dans la population de l'étude Trois-Cités.Dans la dernière partie de ce manuscrit, nous nous concentrons sur les données familiales. Nous montrons le gain d’information que peut apporter ce type de données dans la recherche des variants causaux. Puis, nous explorons l'utilisation des modèles mixtes sur des données familiales en appliquant certaines des méthodes associées dans la recherche de signaux d'association pour la Sclérose en Plaques, une maladie auto-immune, en utilisant un échantillon d’une centaine de familles nucléaires avec au moins deux germains atteints. Nous avons alors mis en évidence l’inadéquation des méthodes classiques basées sur les modèles mixtes à ce type de données. Afin de mieux comprendre ce biais de sélection et de le corriger, plus d’investigations sont nécessaires. / Linear mixed models have been formalized 60 years ago. These models allow to estimate fixed effects, as in the linear models, and random effects. First used in animal genetics, this type of modelling have been widely used in human genetics since a few years. Mixed models can be used in many genetic analysis; linkage and association studies, heritability estimations and Parent-of Origin effects studies for population or familial data.My thesis’ aim is to investigate mixed models based methods, for genetic data in population and, for familial genetic data.In the first part of my thesis, we investigated the mixed model statistical theory and their multiple uses in human genetics. We also adapted methods for our own work. An R package have been created which permits to analyze genetic data in R environment with mixed models.In a second part, we applied mixed models on Three-Cities data, a French longitudinal study, to estimate heritability of several traits. For this analysis, we have access to tag-SNPs typically used in genome-wide association studies, birthplaces and several anthropometric traits. The aim of our study is to analyze presence of population stratification and evaluate methods to correct it. In the one hand, we analyzed birthplace geographic coordinates and showed that the correction for population stratification by classical method is not sufficient in this case. In the other hand, we analyzed anthropometric traits, in particular the height for which we estimated heritability to 39% in Three-Cities study population.In the last part, we focused on family data. In a first work, we exploited familial information in causal variant research. In a second work, we explored mixed models uses for familial data, in particular association study, on Multiple Sclerosis data. We showed that mixed model methods can not be used without taking account the ascertainment scheme: in our data, all families have at least two affected sibs. To understand and correct this phenomenon, more investigations are needed.

L'étude de la survie nette des patients atteints de cancer en population générale permet d'apprécier l'efficience globale du système de soin d'un pays. La survie nette se définit comme la survie qui serait observée si la seule cause de décès possible était le cancer. Ce concept est fondamental dans les comparaisons entre zones géographiques et/ou périodes de diagnostic dont l'intérêt est d'estimer les variations spécifiques de la mortalité due au cancer. Le concept de survie nette permet de prendre en compte les éventuelles différences de mortalité naturelle entre les groupes comparés. Actuellement, seuls deux outils estiment la survie nette sans biais : l'estimateur non paramétrique de Pohar-Perme et la modélisation paramétrique ajustée sur certaines covariables (essentiellement l'âge). Par ailleurs, les outils paramétriques s'étant perfectionnés, de nouveaux modèles flexibles permettent de modéliser les effets complexes des variables sur la mortalité. Ce travail repose sur la modélisation du taux de mortalité en excès à la suite d'un lymphome malin non hodgkinien, en se basant sur le modèle proposé par Remontet et al. et sur la nécessité de modéliser conjointement les effets complexes des covariables (telles que le temps de suivi, l'année de diagnostic et l'âge) sur la mortalité à l'aide d'une stratégie de modélisation adaptée. L'effet des variables est restitué sur la survie nette mais aussi sur le taux de mortalité en excès ce qui représente un élément nouveau dans les études de survie. Deux applications ont été menées sur des bases de données collaboratives de population : d'une part sur les données françaises du réseau FRANCIM à la suite d'un diagnostic de lymphome folliculaire entre 1995 et 2010 et, d'autre part, sur les données européennes d'EUROCARE-5 après un lymphome folliculaire ou un lymphome B diffus à grandes cellules diagnostiqué entre 1996 et 2004. Les résultats montrent que la dynamique du taux de mortalité en excès au cours du temps de suivi varie en fonction du sous-type de lymphome, de l'âge et de la zone géographique. Les tendances de cette dynamique en fonction de l'année de diagnostic sont également différentes / The net survival of cancer patients in population studies is the most relevant indicator to assess the overall efficiency of the healthcare system of a country. Net survival is defined as the survival that would be observed if the sole cause of death were cancer. This concept is crucial in comparative studies (between geographical areas and/or periods of diagnosis) that estimate specific variations of cancer-related deaths. Net survival takes into account potential differences in mortality patterns between groups. Currently, two methods provide unbiased estimations of net survival: the non-parametric estimator of Pohar-Perme and the parametric model adjusted on specific covariates (mainly, the age at diagnosis). Moreover, new improved parametric tools, such as flexible models, can model the complex covariate effects on mortality. In this work, we modeled the excess mortality rate after a non Hodgkin lymphoma diagnosis, with a model developed by Remontet et al. In addition, we used an appropriate model-building-strategy to model jointly the complex effects of some covariates (such as the time elapsed since diagnosis, the year of diagnosis, and age) on the excess mortality. Finally, this approach allowed for the covariate effects on the net survival and on the excess mortality rate. We applied this method to two different collaborative databases: first on the French database FRANCIM (1995 to 2010) to study the excess mortality after diagnosis of follicular lymphoma, then on the European data of EUROCARE-5 (1996 to 2004) to study the excess mortality after diagnosis of follicular lymphoma and diffuse large B-cell lymphoma. According to the results, the dynamics of the excess mortality rate varies over the time elapsed since diagnosis according to the lymphoma subtype, the age, and the geographical area. The trends of these dynamics over the years of diagnosis are different too