Les Néandertaliens, dont l'évolution a eu lieu en Europe sur environ 300kans, disparaissent vers 30kans. Les déterminants de cette disparition restent encore aujourd'hui très discutés et plusieurs hypothèses tentent d'en expliquer les causes. Parmi celles privilégiées à ce jour on peut citer l'influence du climat, d'une compétition avec Homo sapiens, d'une épidémie ou de modifications démographiques. Cette recherche doctorale revisite ces différentes hypothèses par le biais de la modélisation mathématique. Cette approche originale synthétise et potentialise les données de la paléontologie classique afin de mieux comprendre les phénomènes associés à l'extinction des Néandertaliens. Après avoir réalisé une étude démographique à l'aide de modèle classiques, nous avons conçu des modèles déterministes spécifiques pour analyser les Néandertaliens et la chaine alimentaire à laquelle ils sont associés. Une fois ces modèles testés et validés, nous les avons utilisés pour analyser l'évolution démographique de la population néandertalienne au cours du stade isotopique 3 et nous avons comparés nos résultats avec les données des études préhistoriques, archéozoologiques ou encore paléoanthropologiques. Suite à notre analyse, nous suggérons d'exclure certaines hypothèses souvent avancées comme la compétition pour la ressource, les oscillations climatiques ou encore les épidémies. Une modification des caractéristiques intrinsèques de la population (fécondité et/ou vitesse de maturation) nous semble être une hypothèse bien plus plausible pour expliquer la disparition des Néandertaliens. / The Neanderthal population lived and thrived in Europe during about 300ky in Middle Pleistocene. The causes of their disappearance about 30ky ago are strongly debated. Among the current hypotheses developed to explain this demographical crisis, competition with Modern humans, climate changes, epidemic diseases or demographical changes have often been evoked. The aim of this thesis was to re-analyse these assumptions and their determinants by using mathematical modelling. Models are used here to synthesize the data obtained by classical paleoanthropological studies and try to understand the complex and unknown phenomenon relative to the dramatic demographic fluctuation observed in Neanderthal populations during OIS3. Classical mathematical models are firstly used to analyse the influence of both demographical parameters and environmental stresses on the Neanderthal population. Next, we created new deterministic models more specified to the Neanderthal population. After checking the relevance of these models, we used them to analyse the demographical crisis of OIS3 and the information given by modelling have been checked with the information supplied by classical paleoanthropological, zooarchaeological and prehistorical studies. Our results allowed us to exclude the assumption of an epidemic disease or a climate change or even a resource competition as a cause of Neanderthal extinction whereas competition in a broad sense and above all demographic change could have led, under specific conditions, to Neanderthal demise. A demographic modification in the Neanderthal population across the time, in terms of fecundity or maturation speed, could be the reason of Neanderthals disappearance.