Cette thèse se propose d'étudier la thermodynamique de la matière nucléaire qui constitue l'écorce des proto-étoiles et étoiles à neutrons. Une connaissance détaillée des propriétés thermodynamiques de la matière d'étoile est nécessaire afin d'améliorer la compréhension des phénomènes physiques impliqués dans le refroidissement des proto-étoiles, et dans la formation de supernovae de type II. L'un des objectifs fondamentaux est d'extraire le diagramme des phase de la matière d'étoile afin de déterminer si celui-ci présente des instabilités et/ou des points critiques. Le travail présenté ici se divise en deux parties, une première portant sur des approches classiques, et une seconde sur une approche quantique. Les approches classiques sont basées sur le modèle d'Ising et le groupe de renormalisation. Elles vont nous permettre d'obtenir des informations qualitatives sur la phénoménologie des transitions de phase de la matière d'étoile, et de discuter l'influence de la frustration Coulombienne sur le diagramme des phases. L'approche quantique est basée sur un modèle de dynamique moléculaire fermionique que nous avons dérivé à partir du formalisme de la fonctionnelle de la densité, et implémenté numériquement avec des forces de Skyrme optimisée pour la matière riche en neutrons. Le travail de cette thèse montre des premières applications à l'étude thermodynamique de systèmes finis, et à des calculs de structure nucléaire pour des noyaux légers. Nous proposerons également une ébauche du formalisme qui permettra à terme de traiter numériquement le problème quantique de la matière infinie d'étoile à l'aide du modèle de dynamique moléculaire.