La formation et l'évolution des galaxies reste à ce jour un des mystères de l'Univers observable. Dans le but d'améliorer notre connaissance dans ce domaine, la recherche a utilisé les différentes campagnes d'observation pour caractériser les relations d'échelle des propriétés physiques dans le but de mieux contraindre et comprendre les populations de galaxies aux différentes étapes de leur vie au cours de l'histoire de l'Univers. Depuis les dernières décennies, les études tentent d'étendre ces relations d'échelles dans l'espace des paramètres. C'est dans ce mouvement là que s'inscrit ce projet de thèse. La photométrie des galaxies à haut redshift contient la signature des propriétés physiques comme la masse stellaire, le taux de formation stellaire et l'extinction. Dans cette étude, j’ai réalisé une analyse SED des galaxies amplifiées à z>3 en utilisant les images profondes de Hubble, Bande-K et IRAC des Fontier Fields. Nous avons réalisé la décontamination de ces images en ajustant automatiquement les galaxies avec GALFIT, en utilisant un script Python développé qui prend en compte les niveaux de contamination relatif de toutes les galaxies du champ. Nous avons ensuite ajusté les SEDs décontaminées en utilisant des synthèses de populations stellaires.J’ai appliqué cette méthode pour obtenir les SFR, les SM et les tailles d'un échantillon de 63 galaxies à z>3 détectées dans les champs de A2744 et MACS0416, spectroscopiquement confirmées par MUSE. L'amplification très forte de ces amas nous a permis de collecter un échantillon robuste de galaxies de faibles masses/faibles luminosité, permettant de contraindre les relations d'échelles dans des zones encore in-explorées / Galaxy formation and evolution is one of the most challenging mysteries in the observable Universe. In order to improve our knowledge in this field, the research make use of different observation programs to characterize scaling relations of physical properties, to better constrain and understand galaxy population at different stages of their lives throughout the history of the Universe. Since the past decades, studies are trying to extend those scaling relations in the parameter space. It is in this movement that this thesis project fits. The Spectral Energy Distribution(SED) of high redshift galaxies contains the signature of physical properties such as stellar mass, SFR and extinction. In this work, we perform a SED analysis of magnified galaxies at z>3 using deep Hubble, VLT and Spitzer/IRAC images of the Frontier Fields galaxy clusters. Due to the size of the Kband PSF and specially IRAC PSF and the high density of bright cluster members, it is crucial to deblend Kband and IRAC images to get a reliable SED. We do this by automatically fitting the contaminating galaxies with GALFIT, using a custom Python script which accounts for the relative levels of contamination from each cluster member. We model the decontaminated SED using stellar population models. We apply this method to derive SFR, masses and sizes of a sample of 63 galaxies at z>3 detected in the A2744 and MACS0416 fields, spectroscopically confirmed with MUSE. The very strong amplification of these clusters allow us to collect a robust sample of low-mass galaxies (108 M?), probing the low-luminosity part of scaling relations between stellar mass & size and stellar mass & stellar formation rate

Durant les deux dernières décennies, de nombreux efforts ont été apportés pour comprendre le processus de formation des structures de l'Univers jeune. Les avancées dans les technologies observationnelles atteintes aujourd'hui permettent d'observer des galaxies de plus en plus loin, y compris celles responsables de la réionisation cosmique qui a eu lors du premier milliard d'années de l'Univers. L'objectif principal de cette thèse a été de poser des contraintes sur la nature et l'abondance des sources responsables de la réionisation cosmique. Plus précisément, l'étude s'est portée sur les galaxies qui forment des étoiles et qui ont une émission Lyman-alpha (LAE) entre z ~ 3 et 6.7. Il est à noter que cette thèse a été réalisée au sein du consortium MUSE, tout nouvel instrument installé au VLT en janvier 2014 dont nous avons exploité les données du GTO. Ce travail de thèse a permis de confirmer la puissance inégalée de MUSE au niveau de la détection et de l'étude de sources extragalactiques faibles sans aucune présélection. Nous avons observé quatre amas-lentilles dont l'amplification de la lumière permet la détection de sources à faible luminosité, au prix d'une diminution du volume d'Univers observé. Nous nous sommes d'abord focalisés sur l'étude de l'amas de galaxies Abell 1689 afin de structurer une méthodologie applicable aux autres amas. En comparant la densité volumique des LAEs détectés aux différentes fonctions de luminosité (FdL) de la littérature, nous sommes arrivés à la conclusion suivante : la pente de la loi de puissance que décrit la fonction de Schechter pour la partie la plus faible est plus petite que alpha <= -1.5, ce qui signifie que le nombre de LAEs croît extrêment vite vers les faibles luminosités. Nous avons ensuite appliqué cette méthode aux autres amas de notre échantillon observés par MUSE. Les LAEs identifiés et mesurés dans ces amas sont typiquement dix fois plus faibles que ceux observés dans les champs vides (39 < log(Lya) < 42.5). Environ un tiers de ces LAEs n'a pas de contrepartie dans le continuum jusqu'à AB ~ 28 sur les images HST et n'aurait donc jamais été vu sur des relevés pointés. Le catalogue final contient plus de 150 LAEs, ce qui nous a permis d'étudier la contribution des objets les plus faibles, ainsi que l'évolution de la pente en fonction du redshift. Les résultats obtenus semblent confirmer que la pente alpha est proche de -2 pour l'ensemble des LAEs compris entre 2.9 < z < 6.7. On observe aussi une évolution de alpha, qui passe de -1.8 à -1.95 entre z ~ 3-4 et z ~ 5-7, un résultat original et non dépendant des données utilisées pour la partie brillante de la FdL. L'intégration de cette FdL permet ensuite de calculer la densité de photons ionisants émis par ces LAEs et de déterminer leur impact relatif sur la réionisation cosmique. A l'avenir, la profondeur de champ atteinte par les données du James Webb Space Telescope (JWST) va repousser la limite de détection de ces galaxies jusqu'à z ~ 8. L'utilisation de spectrographes dans le proche infrarouge comme MOSFIRE/Keck, KMOS/VLT ou le tout récent EMIR/GTC permettent déjà de confirmer des candidats à z >= 7. Cette thèse a apporté des nouvelles contraintes sur la partie faible de la FdL des LAEs pour un redshift allant jusqu'à z ~ 6, un début donc de ce que l'on va pouvoir faire dans les années à venir pour des redshifts de l'ordre de z ~ 7-8. / Significant efforts have been put for the past two decades to understand the formation process of structure in the early Universe. The recent technological advances in the observational field allow for observing galaxies further and further, even the ones responsible for the cosmic reionization which occurred during the first billion years of the Universe. The main goal of this thesis was to impose constraints on the nature and the abundance of the sources responsible of the cosmic reionization. More specifically, the study was focused on the star-forming galaxies that have a Lyman-alpha emission (LAE) between z ~ 3 and 6.7. This thesis has been conducted within the framework of the MUSE consortium, a brand new instrument installed on the VLT in January 2014, as part of the exploitation of the Guaranteed Time (GTO). This thesis work has enabled us to confirm the unrivalled power of MUSE concerning the detection and the study of weak extragalactic sources without any preselection. We have observed four lensing clusters which magnify the incident light and make it possible to detect faint sources, at the expense of a decrease of the volume of the observed Universe. At first we started with the study of the galaxy cluster Abell 1689 in order to build up a methodology we intend to apply on other galaxy clusters. By comparing the volume density of the detected LAEs to the luminosity functions (LF) coming from the literature, we have reached the following conclusion : the slope of the power law from the Schechter function is smaller than alpha <= -1.5, which means that the number of LAEs increases drastically towards the faint luminoities. Then we have applied the new-build method to the other galaxy clusters of our sample observed with MUSE. The LAEs we have detected and measured in this sample are roughly ten times fainter than the ones observed in blank fields thanks to the lensing effect (39 < log(Lya) < 42.5). About one third of them lacks a counterpart in the continuum up to AB ~ 28 on the HST images and couldn't have been seen on targeted surveys. The final catalog includes more than 150 LAEs, this amount has enabled us to study the contribution of the faintest ones and also the evolution of the slope according to the redshift. The results of this work seem to confirm that the slope alpha is close to -2 for all the 2.9 < z < 6.7 LAEs. Furthermore, one can notice the evolution of alpha from -1.8 to -1.95 between z ~ 3-4 and z ~ 5-7, an original result and irrespective of the data set used to complement the present sample towards the bright region of the LF. The integral of the LF allows for working out the ionizing photons density emitted by these LAEs and for determining their relative impact on the cosmic reionization. In the future, the depth of the James Webb Space Telescope (JWST) observations will improve the limits of galaxy detection, certainly up to z ~ 8. The use of near-IR spectrographs such as MOSFIRE/Keck, KMOS/VLT or the very recent EMIR/GTC already provides the confirmation of z >= 7 candidates. This thesis brought new constraints on the faint-end part of the LF of LAEs for a redshift up to z ~ 6, which represents a beginning with respect to all we can do in the coming years for redshifts up to z ~ 7-8.