L’objectif de cette thèse est d’améliorer la détermination de la masse des rayons cosmiques d’ultra haute énergie faite à l’Observatoire Pierre Auger. Aujourd’hui cette mesure est faite à travers l’utilisation de télescopes à fluorescence qui nécessitent des conditions de luminosité spéciales réduisantle cycle utile à environ 10%. Trois approches différentes sont proposées:La première approche est une nouvelle analyse. Les muons issus des gerbes horizontales sont déviés par le champ magnétique terrestre. Cette déviation modifie l’empreinte au sol des gerbes atmosphériques et est fonction de la longueur de parcours des muons. Un estimateur de Xμmax, leur point de productionmaximum, qui dépend de la masse du primaire peut être construit.La deuxième approche explore la détection du rayonnement radio émis par les gerbes atmosphériques, une technique similaire à la fluorescence mais sans limitation du cycle utile. La détection du rayonnement de Bremsstrahlung moléculaire est revue et explorée de différentes manières.La troisième approche propose un nouveau type de détecteur pour le réseau de surface, ces détecteurs ayant une réponse distincte aux différentes composantes des gerbes atmosphériques : électromagnétique et muonique. La mesure de la composante muonique est aussi un moyen d’accéder à la nature du primaire.La nouvelle analyse semble un outil prometteur qui peut s’appliquer à tout lot de données. La radio-détection en revanche n’apparaît pas comme une alternative compétitive face aux techniques traditionnelles. Le nouveau détecteur offre de belles perspectives et devrait être considéré pour l'équipementdes futurs observatoires. / The motivation of this PhD thesis is to improve the capabilities to determine the mass composition of the ultra-high energy cosmic rays in the Pierre Auger Observatory. The measure of their mass composition is done with the fluorescence technique, that needs special luminosity conditions that reduce the exposure time to about 10% of the time. Three different approaches are proposed.The first approach is a new analysis. Muons in the horizontal showers are deviated by the magnetic field of the Earth. This deflection is related with different characteristics of the extensive air shower that allow the construction of an estimator to obtain an alternative measure of Xμmax, an observable sensitive to the mass of the primary.The second approach is to explore the detection of the radio emission produced in the extensive air showers, a technique similar to the fluorescente one, but without the limitations in the duty cycle. The detection of the Molecular Bremsstrahlung Radiation emission is revised and investigated from different points of view.The third approach is to propose a new surface detector that obtains different responses to the different components of the extensive air shower: electromagnetic and muonic. The access to the muonic component is another way to access to the composition of the primary particle.The new method of analysis proposed appears as a promising tool to be applied in any data set. The technique of the radio detection did not show clear indications of being an alternative to traditional techniques. The new detector represents a promising alternative to be considered in any future ultra-high energy cosmic rays experiment.