L'étude des rayons cosmiques de ultra haute énergie, particules dont la nature et l'origine reste encore aujourd'hui inconnue, s'effectue par la mesure de cascade de particule appelée gerbes cosmiques créées lors de leur interaction avec l'atmosphère terrestre. Deux techniques permettent de détecter et de caractériser ces gerbes : la détection au sol par réseaux de détecteurs de particules et la détection de la lumière de fluorescence émise par la gerbe. Idée datant des années 1960, la radiodétection de gerbes cosmiques par la mesure du champ électrique induit par les particules chargées de la cascade fut à l'époque abandonnée à cause de difficultés techniques. Créée en 2002, l'expérience CODALEMA a dans sa première configuration permis de prouver la faisabilité et l'intérêt de la radiodétection pour l'étude des rayons cosmiques. L'expérience a depuis subi une évolution majeure en remplaçant les antennes logpériodiques par des dipôles actifs dédiés à la radiodétection et en installant un trigger réalisé par un réseau de 17 scintillateurs capables de fournir une estimation de l'énergie des particules primaires. L'objectif de CODALEMA est de caractériser le signal électrique induit par une gerbe cosmique en fonction des paramètres physiques de la gerbe. Cette thèse présente, entre autre, les distributions angulaires des directions d'arrivées des gerbes mesurées par CODALEMA. Elles permettent pour la première fois de prouver l'origine géomagnétique du champ électrique induit par une gerbe. Les distributions latérales de champ électrique induit, ainsi que la corrélation entre l'énergie du primaire et l'amplitude du signal électrique sont également présentées.

Étudiée pour la première fois dans les années 60, la technique de radiodétection des gerbes atmosphériques montra des résultats prometteurs mais limités par les capacités techniques de l'époque. H.R.Allan synthétisa alors l'ensemble des connaissances dans une revue extensive dont les conclusions et les prédictions font encore référence aujourd'hui. L'expérience CODALEMA a été conçue en 2001 à l'observatoire de Nançay, d'abord comme un démonstrateur de la faisabilité de la technique de radiodétection des rayons cosmiques. Modifiée en profondeur en 2005, elle a permis de mettre en place une première corrélation en énergie et de prouver sans ambiguïté la prépondérance du champ magnétique terrestre dans l'émission radio de la gerbe. Le passage à de grandes surfaces de détection est la prochaine étape du développement de la technique. L'autonomie des détecteurs devient alors un élément crucial. Précédée de prototypes de tests installés en 2006 au sein de l'observatoire Pierre Auger, une nouvelle génération de détecteurs a depuis été développée et ses résultats sont détaillés. Cette thèse traite également des différentes problématiques liées à la technique de radiodétection : réponse d'antenne, sensibilité, impact de l'environnement, surveillance d'une expérience à grande échelle. La détermination, indépendamment d'un autre détecteur, des caractéristiques de la gerbe est discutée notamment la distribution latérale, la corrélation en énergie et la composition en fréquence du signal radio.

Le projet EUSO (Extreme Universe Space Observatory) est basé sur un concept novateur pour mesurer le flux de RCUE (Rayon Cosmique Ultra Energétique) en observant depuis l'espace la lumière (fluorescence de l'air et rayonnement Cerenkov) produite par les gerbes atmosphériques. <br />Après une vue générale du contexte scientifique et une description du projet EUSO, une méthode de reconstruction des gerbes vues depuis l'espace est présentée. Cette méthode originale permet de reconstruire les caractéristiques d'un RCUE en utilisant uniquement la forme du signal de fluorescence produit par la gerbe au cour de temps (sans autre source d'information). Cette méthode a des résultats particulièrement intéressants pour les gerbes horizontales.<br />La deuxième partie de cette thèse concerne l'étude et la mesure de la fluorescence de l'air grâce à l'expérience MACFLY (Measurement of Air Cerenkov and Fluorescence Light Yield). Après un état de l'art de nos connaissances dans le domaine, un modèle de FLY (quantité de lumière produite par fluorescence) proportionnelle à l'énergie déposée dans l'air est proposé. Ensuite l'expérience MACFLY et la méthode d'analyse des données utilisée sont décrites en détail. L'expérience est composé de deux dispositifs. Le premier (Macfly1) qui mesure la fluorescence produite par une seule particule a mesuré la FLY d'électron de 1,5 MeV (source radioactive), 20 GeV et 50 GeV (faisceau test du CERN). Le deuxième (Macfly2) qui mesure la fluorescence produite par une gerbe électromagnétique, a permis de faire la première mesure mondiale de la dépendance de la FLY avec l'âge de la gerbe. La dépendance en pression a également été mesurée avec les deux dispositifs.<br />Grâce à un programme de simulation GEANT4, nous comparons nos mesures aux modèles de fluorescence. L'hypothèse de la proportionnalité entre la FLY et l'énergie déposée dans l'air a été vérifiée. On trouve le même résultat avec Macfly1 et Macfly2. Dans l'air à 950 hPa, 23°C et 0% d'humidité on obtient :<br />FLY=19 ± 4 photons/MeV

L'observatoire Pierre Auger se propose de recueillir une statistique sans précédent concernant le spectre des rayons cosmiques d'ultra haute énergie. Les quelques données actuelles suggèrent une absence de coupure GZK, coupure liée à la distance d'atténuation des protons dans un milieu de propagation tel que le rayonnement fossile à 3K.<br> Après avoir étudié l'effet des champs magnétiques extragalactiques sur la propagation des rayons cosmiques et l'influence sur le spectre, une grande partie du chapitre consacré à la description de l'expérience Auger sera laissée au système d'acquisition des données.<br> L'étude des gerbes atmosphériques initiées dans la haute atmosphère sous incidence rasante est riche d'enseignements concernant la possibilité de détection de neutrinos. Une procédure de reconstruction de l'énergie des gerbes rasantes hadroniques est formalisée et appliquée aux événements du prototype dans le chapitre 4, et le calcul de la sensibilité aux neutrinos du détecteur complet est donné dans le chapitre 5.<br> Enfin, l'analyse des données de l'année 2002 du réseau prototype de l'expérience Auger est l'objet du chapitre 6.

Malgré l'utilisation de détecteurs géants adaptés aux faibles flux au-delà de 1018 eV, l'origine du rayonnement cosmique d'ultra-haute énergie reste pour l'instant mal établie. Dans les années 60, la détection radio des gerbes a été proposée comme une technique complémentaire à la détection de particules au sol ou à la détection par fluorescence. Un renouveau de cette méthode s'est opéré à partir des années 2000, avec notamment l'expérience CODALEMA. Les premiers résultats obtenus ont montré une forte dépendance du signal au champ géomagnétique et une forte corrélation entre l'énergie estimée par la radio et par les détecteurs de particules. La nouvelle génération de détecteurs radio créée par la collaboration CODALEMA permet aujourd'hui de démontrer qu'il est possible de détecter des gerbes de manière autonome. De part les performances attendues (cycle utile de presque 100%, signal provenant de l'ensemble de la gerbe, simplicité et faible coût du détecteur), il pourrait être envisagé de déployer cette technique pour les prochains grands réseaux de détection. Afin d'interpréter les données expérimentales, un outil de simulation radio, SELFAS, a été développé dans ce travail. Ce code de simulation a permis de mettre en évidence l'existence d'un second mécanisme d'émission radio. Une interprétation du profil longitudinal est aussi proposée comme observable d'un instant privilégié du développement de la gerbe, et pourrait donner une estimation de la nature du primaire.

Du fait de leur faible flux, l'existence des rayons cosmiques d'ultra haute énergie (RCUHE, E>$10^(18)$\,\textrm(eV)) est une énigme depuis plus d'un demi siècle. On ne connaît en effet ni leur origine, ni leur nature, ni même l'énergie maximale qu'ils peuvent atteindre. Pour obtenir une statistique suffisante et répondre à ces questions, l'Observatoire Pierre AUGER est actuellement en construction en Argentine et sera à terme complété par un deuxième détecteur au Colorado afin de scruter le ciel de l'hémisphère nord. L'origine et la nature des RCUHE étant liées, l'identification du primaire est une étape cruciale pour valider, réfuter ou contraindre les nombreux modèles théoriques capables d'expliquer leur production. En particulier, la présence de photons ou de neutrinos peut être la signature de modèles impliquant de la nouvelle physique (défauts topologiques, particules supermassives...). Le travail de cette thèse s'insère donc dans ce cadre en cherchant à identifier la nature des RCUHE observés par l'observatoire depuis le mois de janvier 2004. Après avoir récapitulé les résultats des expériences précédentes et présenté les méthodes de détection, ce manuscrit décrit les modèles théoriques en soulignant le type de particules de haute énergie qu'ils peuvent produire. La partie suivante traite des différentes méthodes utilisées par l'observatoire pour permettre l'identification du primaire par la gerbe qu'il crée dans l'atmosphère. Divers critères sont finalement testés sur des simulations puis utilisés dans une analyse qui a permis d'estimer la composition hadronique et de chercher la présence de photons parmi les RCUHE.

EUSO est un projet de détection spatiale des rayons cosmiques d'ultra-haute énergie. Son principe consiste à observer les photons de fluorescence émis par les gerbes atmosphériques depuis un télescope embarqué à bord de la Station Spatiale Internationale.<br />Au cours de cette thèse, un logiciel de simulation a été développé pour étudier les caractéristiques de ce nouveau concept de détection. Il modélise les différentes étapes de la détection : développement des gerbes atmosphériques, génération des photons de fluorescence et Cerenkov, et transfert des photons jusqu'à la lentille du télescope. Il inclut notamment un algorithme Monte-Carlo de propagation des photons dans l'atmosphère, traitant la diffusion multiple en conditions de ciel clair ainsi qu'en présence de nuages et d'aérosols.<br />Avec ce programme de simulation, l'impact des conditions atmosphériques sur les performances d'un détecteur spatial a été étudié. La modélisation précise de la propagation des photons dans l'atmosphère a permis de quantifier la contribution des photons diffusés au signal détecté.

Les rayons cosmiques d'ultra-haute énergie sont les messagers des phénomènes les plus cataclysmiques ayant lieu dans l'Univers. L'énergie portée par ces particules peut atteindre quelques dizaines de Joules et est dissipée dans l'atmosphère terrestre sous forme d'une avalanche de particules secondaires. Les questions portant sur leur origine et leur propagation sont toujours au coeur du débat car elles n'ont toujours pas de réponse définitive. CODALEMA est la pionnière des expériences modernes de détection indirecte des rayons cosmiques à travers l'émission radio des particules chargées de la gerbe. Cette recherche est motivée par la possibilité de caractériser entièrement le rayon cosmique primaire avec des antennes sensibles aux ondes électromagnétiques dans la bande décamétrique, et nettement moins coûteuses que les instruments disponibles actuellement. Ce manuscrit présente les résultats de 3 années consacrées à la mise en opération et l'analyse de données d'un réseau de stations autonomes, qui composent la dernière configuration de CODALEMA. L'étude du bruit de fond a révélé une sensibilité des stations face aux interférences radio d'origine humaine. Des méthodes de réjection de ce bruit ont été développées dans le but de les incorporer dans les prochains circuits électroniques de sélection de signaux transitoires. Les premières données ont montré que la mesure des deux polarisations horizontales du champ électrique est indispensable pour distinguer les mécanismes d'émission radio. De même, une nouvelle paramétrisation de la distribution latérale du champ électrique est discutée.