Cette thèse de doctorat s'intègre dans le cadre des études tant expérimentales que théoriques sur la production et l'accélération de faisceaux de particules par interaction laser plasma en régime relativiste. Dans la première partie de ce mémoire, les différents mécanismes physiques à l'origine de la production de neutrons, d'électrons et de protons sont passés en revue et discutés. La deuxième partie s'intéresse à la production de neutrons par la réaction D(d,n)3He utilisée comme diagnostic de la température ionique d'un plasma sous dense. Lors de la production de faisceaux d'électrons à partir d'un faisceau laser ultra-court focalisé sur un jet de gaz, un nouveau régime d'accélération, le "sillage forcé", a été mis en évidence. Cette étude fait l'objet de la troisième partie. Il a été montré expérimentalement et théoriquement que l'utilisation d'un laser compact peut produire un faisceau d'électrons très énergétiques et de bonne qualité. La dernière partie est consacrée à la génération de faisceaux de protons avec une cible solide et mince à partir de la même chaîne laser. Pour chaque type de sources de particules, plusieurs applications sont discutées dans les domaines de la physique des accélérateurs, pour la physique médicale et pour la génération de rayonnement X par des processus secondaires.

Cette thèse constitue une étude experimentale qui s'inscrit dans le cadre de l'interaction laser-plasma en régime relativiste. Le couplage du laser au plasma provoque l'apparition de nombreux phénomènes nonlinéaires tels que l'autofocalisation relativiste, les instabilités Raman, l'excitation et le déferlement d'ondes plasma. Dans ce régime dit du ``sillage automodulé'', ces effets se combinent et aboutissent à l'accélération des électrons du plasma à des vitesses relativistes. Dans une première partie, les effets nonlinéaires ont d'abord été étudiés. Une méthode originale utilisant des impulsions laser à dérive de fréquence a permis de mesurer la dynamique temporelle des instabilités Raman. Les résultats ont montré que l'instabilité Raman arrière a lieu sur le front montant de l'impulsion et que le Raman avant est plutôt situé en queue d'impulsion. L'autofocalisation a également été étudiée à l'aide d'un diagnostic d'ombroscopie. Les résultats ont montré que la puissance n'est pas le seul paramètre régissant l'autofocalisation: la durée de l'impulsion laser doit être comparée au temps de mouvement des particules dans le plasma: $\omega_p^{-1}$ pour les électrons et $\omega_{pi}^{-1}$ pour les ions. En particulier, lorsque la durée d'impulsion est trop courte, l'autofocalisation relativiste n'a pas lieu. Dans une deuxième partie, on discute de la production d'une source d'électrons relativistes (0 à 70 MeV) à partir d'un laser à 10 Hz (35 fs, 600 mJ). Cette source d'électrons brillante ($10^{10}$ électrons), à spectre Maxwellien et potentiellement courte (<100 fs) a été caractérisée et elle est donc disponible pour les applications. Finalement, la troisième partie décrit des expériences préparant l'accélération d'électrons à des énergies de l'ordre du GeV. En particulier, on a détaillé le guidage d'une impulsion Terawatt dans un canal de plasma, ainsi que la création de plasmas centimétriques dans des jets de gaz rectangulaires et supersoniques.