Cette thèse s'inscrit dans le cadre de l'astrophysique de laboratoire. Nous abordons divers aspects de la physique des chocs non-collisionels en présence de flots de plasma relativistes dans des configurations d'intérêt pour les communautés astrophysique et de l’interaction laser-plasma (ILP). Notre approche repose sur la modélisation analytique et la simulation cinétique haute-performance, outil central pour décrire les processus d'ILP et la physique non linéaire à l'origine des chocs étudiés. Le code Particle-in-Cell SMILEI a été largement utilisé et développé au cours ce travail. Trois configurations physiques sont étudiées. L’instabilité Weibel en présence de faisceaux d'électrons contre-propagatifs alignés avec un champ magnétique externe est décrite. Les phases linéaires et non linéaires sont expliquées à l’aide de modèles théoriques confirmés par des simulations. La génération de chocs non-collisionels lors de l’interaction de deux plasmas relativistes de paires est étudiée en présence d’un champ magnétique perpendiculaire. L’accent est mis sur la comparaison des prédictions théoriques sur les grandeurs macroscopiques avec les simulations, ainsi que sur la définition du temps de formation du choc, l’ensemble de ces grandeurs étant d’une grande importance pour de futures expériences. Enfin, nous proposons un schéma permettant de recréer, en laboratoire, l’instabilité Weibel ionique par l'utilisation d'un laser intense. Les flots de plasmas produits ici sont plus rapides et denses que dans les expériences actuelles, conduisant à un taux de croissance et des champs magnétiques plus élevés. Ces résultats sont également important pour l’ILP à très haute intensité. / The work presented in this thesis belongs to the general framework of Laboratory Astrophysics. We address various aspects of the physics of collisionless shocks developing in the presence of relativistic plasma flows, in configurations of interest for the astrophysical and the laser-plasma interaction (LPI) communities. The approach used throughout this thesis relied on both analytical modeling and high-performance kinetic simulations, a central tool to describe LPI processes as well as the non-linear physics behind shock formation. The PIC code SMILEI has been widely used and developed during this work. Three physical configurations are studied. First we consider the Weibel instability driven by two counter-streaming electron beams aligned with an external magnetic field. The linear and non-linear phases are explained using theoretical models confirmed by simulations.Then the generation of non-collisional shocks during the interaction of two relativistic plasma pairs is studied in the presence of a perpendicular magnetic field. We focus on the comparison of theoretical predictions for macroscopic variables with the simulation results, as well as on the definition and measurement of the shock formation time, all of which are of great importance for future experiments.Finally, we proposed a scheme to produce, in the laboratory, the ion-Weibel-instability with the use of an ultra-high-intensity laser. The produced flows are faster and denser than in current experiments, leading to a larger growth rate and stronger magnetic fields. These results are important for the LPI at very high intensity.

L'origine de champs magnétiques observés dans les plasmas de laboratoire et d'astrophysique est l'un des problèmes récurrents en physique des plasmas. À cet égard, les instabilités de type Weibel sont considérées d'une grande importance. Ces instabilités ont pour origine une anisotropie de température (instabilité de Weibel) et des moments des électrons (instabilité de filamentation de courant). L'objectif principal de cette thèse est l'étude théorique et numérique de ces instabilités dans un plasma non collisionnel en régime relativiste. Le premier aspect de ce travail est l'étude du régime non-linéaire de ces instabilités et du rôle des effets cinétiques et relativistes sur la structure des champs électromagnétiques auto-cohérents. Dans ce cadre, un problème essentiel pour les applications et la théorie, concerne l'identification et l'analyse des structures cohérentes développées spontanément dans le régime non-linéaire sur des échelles cinétiques. Un deuxième aspect du travail est le développement de techniques analytiques et numériques pour l'étude des plasmas non collisionnels. Le modèle mathématique de référence, à la base des études des plasmas chauds, est le modèle Vlasov-Maxwell, où l'équation de Vlasov (théorie des champs moyens) est couplée aux équations de Maxwell de façon auto-cohérente. Un modèle unidimensionnel, le modèle multi-faisceaux, a également été introduit durant cette thèse. Basé sur une technique de réduction en dimension, il est à la fois un modèle analytique "simple" présentant l'avantage de pouvoir résoudre une équation de Vlasov 1D pour chaque faisceau de particules, et un modèle numérique moins coûteux qu'un modèle complet / The origin of magnetic fields observed in laboratory and astrophysical plasmas is one ofthe most challenging problems in plasma physics. In this respect, the Weibel type instabilities are considered of key importance. These instabilities are caused by a temperature anisotropy (Weibel instability) and electron momentum (current filamentation instability). The main objective of this thesis is the theoretical and numerical study of these instabilities in a collisionless plasma in the relativistic regime. The first aspect of this work is to study the nonlinear regime of these instabilities and the role of kinetic and relativistic effects on the structure of self-consistent electromagnetic fields. In this context, a key problem for the theory and applications, is the identification and analysis of coherent structures developed spontaneously in the nonlinear regime of kinetic scales. A second aspect of the work is the development of analytical and numerical techniques for the study of collisionless plasmas. A mathematical model of reference is the Vlasov-Maxwell model, where the Vlasov equation (mean field theory) is coupled to the Maxwell equations in a self-consistent way. A one-dimensional model, the multi-stream model, is also introduced. Based on a dimensional reduction technique, it is both an analytical model "simple" having the advantage of being able to solve a 1D Vlasov equation for each particle beam, and a numerical model less expensive than a complete model