Cette thèse a pour objet l'étude de l'interaction laser-matière dans un régime d'éclairement extrême que visent à atteindre plusieurs installations multi-pétawatt en cours de développement (CILEX-Apollon, ELI, IZEST, etc.). Pour un éclairement supérieur à 1022 Wcm-2, la dynamique relativiste des électrons accélérés dans l'onde laser est modiée par un important rayonnement Compton inverse non-linéaire. Au-delà de 1023 Wcm2, les photons ainsi produits peuvent, en interagissant à leur tour avec le champ laser, se désintégrer en paires électron-positron via le mécanisme de Breit-Wheeler non-linéaire. Ces mécanismes d'électrodynamique quantique, dont l'étude expérimentale était jusqu'ici l'apanage des grands accélérateurs de particles, peuvent grandement affecter les mécanismes usuels d'interaction laser-plasma, notamment ceux régissant l'accélération de particules chargées et, par conséquent, le bilan global de l'interaction. Afin de modéliser ce régime inédit d'interaction, qui combine processus collectifs, relativistes et d'électrodynamique quantique, nous avons enrichi des mécanismes précédents le code de simulation particle-in-cell calder développé de longue date au CEA/DIF. L'influence de ces mécanismes est d'abord explorée dans le cas d'une impulsion laser interagissant avec une cible dense de taille micrométrique. Un rendement de conversion de l'énergie laser en photons supérieur à 10% est observée au-dessus de 1023 Wcm-2, tandis que la production d'anti-matière s'emballe, via un mécanisme de cascade, à partir de 1024 Wcm2. Dans un second temps, nous étudions la génération de positrons lors de la collision frontale entre un faisceau d'électrons ultra-relativistes issu d'un accélérateur plasma et une impulsion laser ultra-intense. Dans une dernière partie, nous considérons un scénario prospectif d'intérêt astrophysique, à savoir la collision de plasmas de paires issus de cibles solides irradiées à 1024 Wcm-2 montrant la croissance rapide d'une instabilité de lamentation magnétique combinée à d'intenses effets radiatifs. / This PhD thesis is concerned with the regime of extreme-intensity laser-matter interaction that should be accessed on upcoming multi-petawatt facilities (e.g. CILEX-Apollon, ELI, IZEST). At intensities IL > 1022 Wcm-2, the relativistic dynamics of the laser-driven electrons becomes significantly modified by high-energy radiation emission through nonlinear inverse Compton scattering. For IL > 1023 Wcm-2, the emitted-ray photons can, in turn, interact with the laser field and decay into electron-positron pairs via the nonlinear Breit-Wheeler process. These quantum electrodynamic processes, which until recently could only be explored on large-scale particle accelerators, can greatly alter the "standard" mechanisms of laser-plasma interaction, and therefore its overall energy budget. In order to model their intricate interplay with the laser-induced plasma processes, they have been implemented within the particle-in-cell code calder developed at CEA. In a first part, we study these QED processes in the interaction of an ultra-intense laser with a micrometric overdense target. It is found that the laser-to--ray energy conversion efficiency can by far exceed 10% for intensities IL > 1023 Wcm-2, while copious pair production (through pair cascading) kicks in for IL > 1024 Wcm-2. In a second part, we consider positron generation in the collision between a GeV electron bunch issued from a laser-wake eld accelerator and a counterpropagating laser pulse. In a third part, we analyze a prospective scheme of astrophysical interest, consisting in the collision between two dense pair plasmas produced from solid targets irradiated at 1024 Wcm-2 showing a fast-growing magnetic lamentation instability amplified by intense synchrotron emission.