Dans cette thèse, nous étudions l’influence d’un plasma non-stationnaire produit par des impulsions laser en régime d’auto-focalisation. Cette auto-focalisation est couplée à des non-linéarités Brillouin pour des impulsions nanosecondes dans les verres de silice. Elle excite différents canaux d’ionisation dans les cristaux de KDP irradiées par des impulsions femtosecondes. Tout d’abord, nous dérivons les équations de propagation des ondes optiques laser et Stokes sujettes à la filamentation due à l’effet Kerr, la rétrodiffusion Brillouin et à la génération de plasma. Dans une deuxième partie, nous présentons des résultats numériques sur la propagation non-linéaire de faisceaux LIL. Ceux-ci révèlent l’importance de la distribution temporelle de l’impulsion pompe dans la compétition entre auto-compression Kerr et la rétrodiffusion Brillouin stimulée. Ces simulations préliminaires permettent de valider le système anti-Brillouin opté pour le LMJ sur la base de faisceaux millimétriques.Dans une troisième partie, nous présentons des résultats théoriques et numériques sur la filamentation d’impulsions nanosecondes opérant dans l’ultraviolet et l’infrarouge. L’influence d’un plasma inertiel sur la dynamique de couplage de deux ondes en contre-propagation est examinée. Dans une configuration à une onde, une analyse variationnelle reproduit les caractéristiques globales d’un équilibre quasi-stationnaire entre auto-compression Kerr et défocalisation plasma. Toutefois, cet équilibre cesse pour faire place à des instabilités modulationnelles induites par rétroaction du plasma sur l’onde de pompe. Nous montrons que des modulations de phase supprimant la rétrodiffusion Brillouin permettent d’inhiber ces instabilités plasma. La robustesse de ces modulations de phase est testée en présence d’un bruit aléatoire dans le profil de  l’impulsion laser.Enfin, nous étudions numériquement la dynamique non-linéaire d’impulsions femtosecondes se propageant dans la silice et le KDP. Premièrement, nous montrons que la présence de défauts impliquant moins de photons pour exciter un électron de la bande de valence à la bande de conduction promeut des intensités de filamentation plus élevées. Ensuite, nous comparons la dynamique de filamentation dans la silice avec celle dans un cristal KDP. Le modèle d’ionisation pour le KDP prend en compte la présence de défauts et la dynamique électrons-trous. Nous montrons que la dynamique de propagation dans la silice et le KDP présente des analogies remarquables pour des rapports de puissance incidente sur puissance critique équivalents.La conclusion nous permet de résumer les résultats originaux obtenus dans le cadre de cette thèse et d’en discuter des développements ultérieurs possibles. / In this thesis, we study the role of an inertial plasma reponse produced by laser pulses in self-focusing regime. Self-focusing is coupled with Brillouin nonlinearities for nanosecond pulses in silica glasses. For femtosecond pulses propagating in KDP crystals, self-focusing excites various ionization chanels. First of all, we derive the propagation equations for the pump and Stokes waves, subjected to filamentation due to optical Kerr effect, stimulated Brillouin scattering and plasma generation. In the second part, we present numerical results on the nonlinear propagation of LIL laser beams. These results show that temporal distribution of the pump pulse play a key role in the competition between self-focusing and stimulated Brillouin scattering. These preliminary results valide the anti-Brillouin system opted on the MegaJoule laser (LMJ) on the basis of milimetric-size laser beam.In a third part, we present numerical and theoretical results on the filamentation in fused silica of nanosecond light pulses operating in ultraviolet and infrared range. Emphasis is put on the action of a dynamical plasma reponse on two counterpropagating waves. For a single wave, we develop a variational analysis which reproduces global propagation features for a quasistationary balance between self-focusing and plasma defocusing. However, such a quasistionary balance ceases to clean up modulational instabilites induced by plasma retroaction on the pump wave. We show that phase modulations supress both simulated Brillouin scattering and plasma instabilities. The robustness of phase modulations is evaluated in presence of random fluctuations in the input pump pulse profile.Finally, we study numerically the nonlinear propagation of femtosecond pulses in fused silica and KDP. First, we show that the presence of defects involving less photons for exciting electrons from the valence band to the conduction band promotes higher filamentation intensity levels. Then, we compare the filamentation dynamic in silica and KDP crystal. The ionization model for KDP crystal takes into account the presence of defects and the electron-hole dynamics. We show that the propagation dynamics in silica and KDP are almost identical at equivalent ratios of input power over the critical power self-focusing.The summary of this thesis recalls the original results obtained and discusses the possibility of future developments.

Les résonateurs à modes de galerie sont des cavités diélectriques qui supportent des modes à très haut facteur de qualité et à faible volume qui demeurent confinés à l'interface air-diélectrique pour des durées pouvant atteindre voire dépasser la microseconde. L'intérêt de ce fort confinement des modes pour de longues durées est l'accentuation de l'interaction lumière-matière. Par conséquent, de nombreuses interactions non-linéaires telles que l'effet Kerr ou encore l'effet Brillouin à des puissances seuil inversement proportionnelles au carré voire au cube du facteur de qualité du résonateur ont lieu en son sein. Ces propriétés donnent accès à de nombreuses applications dans des domaines divers et variés tels que la spectroscopie, les télécommunications ou encore les micro-ondes. Les travaux de cette thèse ont pour but d'exploiter les non-linéarités Kerr et Brillouin dans les résonateurs à mode galerie à la longueur d'onde de 1550 nm afin de générer des micro-ondes ultra-stables à des fréquences comprises entre 5 et 30 GHz. Le premier chapitre introduit la théorie, la fabrication, le couplage et la caractérisation de résonateurs à des modes de galerie. Le second chapitre concerne la génération de micro-ondes. Nous y présentons nos résultats expérimentaux, la modélisation numérique de peignes de Kerr, ainsi que l'analyse d'instabilités oscillatoires d'origine thermique observées lors de nos travaux expérimentaux, puis nous concluons. Le dernier chapitre traite de l'interaction photons-phonons via le processus de diffusion Brillouin stimulée dans ces mêmes expérimentaux ainsi que le modèle temporel que nous avons développé pour suivre la dynamique de l'onde transmise et de celle rétrodiffusée. Le dernier chapitre conclue nos travaux. Les travaux présentés dans ce manuscrit ont été financé par l'European Research Council dans le cadre du projet NextPhase. / Whispering galery mode resonators are dielectric cavities that support modes with ultra-high quality factor and small volume that remain confined in their inner periphery for time duratioons that can be as long as few microseconds. The strong confinement of these modes for such long durations strongly enhances nonlinear effect suchs as Kerr effect or Brillouin effect. These resonators can therefore be used for several applications such as spectroscopy, telecommunications or microwave generation. The objective of this thesis is to use Kerr and Brillouin nonlinearities in these resonators at the laser wavelength of 1550 nm, in order to generate high spectral purity microwave signals with frequencies rangong fros 5 to 30 GHz. The first chapter oh the thesis intriduces the theory, fabrication, coupling and characterisation of whispering gallery mode resonators. The second chapter is about the generation of Kerr optical frequency combs in these resonators and their application to the generation of microwave signals. We present our experimental resuktsdn the numerical modelling of Kerr combs, the analysis of oscillatory instabilities (due to thermal effect) observed during our experiments, and conclue. The third chapter concerns photon-phonon interactions via stimulated Brillouin scattering in these resonators and their application to the generation of microwave signals. We present our experimental results and the temporal model that we developed to track the dynamics of the forward and backscattered fields. The last chapter conclude the thesis. The research presented in this thesis has benne funded by the European Research Council through the project Nextphase.