Nous présentons dans cette thèse deux études liées à la dynamique de sources sur accélérateur. La première étude concerne le contrôle de structures turbulentes apparaissant dans des lasers à électrons libres (LEL), et plus généralement dans les systèmes spatio-temporels soumis à une dérive. Dans ces systèmes, lorsque la dérive devient trop importante, des structures induites par du bruit apparaissent, et rendent le système instable. Nous montrons qu'une simple rétroaction avec un décalage spatial permet de rendre le régime régulier. Un fait remarquable est que le gain nécessaire à la ``stabilisation'' est extrêmement faible, 10 puissance - 8 pour l'expérience sur le LEL de UVSOR au Japon.La deuxième étude traite du rayonnement synchrotron cohérent (CSR) induit par laser dans un anneau de stockage. Nous montrons dans un premier temps qu'en imprimant un motif périodique dans l'espace des phases du paquet d'électrons avec une impulsion laser externe, il est possible d'obtenir un rayonnement synchrotron cohérent, étroit spectralement, et accordable dans le domaine térahertz. Un rayonnement crête jusqu'à 10 000 fois supérieur au rayonnement classique (incohérent) a été mesuré à UVSOR. Dans un deuxième temps, nous montrons que cette interaction laser/électrons permet d'obtenir des informations sur l'instabilité CSR, instabilité qui apparaît lorsque la densité du paquet d'électrons dépasse une valeur seuil. En particulier, nous montrons expérimentalement, par l'observation de précurseurs, que l'instabilité naît à partir de l'amplification de certaines longueurs d'ondes. / In this thesis, we present two studies on the dynamics of accelerator-based sources.The first study concerns the control of ``turbulent patterns'' which appear in some free electron lasers (FEL), and more generally in spatio-temporal systems submitted to a permanent drift. Large drift velocities typically lead to a particular type of instability, characterized by the appearance of noise sustained structures. We show that this type of turbulent behavior can be suppressed by adding a non-local additive feedback. As a remarkable fact, the gain needed for the ``stabilization'' can be extremely small, 10 power -8 for the experiments performed on the UVSOR-II FEL in Japan.The second study is devoted to laser-induced coherent synchrotron radiation (CSR) in a storage ring. In a first step, we show that it is possible to imprint a periodic pattern in the electron bunch phase-space using an external laser. This allow to obtain a tunable coherent emission (CSR) in the terahertz range. Terahertz pulse energy larger by a factor 1000-10 000 with respect to normal (incoherent) synchrotron radiation were thus measured at UVSOR-II. In a second step, we show that this laser-electron beam interaction allows to obtain new information on the CSR instability, which appears when the electron bunch density exceeds a threshold value. In particular, we show experimentally, with the observation of instability precursors, that the instability arises from the amplification of some characteristic wavenumbers.

Les paquets d'électrons relativistes circulant dans les anneaux de stockage sont des sources de rayonnement VUV, X et THz incontournables. Cependant, ces systèmes sont également connus pour présenter des instabilités dynamiques. Dans cette thèse, nous nous sommes intéressés à l'instabilité dite de microbunching, qui mène à l'apparition de microstructures à l'échelle millimétrique, et à l'émission de bouffées intense de rayonnement THz cohérent. L'objectif de la thèse était d'avancer dans la compréhension de la dynamique non-linéaire de ces structures, en combinant études expérimentales et numériques. Les expériences ont été effectuées au Synchrotron SOLEIL et à UVSOR, et les études numériques ont été principalement basées sur l'équation de Vlasov-Fokker-Planck. Dans un premier temps, la rapidité des échelles de temps impliquées nous a menés à réaliser des études indirectes. Des informations sur la dynamique à l'échelle picoseconde ont ainsi pu être déduites d'enregistrements au moyen de détecteurs possédant des constantes de temps beaucoup plus lentes (la microseconde), et en particulier en étudiant la réponse à des perturbations laser. Ensuite, au moyen de deux techniques nouvelles, nous avons pu réaliser les premières observations directes des structures et de leur dynamique. A UVSOR, nous avons utilisé un détecteur THz à film mince de YBCO supraconducteur. Ensuite, nous avons développé une méthode originale associant l'effet électro-optique et l'étirement temporel, ce qui nous a permis d'atteindre une résolution picoseconde, au Synchrotron SOLEIL. Ces nouvelles observations nous ont immédiatement permis de réaliser des tests extrêmement sévères des modèles théoriques. / Relativistic electron bunches circulating in storage rings are used to produce intense radiation from far-infrared to X-rays. However, above a density threshold value, the interaction between the electron bunch and its own radiation can lead to a spatio-temporal instability called microbunching instability. This instability is characterized by a strong emission of coherent THz radiation (typically 105 times stronger than the classical synchrotron radiation) which is a signature of the presence of microstructures (at mm scale) in the electron bunch. This instability is known to be a fundamental limitation of the operation of synchrotron light sources at high beam current. In this thesis, we have focused on this instability from a nonlinear dynamics point of view by combining experimental studies carried out at the Synchrotron SOLEIL and UVSOR storage rings with numerical studies mainly based on the Vlasov-Fokker-Planck equation. In a first step, due to the very indirect nature of the experimental observations, we have sought to deduce information on the microstructure wavenumber either by looking at the temporal evolution of the THz signal emitted during the instability or by studying the response of the electron bunch to a laser perturbation. In a second step, we have achieved direct, real time observations of the microstructures dynamics through two new, very different, detection techniques: a thin-film superconductor-based detector at UVSOR, and a spectrally-encoded electro-optic detection technique at SOLEIL. These new available experimental observations have allowed severe comparisons with the theoretical models.