La technologie photonique-RF offre une alternative intéressante à l'approche purement électronique dans différents systèmes micro-ondes pour des applications militaires, spatiales et civiles. Un composant original, l'oscillateur optoélectronique (OEO), permet la génération de signaux RF stables et à haute pureté spectrale. Il est basé sur une liaison photonique micro-onde utilisée comme boucle de rétroaction et comportant soit une fibre longue, soit un résonateur à fort coefficient de qualité. Différentes études ont été menées au cours de cette thèse afin d'optimiser et d'améliorer la performance en termes de stabilité et de bruit de phase pour le cas de l'OEO à résonateur. La caractérisation fine et la modélisation des résonateurs est une première étape de la conception globale du système. La métrologie du résonateur optique est réalisée par une technique originale, dite de spectroscopie RF. Les résultats expérimentaux ont révélé que cette technique permet d'une part d'identifier le régime de couplage du résonateur et d'autre part de déterminer avec une grande précision tous les paramètres d'un dispositif résonant, comme les facteurs de qualité interne et externe ou les facteurs de couplage. Une deuxième étude a été orientée vers l'implémentation d'un modèle non-linéaire fiable du dispositif. Dans un tel modèle, la photodiode rapide nécessitait une description plus précise, dans le but de contrôler la conversion du bruit d'amplitude optique en bruit de phase de l'OEO. Un nouveau modèle non-linéaire d'une photodiode hyperfréquence a été développé sous un logiciel commercial: Agilent ADS. Ce nouveau modèle rend effectivement compte de cette conversion de bruit. Une puissance optique optimale à l'entrée de la photodiode a été déterminée, pour laquelle la contribution de RIN du laser au bruit de phase RF pourrait être négligeable. La performance de l'OEO est affectée par diverses perturbations entrainant un décalage en fréquence entre la fréquence du laser et la fréquence de résonance du résonateur. Il est donc important d'utiliser un système de stabilisation pour contrôler cette différence de fréquence. Des séries d'expériences et de tests ont été menées pour étudier la possibilité, d'une part, de remplacer l'électronique commerciale utilisée auparavant pour le système de verrouillage en fréquence (boucle de Pound-Drever-Hall) par une électronique faible bruit et, d'autre part, d'utiliser un laser à semi-conducteur. Un bilan de ces approches est présenté. / RF photonics technology offers an attractive alternative to classical electronic approaches in several microwave systems for military, space and civil applications. One specific original architecture dubbed as optoelectronic oscillator (OEO) allows the generation of spectrally pure microwave reference frequencies, when the microwave photonic link is used as a feedback loop. Various studies have been conducted during this thesis on the OEO, especially the one that is based on fiber ring resonators, in order to optimize and improve its phase noise performance and its long-term stability. Precise characterization and modeling of the optical resonator are the first step towards overall system design. The resonator metrology is performed using an original approach, known as RF spectral characterization. The experimental results have demonstrated that this technique is helpful for the identification of the resonator's coupling regime and the accurate determination of the main resonator parameters such as the intrinsic and extrinsic quality factors or the coupling coefficients. A second study was directed toward implementing a reliable nonlinear model of the system. In such a model, the fast photodiode require an accurate description, in order to reduce the conversion of the optical amplitude noise into RF noise. A new nonlinear equivalent circuit model of a fast photodiode has been implemented in a microwave circuit simulator: Agilent ADS. This new model is able to describe the conversion of the laser relative intensity noise (RIN) into microwave phase noise at the photodiode output. An optimal optical power at the photodiode's input has been identified, at which the contribution of the laser RIN in RF phase noise is negligible. When it comes to practical applications, the desired performance of an OEO is threatened by various disturbances that may result in a frequency shift of both the laser frequency and the transmission peak of the resonator, which causes a malfunction of the OEO. Therefore it is desirable to use a stabilization system to control the difference between the laser frequency and the resonator frequency. A series of tests and experiments have been carried out to investigate the possibility, on one hand, to replace the commercial servo controller that was used up until now in the Pound-Drever-Hall loop, with a low noise homemade one and, on the other hand, to use a semiconductor laser to reduce the system size. A detailed review of these approaches is presented.

RésuméLa diffraction et la diffusion de rayons X sont utilisées dans de nombreux domaines de la physique, de la médecine et de la technologie. Des faisceaux de haute brillance sont néanmoins requis pour améliorer les performances de ces techniques. L’utilisation de la diffusion Compton d’un laser sur un faisceau d’électrons présente un grand intérêt pour la production de rayons X. Ce processus permet l’emploi d’un anneau de stockage d’électrons compacts et d’un résonateur optique pour accroître la puissance laser. Avec un tel système, un taux de collision laser-électron supérieur au méga Hertz est envisageable permettant d’atteindre un flux de rayons X de l’ordre de 10¹³ photons/s. Dans le premier chapitre, je décris les motivations pour le développement d’une source de rayons X basée sur la diffusion Compton et utilisant un résonateur optique. Je détermine aussi les performances que l’on peut attendre de ce type de sources ainsi que l’état de l’art actuel dans ce domaine. Dans le deuxième chapitre, je décris le comportement et les propriétés des résonateurs optiques en régime impulsionnel. J’introduis la notion de phase CEP (‘carrier envelope phase’) et je montre la nécessité de contrôler à la fois la fréquence de répétition de l’oscillateur laser et cette phase CEP. Le chapitre 3 est consacré aux oscillateurs fibrés à blocage de mode. Je montre les performances du laser que j’ai construit en utilisant le phénomène de rotation de polarisation non-linéaire.La méthode d’asservissement laser-résonateur optique ‘tilt locking’ est introduite au chapitre 4. Je décris tout d’abord les études de simulations et le montage expérimental qui ont permis de tester la méthode en régime impulsionnel. Je donne ensuite les résultats expérimentaux qui démontrent la faisabilité de la méthode ‘tilt locking’ en régime impulsionnel. J’effectue aussi une comparaison expérimentale des performances de la méthode ‘tilt locking’ avec la méthode classique ‘Pound-Drever-Hall’. Je termine le chapitre en indiquant une difficulté expérimentale de la méthode pour générer plusieurs signaux d’erreurs.Je décris la conception du système optique de la machine Compton TTX de l’université Tsinghua dans le chapitre 5. Les performances attendues pour cette machine sont des flux de rayons X compris entre 10¹º et 10¹³ photons/s. / X-ray diffraction and scattering, X-ray spectroscopy, and X-ray crystallography are widely used in the life sciences, material science, and medical diagnosis. High-quality and high-brightness X-rays are a strong requirement to improve applications. Inverse Compton scattering (ICS) X-ray source has attracted great interests worldwide lately. To significantly enhance the average X-ray photon flux, a compact electron storage-ring combined with a high finesse optical enhancement cavity (OEC) can be utilized. In such a system, the collision rate between the electron beam and the laser pulse is greatly increased to the MHz range, enabling a photon flux up to 10¹³ph/s.In the first chapter, I describe the motivation behind the development of OEC based on ICS X-ray source. The characteristics of this kind of X-ray source are summarized, compared to those of the conventional low-repetition-rate Terawatt laser system based on ICS X-ray source. The latest progress and research status of OEC based on ICS X-ray source are presented. Pulsed-laser injected high-finesse OEC stacking theory and properties are discussed in Chapter 2. Not only does the OEC based on ICS X-ray source require the laser pulse repetition rate to be matched to the free spectral range (FSR) of the cavity, where both also have to match the electron storage-ring circulation frequency. In addition, we have to match the phase shift of the laser repetition rate to the phase offset introduced by the dispersion of the cavity mirrors, since our cavity finesse design value is quite high. The stacking theory is analyzed in the frequency domain. Cavity properties, including cavity mirror dispersion, finesse, and FSR, are discussed in detail. A laser frequency comb and OEC coupling is analyzed also. The laser source development is presented in Chapter 3. We constructed a mode-locked fiber laser based on nonlinear polarization rotation. The locking model, locking techniques, and the theory, simulations and experimental tests of tilt locking (TL) in the pulsed laser injected high-finesse OEC are discussed in Chapter 4. We succeeded in locking a pulsed laser to a high-finesse cavity with the TL technique. The experimental results show that the TL and the Pound–Drever–Hall techniques have the same performance: stable locking, high sensitivity, and the same power coupling rate for picosecond laser pulse case, while the test results for full spectrum TL locking show that it is uneasy to align the split-photodiode to the beam waist.Based on the above experimental study and tests, we design the OEC system for Tsinghua University X-ray project in Chapter 5. The expected X-ray flux is 10¹º to 10¹³ ph/s. We detail every subsystem requirement.