Le développement technologique dans le domaine des télécommunications, ainsi que des systèmes de détection, a accru ces dernières années la nécessité de signaux de référence présentant une très haute pureté spectrale. L'augmentation des débits, la saturation des bandes de fréquence ainsi que les performances imposées pour la détection radar ont ouvert la voie à la génération micro-onde par l'optique. Ces références de fréquence sont souvent issues d'oscillateurs optoélectroniques (OEO). Ces oscillateurs intègrent un élément de stockage de l'énergie au travers de résonateurs ou de longues lignes à retard fibrées afin d'augmenter leur facteur qualité et permettant ainsi d'atteindre des performances supérieures aux signaux multipliés à partir de sources basses fréquences ou directement à partir d'oscillateurs micro-ondes à résonateur diélectrique (DRO). Une topologie originale d'oscillateurs optoélectroniques a été proposée à la fin des années 1990 par une équipe américaine : il s'agit de remplacer le résonateur passif nécessitant un verrouillage du laser sur ce dernier par un résonateur actif, intégrant un amplificateur optique. Ce résonateur actif, un laser à blocage de modes, permet un couplage entre l'oscillation optique du laser et l'oscillation optoélectronique. On parle alors d'oscillateur optoélectronique couplé (COEO). Les performances du COEO sont étroitement liées à la pureté spectrale du signal issu du laser à blocage de modes. Ce travail de thèse traite de l'étude et de l'optimisation de ces systèmes. Une étude approfondie sur le bruit dans les amplificateurs optiques a tout d'abord été menée afin de déterminer quel type d'amplificateur choisir pour le COEO et sous quelles conditions l'amplification optique apporte un bruit de phase minimal. Ensuite, un COEO à 10 GHz a été réalisé, présentant un très faible bruit de phase atteignant - 132 dBc/Hz à 10 kHz de la porteuse. Un modèle a par ailleurs été implémenté, permettant de déterminer a posteriori l'efficacité du couplage et ainsi la bande de verrouillage entre l'oscillation optoélectronique et le laser à blocage de modes. Ce couplage interne dépend fortement de la dynamique du système. Cependant, les différents effets non linéaires qui ont lieu dans l'amplificateur à semiconducteur et les fibres ne permettent pas d'obtenir un modèle analytique. Un modèle itératif a alors été proposé afin d'obtenir les propriétés de l'enveloppe complexe lentement variable du peigne de fréquence généré en sortie du laser dont la photodétection conduit à la puissance RF générée par le COEO. Le COEO génère un peigne de fréquence suffisamment large pour produire des harmoniques RF supérieurs à la fréquence de répétition du laser à blocage de modes, si les modes longitudinaux espacés de plusieurs intervalles spectraux libres (ISL) sont en phase. Le modèle itératif développé permet, à partir des paramètres expérimentaux de déterminer le spectre optique ainsi que la distribution de phase à l'intérieur de celui-ci. Il est possible alors d'augmenter la puissance d'une harmonique en sortie de la photodiode par un ajout d'éléments dispersifs. Cette multiplication de fréquence permet la génération de signaux à haute pureté spectrale en bande millimétrique. Une démonstration expérimentale à 90 GHz a été proposée, basée sur un COEO fonctionnant à 30 GHz. Ces résultats sont prometteurs et une intégration du COEO dans un boîtier thermalisé ainsi qu'une gestion plus fine de la dispersion des fibres peut permettre des améliorations significatives sur le bruit de phase du système. / The important rise of telecommunication systems in the past decades, together with the sensitivity improvement of radar systems, has increased the necessity for high spectral purity frequency references at high frequencies. The saturation of classical microwave bandwidths motivated the search of frequency references at higher frequencies, such as K-band. Frequency multiplication from highly stable sources, such as quartz sources, is limited by the increase of the noise floor, which is often prohibitive at millimeter wave frequencies. On the contrary, microwave generation using optics becomes a very efficient technique in this frequency range. Indeed, passive optical resonators or delay lines feature a high Q factor which can be used to stabilize the microwave frequency. The best phase noise performance is today obtained with long delay line oscillators. However, a spurious mode suppression technique has to be implemented in this type of OEOs. The use of an active optical resonator is a third solution, which avoids any locking technique between the laser and the passive resonator. The first architecture of this type has been proposed at the end of the 1990's. In such a system, a mode-locked laser is coupled to a microwave oscillator (COEO). COEO phase noise performances are strongly dependent on the spectral purity of the mode locked laser signal. This thesis work focus on the study and the optimization of this system. Optical amplifiers noise is firstly investigated, in order to determine the optimal conditions to minimize their phase noise contribution to the COEO. A 10 GHz SOA based COEO has been realized and features a low phase noise level reaching - 132 dBc/Hz at 10 kHz from the carrier. An analytical model has also been developed to obtain the locking range of the coupled oscillations. This frequency range is strongly dependent on the coupling efficiency between optical oscillation and the optoelectronic oscillation. This parameter cannot be calculated analytically and an iterative model has been proposed to determine the amplitude and phase of the optical spectrum. Therefore, one can calculate the RF power on the photodiode, on which the coupling efficiency is depending. Since COEO features a large optical frequency comb where each tooth of the comb is phase locked thanks to the mode locked laser, harmonic generation from COEO is possible. Wide frequency comb from high frequency COEO allow millimeter wave generation. The iterative model developed in this work enable to determine the RF power of one specified harmonic from experimental parameters. Harmonic selection can also be performed through the management of the chromatic dispersion. Such frequency multiplication has been implemented to generate a high purity 90 GHz signal from a 30 GHz COEO.These results are promising and an integration of the system in a thermalized box is under process.