Cette thèse vise à analyser en détails la possibilité d'améliorer les futurs systèmes Radio-sur-Fibre (RoF) dans différents scénarios de télécommunication, tels que les réseaux cellulaires actuels et de la prochaine génération, ainsi que dans d'autres applications telles que la radioastronomie. Le système RoF étudié est donc composé d’un laser à cavité verticale (VCSEL) fonctionnant à 850 nm, d'une fibre standard monomode (SSMF) et d'un phototransistor à hétérojonction SiGe (HPT), adoptant la technique appelée détection directe par modulation d'intensité qui est aujourd'hui l'architecture à moindre coût et la plus simple pour RoF. Cette thèse décrit en détail la propagation non naturelle dans le SSMF (conçue pour fonctionner uniquement à 1310 nm et 1550 nm) à 850 nm. A travers un modèle mathématique développé, la propagation à deux modes est décrite et les principaux phénomènes impliqués sont analysés. En particulier, le modèle se concentre sur la dispersion intermodale et le bruit modal, considérés comme les deux principales contributions de performance nuisible. Le modèle mis au point permet d'identifier les principaux paramètres qui contribuent à renforcer les effets néfastes de la dispersion intermodale et du bruit modal, à la fois en fréquence et dans le temps. A partir du modèle, des techniques possibles pour améliorer les performances sont alors proposées. En fait, une technique de pré-filtrage est réalisée afin d'éviter l'excitation du mode du second ordre, permettant une propagation quasi-monomode au sein du SSMF. La technique est validée théoriquement et expérimentalement soit pour une transmission sinusoïdale à radiofréquence unique, soit pour une transmission de signal passe-bande centrée sur une bande de radiofréquence. Il est démontré expérimentalement que possibilité d'augmenter la bande passante de modulation du système RoF, tout en réduisant les fluctuations de puissance et de gain. De plus, la technique est validée dans un véritable système de transmission LTE, ce qui permet à la technologie RoF de transmettre un signal LTE 256-QAM de 20 MHz, confirmant la possibilité d'utiliser cette technologie pour réduire le coût global et la consommation du réseau. Des travaux supplémentaires ont été réalisés sur le modèle mathématique. En fait, la propagation des deux modes est exploitée en sens inverse pour caractériser le chirp du VCSEL utilisé. Enfin, le problème du couplage entre les fibres et les dispositifs optoélectroniques est discuté et étudié afin d’améliorer les performances tout en gardant un faible coût. La possibilité d'utiliser une structure collective et passive pour coupler la fibre optique avec des photodétecteurs à petite surface et VCSEL est présentée, montrant des améliorations importantes sur l'efficacité du couplage et la tolérance au désalignement / This dissertation aims to analyze the possibility of improving in terms of cost and consumption the future Radio-over-Fiber (RoF) systems in different telecommunication scenarios, such as current and next generation of cellular networks and in other applications such as Radio Astronomy. The RoF system studied is hence composed of a Vertical Cavity Surface Emitting Laser (VCSEL) operating at 850 nm, standard single mode fiber (SSMF) and SiGe Heterojunction Phototransistor (HPT), adopting the technique called Intensity Modulation{Direct Detection which is nowadays the cheapest and simplest architecture for RoF. This dissertation describes in detail the multimode propagation within the SSMF (designed to operate only at 1310 nm and 1550 nm) which is present at 850 nm. Through a developed mathematical model, the two-modes propagation is described and the main phenomena involved are analyzed. In particular, the model focus on intermodal dispersion and modal noise which are considered the two main contributions of performance detrimental. The model developed is able to identify the main parameters which contribute to enhance the detrimental effects produced by intermodal dispersion and modal noise both in frequency and time domain. Starting from the model, possible techniques to improve the performances are then proposed. In particular, a pre-filtering technique is realized in order to avoid the excitation of the second order mode, allowing a quasi-single-modepropagation within the SSMF. The technique is theoretically and experimentally validated either for single radio frequency sinusoidal transmission either for bandpass signal transmission centered in radio frequency band. In particular it is demonstrated experimentally the possibility of increasing the modulationbandwidth of the RoF system, reducing at the same time the fluctuations of power and gain. Furthermore, the technique is validated in a real LTE transmission system, making the RoF technology proposed able to transmit 256-QAM LTE signal of 20 MHz bandwidth, confirming the possibility of using this technology to decrease the overall cost and consumption of the network. Further work hasbeen done on the mathematical model. In particular the two modes propagation is exploited reversely in order to characterize the chirp parameter of the VCSEL employed. Finally, the problem of coupling between fiber and opto-electronic devices is also discussed and investigated, in order to enhance theperformances while keeping low the cost. The possibility of utilizing a collective and passive ploymerbased structure for coupling the optical fiber with small area photodetectors and VCSEL is presented, showing important improvements on coupling efficiency and tolerance to misalignment