Le projet FUI12 RLDO – dans le cadre duquel s’inscrit cette thèse – préconise une solution de réseau de topologie en étoile passive pour la montée en débit des réseaux domestiques. Cette solution de réseau rencontre des difficultés dans son implémentation avec la non-uniformité des puissances des ports de sortie des coupleurs multimodes. L’analyse de ce point nous a permis de comprendre que les propriétés des modes de propagation dans les éléments du réseau jouent un rôle clé dans les problèmes rencontrés. Pour caractériser la propagation dans le réseau, nous avons développé un banc de réflectométrie optique complexe dans le domaine fréquentiel. Les phénomènes limitant la sensibilité à la phase – liés en particulier à la non-linéarité du balayage en fréquence de la source laser – sont étudiés pour contribuer à une meilleure compréhension des mécanismes. Puis les performances de la mesure en intensité et en phase de l’instrument que nous avons mis en place sont testées. Nous avons aussi étudié les conditions de résolution optimales pour caractériser les modes d’un guide multimode et analysé l’incertitude sur la dispersion chromatique dans le cas où il est impossible de déterminer si on a accès à un mode ou plusieurs modes dans un diagramme de dispersion donné. Nous introduisons par la suite une méthode d’analyse temps-fréquence adaptative, permettant d’obtenir les courbes de dispersions avec une résolution optimale. Cette méthode nous a permis de montrer le caractère quasi-monomode, en condition d’excitation monomode, de la fibre multimode spéciale RLDO à 1310 nm et à 1550 nm. L’analyse de la propagation dans les fibres optiques, associée au modèle que nous avons développé pour comprendre le fonctionnement des coupleurs multimodes, a permis d’expliquer les difficultés rencontré avec les premières expérimentations de la topologie de réseau en étoile passive multimode et d’envisager des pistes de réalisation d’un prototype de réseau fonctionnel / In order to develop high capacity future-proof home network, the FUI 12 RLDO project suggests passive star network topology using multimode couplers. This topology encounters implementation difficulties due to the non-uniformity of the power distribution in the output ports of multimode couplers. Analyzing this problem shows that the properties of modes propagating in the network elements plays a key role in this non-uniform characteristics of multimode couplers. In order to characterize these modes propagating in the network, we have developed a complex optical frequency domain reflectometry (OFDR) setup. The phenomena limiting the sensitivity to the phase in OFDR – in fact, those related to the non-linear frequency tuning of the laser source - are investigated to contribute to a better understanding of the limiting mechanisms. Then we have tested the intensity and phase measurement performance of the developed setup. Later, we studied the optimal resolution conditions to characterize the modes in a multimode waveguide. We have also analyzed the uncertainty of the measurement of the chromatic dispersion of modes in case where it is impossible to determine whether one or several modes are present in a given dispersion curve. Additionally, we have introduced an adaptive time-frequency method, to obtain the dispersion curves with optimal resolution. This method allows us to show the versatility of the special RLDO multimode fiber (single-mode behavior under single-mode excitation at 1310 nm and 1550 nm). The analysis of the propagation in the optical fibers, associated with a model we have developed to study the behavior of multimode couplers, has permitted to explain encountered difficulties with the experiments of the multimode passive star network topology. This also gives insights to develop a functional prototype of network