Ces dernières décennies, la fibre optique est devenue le support privilégié pour le transport de données numériques entre villes, régions ou pays sur des distances allant de quelques kilomètres à une dizaine de milliers de kilomètres. Les systèmes de transmissions optiques de recherche aussi bien que commerciaux offrent aujourd'hui des capacités de transport multi-Terabit/s sur des distances de plus de 1000km pour répondre à l'augmentation vertigineuse du trafic de données, et sont basés sur l'utilisation en parallèle de canaux modulés à 10, 40 ou 100Gb/s. Pour autant, la conception efficace de systèmes de transmissions ou de réseaux optiques à capacité toujours plus grande et à coût maitrisé n'est pas chose aisée. En effet, cette activité requiert une très fine connaissance de l'interaction entre de multiples phénomènes physiques linéaires et non-linéaires et de leur impact sur la propagation de signaux optiques modulés. En outre, l'infrastructure d'un réseau optique terrestre est la plupart du temps très fortement hétérogène en raison de contraintes géographiques ou topologiques, ou encore en raison du poids très fort de la réutilisation d'infrastructures préexistantes. Enfin, lors de la construction d'un nouveau réseau ou la mise à niveau d'un réseau existant, cette étape de conception doit tenir compte du caractère partiel de la connaissance des paramètres physiques de l'infrastructure déployée. Pour maîtriser une telle complexité en un temps raisonnable et acquérir une vision globale du système, il est indispensable de s'appuyer sur des outils issus de la physique et de l'observation. Dans cette optique, ce manuscrit s'appuie sur des études menées entre 2000 et 2010 pour comprendre et quantifier l'accumulation des effets non-linéaires de type Kerr sur les systèmes de transmission modulés à 10, 40 et 100Gb/s. Nous introduisons ici de nouveaux outils permettant de prédire rapidement et avec précision la qualité de transmission de réseaux optiques terrestres hétérogènes affectés par de multiples effets de propagation ainsi que des outils permettant d'optimiser le réglage de la ligne de transmission (gestion de la dispersion, réglage des amplificateurs et des puissances d'entrée dans les fibres).