Le trafic dans les réseaux optiques est en constante augmentation depuis de nombreuses années. CISCO affirme qu'il devrait augmenter d'un facteur 13 en 2020. Ceci induit une augmentation de la consommation énergétique et de l'évolution de la taille des réseaux entrainant un accroissement de la complexité des réseaux. Dans ce contexte, pour répondre à l'augmentation du débit dans les réseaux et procure un réseau de télécommunications fiable, il faut prévoir une planification et une ingénierie de réseaux adaptées. Dans ce but, nous étudions dans cette thèse le design d'un nœud de commutation optique ROADM. nous considérons différentes architectures de nœud, composants et sous-systèmes utilisés dans les configurations de nœud RODM "Broadcast and Select" et "Route and Select". Diverses configurations de modules d'insertion/extraction sont analysées ("Colored/colorless, directional/directionless et contentional/contentionless"). Pour ce faire, nous avons développé un simulateur de nœud ROADM dans une plateforme de trafic dynamique et nous avons proposé une stratégie de gestion offline de la contention à l'intérieur du nœud. Nous avons obtenu une réduction du rapport de blocage intra noeud de l'ordre de 1.5. Ensuite, nous nous sommes focalisés sur la planification des futures générations de réseaux optiques métro cœur. Dans ce but, nous avons étudié la possibilité d'une transmission non cohérente à 100 Gb/s en utilisant le format de modulation PDM-DQPSK. Ensuite, nous avons considéré l'implémentation de la PDM-CS-DQPSK. La qualité de transmission de ces deux systèmes a finalement été évaluée / Traffic demand is exponentially increasing in recent years. Cisco forecast claims that by 2020, transport traffic will be 13 times of today's traffic transmission. This incremental traffic demand makes concerns about energy consumption and network scalability as well as increasing the network complexity. In this respect, to adresse the future traffic demand requirement and provide a reliable telecommunication network, precise network planning and engineering are needed. To this aim, we adress the problem of ROADM node design by presenting different architectures, components and subsystems to investigate the Broadcast and Select and Route and Select ROADM node architectures. Colored/colorless, directional/directionless and contentional/contentionless add/drop module configurations are studied. Futhermore, the problem of Intra Node Blocking is investigated by developing a node simulator in a dynamic network traffic platform. In this respect, we propose an offline contention management strategy for an ROADMnode in order to efficiently decrease the Intra Node blocking ration by more than 1.5 order of magnitude. Finally, we focus on network planning by investigating short and medium term network upgrades for metro-core optical network. To this goal, we investigate the possibility of non coherent signal transmission in metro-core segment of hierarchical layered optical network. Quality of transmission for 100 Gbit/s PDM-DQPSK-modulation format is investigated. Then, we propose the implementation of PDM-CS-DQPSK modulation format to transmit 100 Gbit/s signals in ROADM based optical transmission systems