[pt] O objetivo desta Dissertação é apresentar a análise do comportamento de protocolos e dos métodos de proteção em sistemas ópticos para as futuras redes de altas taxas de transmissão. A demanda por banda de transmissão em redes ópticas vem aumentando sobremaneira nas últimas décadas, principalmente, devido à disseminação do acesso e da utilização da Internet e aos novos tipos de aplicações que ela utiliza, com compartilhamento de vídeos e aplicações em nuvem. Esse aumento de tráfego tem impulsionado fortemente o desenvolvimento de tecnologias de sistemas ópticos que procuram garantir o atendimento a essa demanda. Várias frentes de estudos buscam obter taxas de transmissão de bits mais altas por canais (100Gbps, 400Gbps e 1Tbps), utilizando-se de tecnologias avançadas como o formato de modulação multinível, fibras com baixa perda e área de transmissão efetiva mais larga, amplificação híbrida EDFA/Raman e tecnologias de detecção digital coerente. A taxa máxima de transmissão em sistemas ópticos está saindo do atual 10Gbps e indo na direção dos 40Gbps e 100Gbps, já comercialmente oferecidos, e dos 400Gbps e 1Tbps ainda em desenvolvimento. E esse aumento na taxa de transmissão gera uma necessidade de avaliação do comportamento dos protocolos e métodos de proteção atuais quando aplicados a essas novas redes ultra-rápidas. A mudança para taxas de transmissão tão altas pode requerer diferentes estratégias de operação, e a razão é que os efeitos de retardo de propagação alteram significantemente o controle de fluxo do tráfego. / [en] The aim of this Dissertation is to present an analysis of the behavior of protocols and protection methods in optical communication systems for the ultra high bit rate networks. The demand for optical networking transmission bandwidth is increasing greatly in recent decades, mainly due to the spread of access to and the use of the Internet and new types of services, with video sharing and cloud applications. This increase in traffic has driven strongly the development of optical systems technologies that seek to ensure compliance with this demand. Several fronts of studies seeking to obtain rates from higher bits per channel (100Gbps, 400Gbps and 1Tbps), using advanced technologies such as multilevel modulation format, fibers with low loss and wider effective transmission area, hybrid EDFA/Raman amplification and digital coherent detection technologies. The maximum transmission rate in optical systems is coming out of the current 10Gbps and 40Gbps and going towards the 100Gbps, already commercially offered, and still developing 400Gbps and 1Tbps. This increase in transmission rate generates a need for evaluation of the behavior of current protection protocols and methods when applied to these new ultra-fast networks. The change to so high transmission rates may require different operating strategies, and the reason is that the effects of propagation delay alter significantly the control traffic flow.