A necessidade de transmissão de canais modulados a taxas a partir de 400 Gb/s tem motivado a pesquisa e os esforços relativos às tecnologias de camada física habilitadores desta alta capacidade. A atenção se volta, principalmente, aos frontends (transmissores e receptores), aliados aos processadores digitais de sinal (Digital Signal Processors, DSPs), às técnicas de amplificação óptica e a novos tipos de fibra óptica. Em particular a técnica baseada no emprego de filtros de Nyquist combinados à multiplexação de comprimentos de onda (Wavelength Division Multiplexing, DWM), conhecida como Nyquist-WDM, ou N-WDM, tem atraído grande interesse para geração de supercanais ópticos, hoje um dos elementos chave nos sistemas de redes ópticas. O estudo dos fundamentos e casos particulares dos filtros de Nyquist são aprofundados nesta dissertação para o controle de seus parâmetros, em especial o parâmetro conhecido como fator de roll-off, em aplicações que requerem flexibilidade na ocupação espectral e até o reaproveitamento das limitações do filtro para atenuar alguns efeitos lineares e não lineares na fibra. A técnica utiliza um tipo de formatação geométrica de pulso e é limitada pelo ajuste grosso do fator de roll-off, mas como abordagem inicial, permite estabelecer uma série de compromissos na concepção do circuito eletrônico de um transponder sintonizável. Uma investigação teórica foi feita em um sistema PM-16QAM de 21x256 Gb/s, a partir de dados experimentais obtidos com roll-off igual 0,1, para análise do efeito no desempenho sistêmico do ajuste do excesso de largura de banda (em relação à banda de Nyquist) de um filtro formatador de pulso. O fator de roll-off foi ajustado e seu impacto no desempenho do sistema, em termos de alcance, foi verificado. A partir dos resultados, foi observado que, desde que a taxa de erro de bit, BER, esteja dentro do limite do código corretor de erro (forward error corrector, FEC), o valor de roll-off pode ser ajustado para um valor ótimo de acordo com a configuração do sistema e as metas requeridas. Uma vez encontrada a relação entre a BER e o fator de roll-off, foi possível determinar um fator de mérito que relaciona a resolução do filtro de Nyquist, em função do número de taps que ele emprega, o consumo de energia da DSP e, consequentemente, a BER. O compromisso assim estabelecido entre o desempenho sistêmico, o consumo de energia e o fator de roll-off representa a principal contribuição desta dissertação. / The need for transmission of channels modulated at rates greater than 400 Gb/s has motivated the research and efforts related to the physical layer technologies that will enable this high capacity. The attention turns mainly to the frontends (transmitters and receivers), allied to digital signal processors (DSPs), optical amplification techniques and new types of optical fiber. The technique based on the use of Nyquist filters combined withWavelength Division Multiplexing (WDM), known as Nyquist-WDM, or N-WDM, has attracted great interest for the generation of optical super-channels, today one of the key elements in optical network systems. The study of the fundamentals and particular cases of the Nyquist filters are detailed in this dissertation for mastering the control of the parameters, especially the parameter known as roll-off factor, for applications that require flexibility in the spectral occupation and even the reutilization of the limitations of the filter to attenuate some linear and non-linear effects on the fiber. The technique uses a geometric type of pulse-shaping, and is limited by the roll-off factor tunning, but as an initial approach, it allows to establish a series of compensations in the design of the electronic circuit of a tunable transponder. A theoretical investigation was made on a 21x256 Gb/s PM-16QAM system, taken as reference the experimental data obtained with roll-off equal to 0.1, to analyze the effects of adjusting the excess bandwidth (relative to the Nyquist band) of a pulse-shaping filter. The roll-off factor was tunned and its impact on the system performance in terms of range effects was verified. From the results, it was observed that, as long as the bit error ratio, BER, is within the FEC limit, the roll-off parameter can be set to an optimum value according to the system configuration and required targets. Once the relationship between the BER and the roll-off factor was found, it was possible to determine a merit factor that relates the resolution of the Nyquist filter, as a function of the number of taps it uses, the energy consumption of the DSP and, consequently, the BER. The compromise thus established between system performance, energy consumption and roll off represents the main contribution of this work.

A necessidade de transmissão de canais modulados a taxas a partir de 400 Gb/s tem motivado a pesquisa e os esforços relativos às tecnologias de camada física habilitadores desta alta capacidade. A atenção se volta, principalmente, aos frontends (transmissores e receptores), aliados aos processadores digitais de sinal (Digital Signal Processors, DSPs), às técnicas de amplificação óptica e a novos tipos de fibra óptica. Em particular a técnica baseada no emprego de filtros de Nyquist combinados à multiplexação de comprimentos de onda (Wavelength Division Multiplexing, DWM), conhecida como Nyquist-WDM, ou N-WDM, tem atraído grande interesse para geração de supercanais ópticos, hoje um dos elementos chave nos sistemas de redes ópticas. O estudo dos fundamentos e casos particulares dos filtros de Nyquist são aprofundados nesta dissertação para o controle de seus parâmetros, em especial o parâmetro conhecido como fator de roll-off, em aplicações que requerem flexibilidade na ocupação espectral e até o reaproveitamento das limitações do filtro para atenuar alguns efeitos lineares e não lineares na fibra. A técnica utiliza um tipo de formatação geométrica de pulso e é limitada pelo ajuste grosso do fator de roll-off, mas como abordagem inicial, permite estabelecer uma série de compromissos na concepção do circuito eletrônico de um transponder sintonizável. Uma investigação teórica foi feita em um sistema PM-16QAM de 21x256 Gb/s, a partir de dados experimentais obtidos com roll-off igual 0,1, para análise do efeito no desempenho sistêmico do ajuste do excesso de largura de banda (em relação à banda de Nyquist) de um filtro formatador de pulso. O fator de roll-off foi ajustado e seu impacto no desempenho do sistema, em termos de alcance, foi verificado. A partir dos resultados, foi observado que, desde que a taxa de erro de bit, BER, esteja dentro do limite do código corretor de erro (forward error corrector, FEC), o valor de roll-off pode ser ajustado para um valor ótimo de acordo com a configuração do sistema e as metas requeridas. Uma vez encontrada a relação entre a BER e o fator de roll-off, foi possível determinar um fator de mérito que relaciona a resolução do filtro de Nyquist, em função do número de taps que ele emprega, o consumo de energia da DSP e, consequentemente, a BER. O compromisso assim estabelecido entre o desempenho sistêmico, o consumo de energia e o fator de roll-off representa a principal contribuição desta dissertação. / The need for transmission of channels modulated at rates greater than 400 Gb/s has motivated the research and efforts related to the physical layer technologies that will enable this high capacity. The attention turns mainly to the frontends (transmitters and receivers), allied to digital signal processors (DSPs), optical amplification techniques and new types of optical fiber. The technique based on the use of Nyquist filters combined withWavelength Division Multiplexing (WDM), known as Nyquist-WDM, or N-WDM, has attracted great interest for the generation of optical super-channels, today one of the key elements in optical network systems. The study of the fundamentals and particular cases of the Nyquist filters are detailed in this dissertation for mastering the control of the parameters, especially the parameter known as roll-off factor, for applications that require flexibility in the spectral occupation and even the reutilization of the limitations of the filter to attenuate some linear and non-linear effects on the fiber. The technique uses a geometric type of pulse-shaping, and is limited by the roll-off factor tunning, but as an initial approach, it allows to establish a series of compensations in the design of the electronic circuit of a tunable transponder. A theoretical investigation was made on a 21x256 Gb/s PM-16QAM system, taken as reference the experimental data obtained with roll-off equal to 0.1, to analyze the effects of adjusting the excess bandwidth (relative to the Nyquist band) of a pulse-shaping filter. The roll-off factor was tunned and its impact on the system performance in terms of range effects was verified. From the results, it was observed that, as long as the bit error ratio, BER, is within the FEC limit, the roll-off parameter can be set to an optimum value according to the system configuration and required targets. Once the relationship between the BER and the roll-off factor was found, it was possible to determine a merit factor that relates the resolution of the Nyquist filter, as a function of the number of taps it uses, the energy consumption of the DSP and, consequently, the BER. The compromise thus established between system performance, energy consumption and roll off represents the main contribution of this work.

Neste trabalho a técnica de multiportadoras OFDM (Orthogonal Frequency Division Multiplexing), aplicada a sistemas ópticos, é estudada, com foco principal na geração e transmissão dos chamados supercanais ópticos modulados em altíssimas taxas (até Terabits/s). O OFDM prevê um melhor aproveitamento da largura de banda e, quando comparada à técnica FDM (Frequency Division Multiplexing), permite uma redução de aproximadamente 50% do espectro ocupado. Esta economia proporcionada pela técnica torna-a forte candidata para uso em redes ópticas reconfiguráveis, pois provê melhor eficiência espectral aos sinais com reconfiguração de tráfego remoto. Dois cenários serão abordados: o primeiro, em que o sinal com multiportadoras moduladas de forma híbrida (QAM - quadradure amplitude modulation) é gerado no domínio elétrico para, em seguida, modular uma portadora óptica; e o segundo, no qual as multiportadoras são geradas no domínio óptico e, posteriormente, moduladas individualmente também no domínio óptico - e neste caso o formato de modulação pode variar. Para o segundo caso, três técnicas de geração de supercanais serão estudadas e avaliadas a fim de se realizar uma comparação entre elas. Neste trabalho também serão comparadas as técnicas de recepção óptica direta e coerente, aplicadas a sistemas OFDM. Os resultados para o estudo da geração de multiportadoras ópticas, obtidos através de simulações no software Optisystem v. 9.0, são validados por resultados experimentais obtidos no Laboratório de Comunicações Ópticas da Fundação CPqD. / This manuscript presents a study on the multicarrier modulation technique OFDM (Orthogonal frequency division multiplexing) applied to optical systems. The OFDM technique provides a better use of bandwidth and, compared with FDM (Frequency Division Multiplexing), provides a nearly 50% reduction of the occupied bandwidth. This feature makes the OFDM technique an ideal candidate for reconfigurable optical networks because it allows better spectral efficiency to the signals with remote traffic reconfiguration. The study focuses, mainly, on the theoretical investigation of OFDM applied to the transmission of the so-called optical superchannels, modulated at very high bit rates (above Terabits/s). Two scenarios are discussed: in the first, the multicarrier signal, modulated in a hybrid format (QAM - quadrature amplitude modulation), is generated in the electrical domain before modulating the optical carrier, and in the second the multicarrier beam is generated in the optical domain and subsequently each subcarrier is digitally modulated. In this second approach, three superchannel generation techniques are studied and evaluated for being compared. This work will also compare the direct and coherent detection techniques applied to OFDM systems. The results for the optical multicarrier generation study, obtained by numerical simulation (platform Optisystem v. 9.0), are validated by experimental results obtained at the Laboratory of Optical Communication CPqD Foundation.

Neste trabalho a técnica de multiportadoras OFDM (Orthogonal Frequency Division Multiplexing), aplicada a sistemas ópticos, é estudada, com foco principal na geração e transmissão dos chamados supercanais ópticos modulados em altíssimas taxas (até Terabits/s). O OFDM prevê um melhor aproveitamento da largura de banda e, quando comparada à técnica FDM (Frequency Division Multiplexing), permite uma redução de aproximadamente 50% do espectro ocupado. Esta economia proporcionada pela técnica torna-a forte candidata para uso em redes ópticas reconfiguráveis, pois provê melhor eficiência espectral aos sinais com reconfiguração de tráfego remoto. Dois cenários serão abordados: o primeiro, em que o sinal com multiportadoras moduladas de forma híbrida (QAM - quadradure amplitude modulation) é gerado no domínio elétrico para, em seguida, modular uma portadora óptica; e o segundo, no qual as multiportadoras são geradas no domínio óptico e, posteriormente, moduladas individualmente também no domínio óptico - e neste caso o formato de modulação pode variar. Para o segundo caso, três técnicas de geração de supercanais serão estudadas e avaliadas a fim de se realizar uma comparação entre elas. Neste trabalho também serão comparadas as técnicas de recepção óptica direta e coerente, aplicadas a sistemas OFDM. Os resultados para o estudo da geração de multiportadoras ópticas, obtidos através de simulações no software Optisystem v. 9.0, são validados por resultados experimentais obtidos no Laboratório de Comunicações Ópticas da Fundação CPqD. / This manuscript presents a study on the multicarrier modulation technique OFDM (Orthogonal frequency division multiplexing) applied to optical systems. The OFDM technique provides a better use of bandwidth and, compared with FDM (Frequency Division Multiplexing), provides a nearly 50% reduction of the occupied bandwidth. This feature makes the OFDM technique an ideal candidate for reconfigurable optical networks because it allows better spectral efficiency to the signals with remote traffic reconfiguration. The study focuses, mainly, on the theoretical investigation of OFDM applied to the transmission of the so-called optical superchannels, modulated at very high bit rates (above Terabits/s). Two scenarios are discussed: in the first, the multicarrier signal, modulated in a hybrid format (QAM - quadrature amplitude modulation), is generated in the electrical domain before modulating the optical carrier, and in the second the multicarrier beam is generated in the optical domain and subsequently each subcarrier is digitally modulated. In this second approach, three superchannel generation techniques are studied and evaluated for being compared. This work will also compare the direct and coherent detection techniques applied to OFDM systems. The results for the optical multicarrier generation study, obtained by numerical simulation (platform Optisystem v. 9.0), are validated by experimental results obtained at the Laboratory of Optical Communication CPqD Foundation.