A oferta de novos serviços para os usuários finais, como o denominado triple play, que consiste no tráfego simultâneo de voz, vídeo e dados utilizando a mesma infra-estrutura de comunicação, vem exigindo que as estruturas de rede das operadoras ofereçam largura de banda adequada e qualidade de serviço. Nesse contexto, as redes ópticas passivas (PON) vêm se destacando em virtude de oferecerem maior largura de banda a custos relativamente baixos. Nas redes ópticas passivas, trechos de fibras ópticas podem ser compartilhados entre diversos assinantes, exigindo, para isso, a utilização de técnicas de controle de acesso múltiplo. Destaque maior é dado à técnica de acesso múltiplo por divisão de códigos ópticos (OCDMA), por apresentar características tais como maior segurança e capacidade flexível sob demanda. O desempenho dessa tecnologia é basicamente limitado pela interferência de acesso múltiplo, ou interferência multiusuário (MAI). No presente trabalho, cenários OCDMA-PON utilizando códigos ópticos unidimensionais, baseados na codificação prima modificada (MPC), e bidimensionais, baseados na codificação óptica ortogonal de múltiplos comprimentos de onda (MWOOC), são descritos, e seus respectivos desempenhos investigados. Os desempenhos desses sistemas são verificados utilizando-se os seguintes esquemas de modulação: 1) On-off Keying (OOK), cujo formalismo para a codificação padded MPC (PMPC) e double padded MPC (DPMPC) foi aqui desenvolvido, 2) por posição de pulso (PPM), considerando os ruídos poissonianos de deteção, cujo formalismo foi também aqui desenvolvido, 3) por posição de pulso (PPM) considerando apenas a interferência de acesso múltiplo (MAI), 4) semelhante ao (3), porém, utilizando a técnica mitigadora de MAI via cancelamento paralelo de interferência (PIC), e 5) semelhante ao (4) porém utilizando modulação por chaveamento de frequência (FSK). Em seguida, a codificação bidimensional MWOOC, utilizando modulação OOK, é analisada com e sem a utilização de PIC. Além desses esquemas, são também incluídas, pela primeira vez nesses formalismos, técnicas de correção posterior de erro (FEC) baseadas no algoritmo Reed-Solomon (RS). A figura de mérito adotada nas simulações é baseada no cálculo da taxa de erro de bit (BER). Os resultados obtidos para os diversos casos investigados neste trabalho indicam que a combinação PIC/FEC deve ser considerada de modo a se obter níveis de BER compatíveis com a região livre de erros (BER < \'10 POT.-12\') para os cenários de redes de acesso atuais e futuros (visando atender a 32 ou 64 usuários simultâneos). / The advent of new services offered to end users, such as the so called triple play, which consists in the simultaneous traffic of voice, video, and data through the same communication infrastructure, has been pushing telecom operators towards providing adequate bandwidth as well as quality of service. This has brought the spotlight to passive optical networks (PONs) by virtue of their considerably higher bandwidth at relatively low cost. In PONs, certain fiber optic spans can be shared among different users as long as multiple access control techniques are used. One such technique is the optical code division multiple access (OCDMA) technique, which, in addition, presents improved data security and flexible capacity on demand. The performance of this technology is basically limited by multi access interference (MAI), which becomes more severe as the number of simultaneous users increases. In the present work, OCDMA-PON scenarios utilizing one- and two-dimensional optical codes separately such as modified prime codes (MPC) and multi-wavelength optical orthogonal codes (MWOOC), are described and thoroughly investigated. The performances of these systems are investigated based on the following modulation schemes: 1) On-off keying (OOK), where a new formalism for the double-padded MPC is proposed, 2) Pulse position modulation (PPM), and 3) Frequency shift keying (FSK) together with MAI mitigation technique based on parallel interference cancelation (PIC). Besides these schemes, it is also included for the first time in these formalisms forward error correction techniques (FEC) based on the Reed-Solomon (RS) algorithm. The figure of merit adopted in all simulations is the bit error rate (BER). The results obtained for the cases investigated in this work indicate that the combination PIC/FEC must be considered if one is interested in obtaining BER levels compatible with the error-free region (BER < \'10 POT.-12\') for the current and future access network scenarios (aiming at attending 32 or 64 simultaneous users).

[pt] Na primeira parte desta tese, são desenvolvidos dois esquemas de detecção por listas para sistemas MIMO multiusuário. As técnicas propostas usam uma única transformação de redução de reticulado (LR) para modificar a matriz de canal entre os usuários e a estação base (BS). Após a transformação LR, um candidato confiável do sinal transmitido é obtido usando um detector de cancelamento sucessivo de interferências (SIC). No detector em múltiplos ramos com redução de reticulado e cancelamento sucessivo de interferências (MB-LR-SIC) proposto, um número fixo de diferentes ordenamentos para o detector SIC gera uma lista de possíveis candidatos para a informação transmitida. O melhor candidato é escolhido usando o critério maximum likelihood (ML). No detector por listas de tamanho variável (VLD) proposto, um algoritmo que decide se o candidato atual tem uma boa qualidade ou se é necessário continuar procurando por um candidato melhor nos ordenamentos restantes é utilizado. Os resultados numéricos mostram que os esquemas propostos têm um desempenho quase ótimo com uma complexidade computacional bem abaixo do detector ML. Um esquema de detecção e decodificação iterativa (IDD) baseado no algoritmo VLD é também desenvolvido, produzindo um desempenho próximo a um sistema mono usuário (SU) livre de interferências. Na segunda parte desta tese, uma técnica de detecção desacoplada de sinais (DSD) para sistemas MIMO massivo é proposta. Esta técnica permite que o sinal composto recebido na BS seja separado em sinais independentes, correspondentes a diferentes classes de usuários, viabilizando assim o uso dos procedimentos de detecção propostos na primeira parte desta tese em sistemas MIMO massivos. Um modelo de sinais para sistemas MIMO massivo com antenas centralizadas e/ou antenas distribuídas operando em redes heterogêneas de quinta geração é proposto. Uma análise baseada na soma das taxas e um estudo de custo computacional para DSD são apresentados. Os resultados numéricos ilustram o excelente compromisso desempenho versus complexidade obtido com a técnica DSD quando comparada com o esquema de detecção conjunta tradicional. / [en] In the first part of this thesis, we introduce two list detection schemes for the uplink scenario of multiuser multiple-input multiple-output (MUMIMO) systems. The proposed techniques employ a single lattice reduction (LR) transformation to modify the channel matrix between the users and the base station (BS). After the LR transformation, a reliable candidate for the transmitted signal vector, provided by successive interference cancellation (SIC) detection is obtained. In the proposed multi-branch lattice reduction SIC (MB-LR-SIC) detector, a fixed number of different orderings, generates a list of SIC detection candidates. The best candidate is chosen according to the maximum likelihood (ML) selection criterion. For the proposed variable list detection (VLD) scheme, an algorithm to decide if the current candidate has good quality or if it is necessary to further explore different orderings to improve the detection performance is employed. Simulation results indicate that the proposed schemes have a near-optimal performance while keeping its computational complexity well below that of the ML detector. An iterative detection and decoding (IDD) scheme based on the VLD algorithm is also developed, producing an excellent performance that approaches the single user (SU) scenario. In the second part of this thesis, a decoupled signal detection (DSD) technique which allows the separation of uplink signals, for each user class, at the base station (BS) for massive MIMO systems is proposed. The proposed DSD allows to implement the detection procedures proposed in the first part of this thesis in massive MIMO scenarios. A mathematical signal model for massive MIMO systems with centralized and distributed antennas in the future fifth generation (5G) heterogeneous cellular networks is also developed. A sum-rate analysis and a study of computational cost for DSD are also presented. Simulation results show excellent performance of the proposed DSD algorithm when combined with linear and SIC-based detectors.

In-band full duplex is a new duplexing scheme that allows radio nodes to transmit and receive, utilizing the same frequency and time resources. The implementation of in-band full duplex was not feasible in practice, due to the effect of self-interference. But then, advances in signal processing made it possible to reduce this effect. However, the system level performance of in-band full duplex has not been investigated thoroughly.Through computer simulations, we investigate the performance of in-band full duplex, for indoor 5G small cell wireless networks. We examine the performance of in-band full duplex in comparison to dynamic and static time division duplexing. Additionally, we analyze the performance of the duplexing schemes with two interference mitigation techniques, namely beamforming and interference cancellation.Our results indicate that for highly utilized wireless networks, in-band full duplex should be combined with beamforming and interference cancellation, in order to achieve a performance gain over traditional duplexing schemes. Only then, in-band full duplex is considered advantageous, at any network utilization, and any downlink to uplink traffic demand proportion. Our results also suggest that in order to achieve a performance gain with in-band full duplex in both links, the transmit power of the access points should be comparable to the transmit power of the mobile stations. / Inomband hel duplex är en ny typ av duplexmetod som tillåter radionoder att sända och ta emot i samma frekvensoch tidsresurs. Att implementera inomband hel duplex har fram tills nu inte ansetts praktiskt genomförbart till följd av självstörningar. Framsteg inom signalbehandling har dock gjort det möjligt att begränsa denna självstörningseffekt. Emellertid har systemprestanda av inomband hel duplex inte undersökts tillräckligt noga i tidigare verk.Inomband hel duplex och dess prestanda för trådlösa 5G småcellsnätverk inomhus har studerats med hjälp av datasimuleringar och jämförts med dynamisk och statisk tidsdelning. Utöver detta har prestanda för de olika duplexmetoderna med avseende på två tekniker för störningsundertryckning, lobformning och störningseliminering, också undersökts.Våra resultat indikerar att för trådlösa nätverk med högt radioresursutnyttjande bör inomband hel duplex kombineras med lobformning och störningseliminering för att uppnå en prestandavinst jämfört med traditionella duplexmetoder. Bara då kan inomband hel duplex anses vara fördelaktig oberoende av radioresursutnyttjande och andelen upp- och nedlänkstrafik.Resultaten tyder också på att sändareffekten för radioaccesspunkterna bör vara jamförbar med den för mobilenheterna för att en prestandavinst med inomband hel duplex ska kunna uppnås. / Wireless networks, In-band full duplex, Static-time division duplexing, Dynamic-time division duplexing, Interference mitigation techniques, small cell, 5G, mmWave bands, Beamforming, Interference cancellation.