Abstract Future wireless systems will require high data rate with low transmit and processing power consumption. A combination of multiple-input multiple-output (MIMO) transmission with orthogonal frequency division multiplexing (OFDM) is a promising approach for offering better performance in terms of the capacity and quality of service (QoS). The detector in the wireless receiver is one of the highest power consuming parts. In order to minimize the power consumption, it is desirable for the detector to be able to change the detection algorithm to suit the channel conditions. In this thesis work, we study the suitability of different MIMO detection algorithms for adaptive operation. The selective spanning with fast enumeration (SSFE), K-best list sphere detector (LSD), linear minimum mean square error (LMMSE), and successive interference cancellation (SIC) detectors are compared to each other in terms of communications performance in the 4 × 4 and 8 × 8 MIMO–OFDM systems. The impact of least squares (LS) and minimum mean square error (MMSE) channel estimation methods, mobile speed, and transmit precoding at the base station on detector algorithm selection is also considered. The SIC detector is shown to suffer from error propagation in poor channel conditions. The SSFE detector is unable to outperform the K-best LSD and is occasionally outperformed by the LMMSE detector. The LMMSE detector is able to outperform the K-best LSD on the low signal-to-noise (SNR) regime when the mobile speed is high and the spatial channel correlation is low or moderate; it is also found to be more robust against channel estimation errors. Because a realistic adaptive detector is expected to support only two detection algorithms, the K-best LSD and LMMSE are selected based on the performance results for application specific integrated circuit (ASIC) architecture design and further comparison. The chosen algorithms are evaluated by considering the performance and implementation results. The K-best LSD provides good performance under challenging channel conditions with the cost of high complexity and power consumption. The LMMSE detector is energy efficient but performs poorly in correlated channels. However, exceptions exist, and detailed results on when to use a simple detector and when to use a complex detector are provided. / Tiivistelmä Tulevaisuuden langattomat tietoliikennejärjestelmät edellyttävät suurta datanopeutta ja vähäistä tehonkulutusta datan lähetyksessä ja käsittelyssä. Monitulo-monilähtötekniikan (MIMO) ja monikantoaaltomoduloinnin (OFDM) yhdistelmä (MIMO–OFDM) on lupaava lähestymistapa hyvän suorituskyvyn saavuttamiseksi, sekä kapasiteetin että luotettavuuden kannalta. Yksi langattoman vastaanottimen eniten tehoa kuluttavista osista on ilmaisin. Tehonkulutuksen minimoimiseksi tulisi ilmaisimen pystyä vaihtamaan ilmaisinalgoritmia radiokanavan olosuhteisiin sopivaksi. Tässä väitöskirjatyössä tarkastellaan erilaisten MIMO-ilmaisinalgoritmien sopivuutta mukautuvaan ilmaisuun. Listapalloilmaisimen (list sphere detector, LSD), valikoivan laajennuksen listailmaisimen (selective spanning with fast enumeration, SSFE), lineaarisen pienimmän keskineliövirheen ilmaisimen (linear minimum mean square error, LMMSE) ja peräkkäisen häiriönpoistoilmaisimen (successive interference cancellation, SIC) suorituskykyjä verrataan toisiinsa sekä 4 × 4 että 8 × 8 MIMO–OFDM järjestelmissä. Pienimmän neliösumman (LS) ja pienimmän keskineliövirheen (MMSE) kanavaestimointialgoritmien, vastaanottimen nopeuden ja lähetyksen esikoodauksen vaikutus ilmaisinalgoritmin valintaan otetaan huomioon vertailussa. Haastavissa kanavaolosuhteissa SIC-ilmaisin kärsii virheen etenemisestä. SSFE-ilmaisimen suorituskyky on huonompi kuin K-best LSD-ilmaisimen, ja joissakin tilanteissa huonompi kuin LMMSE-ilmaisimen. LMMSE-ilmaisin pystyy parempaan suorituskykyyn kuin K-best LSD-ilmaisin kun signaali-kohinasuhde (SNR) on pieni, vastaanottimen nopeus on suuri ja radiokanavan korrelaatio on matala tai kohtalainen. LMMSE-ilmaisin myös kestää epätarkat kanavaestimaatit paremmin kuin LSD-ilmaisin. Realistisessa vastaanottimessa mukautuva ilmaisin tukee vain kahta ilmaisinalgoritmia, ja sen takia K-best LSD and LMMSE-ilmaisimet valittiin suorituskykytulosten perusteella toteutettaviksi ASIC-teknologialla. Valittuja ilmaisinalgoritmeja arvioidaan sekä suorituskyvyn että toteutustulosten perusteella. K-best LSD-ilmaisimella on hyvä suorituskyky haastavissa kanavaolosuhteissa, mutta toteutus on monimutkainen ja tehonkulutus korkea. LMMSE-ilmaisin on energiatehokas, mutta suorituskyky on huono korreloivissa kanavissa. Poikkeuksia näihin tilanteisiin kuitenkin esiintyy, ja työssä esitetään suositus milloin yksinkertaista ilmaisinta voidaan käyttää tehonkulutuksen minimoimiseksi ja milloin taas monimutkainen ilmaisin on välttämätön luotettavan tiedonsiirron takaamiseksi.

Abstract The aim of the thesis is to develop algorithms and architectures to meet the high data rate, low complexity requirements of the future mobile communication systems. Algorithms, architectures and implementations for detection, channel estimation and interference mitigation in the multiple-input multiple-output (MIMO) orthogonal frequency division multiplexing (OFDM) receivers are presented. The performance-complexity trade-offs in different receiver algorithms are studied and the results can be utilized in receiver design as well as in system design. Implementation of detectors for spatial multiplexing systems is considered first. The linear minimum mean squared error (LMMSE) and the K-best list sphere detector (LSD) are compared to the successive interference cancellation (SIC) detector. The SIC algorithm was found to perform worse than the K-best LSD when the MIMO channels are highly correlated. The performance difference diminishes when the correlation decreases. With feedback to the transmitter, the performance difference is even smaller, but the full rank transmissions still require a more complex detector. A reconfigurable receiver, using a simple or a more complex detector as the channel conditions change, would achieve the best performance while consuming the least amount of power in the receiver. The use of decision directed (DD) channel estimation is also studied. The 3GPP long term evolution (LTE) based pilot structure is used as a benchmark. The performance and complexity of the pilot symbol based least-squares (LS) channel estimator, the minimum mean square error (MMSE) filter and the DD space-alternating generalized expectation-maximization (SAGE) algorithm are studied. DD channel estimation and MMSE filtering improve the performance with high user velocities, where the pilot symbol density is not sufficient. With DD channel estimation, the pilot overhead can be reduced without any performance degradation by transmitting data instead of pilot symbols. Suppression of co-channel interference in the MIMO-OFDM receiver is finally considered. The interference and noise spatial covariance matrix is used in data detection and channel estimation. Interference mitigation is applied for linear and nonlinear detectors. An algorithm to adapt the accuracy of the matrix decomposition and the use of interference suppression is proposed. The adaptive algorithm performs well in all interference scenarios and the power consumption of the receiver can be reduced. / Tiivistelmä Tämän väitöskirjatyön tavoitteena on kehittää vastaanotinalgoritmeja ja -arkkitehtuureja, jotka toteuttavat tulevaisuuden langattomien tietoliikennejärjestelmien suuren datanopeuden ja pienen kompleksisuuden tavoitteet. Työssä esitellään algoritmeja, arkkitehtuureja ja toteutuksia ilmaisuun, kanavaestimointiin ja häiriönvaimennukseen monitulo-monilähtötekniikkaa (multiple-input multiple-output, MIMO) ja ortogonaalista taajuusjakokanavointia (orthogonal frequency division multiplexing, OFDM) yhdistäviin vastaanottimiin. Algoritmeista saatavaa suorituskykyhyötyä verrataan vaadittavaan toteutuksen monimutkaisuuteen. Työn tuloksia voidaan hyödyntää sekä vastaanotin- että järjestelmäsuunnittelussa. Lineaarista pienimmän keskineliövirheen (minimum mean square error, MMSE) ilmaisinta ja listapalloilmaisinta (list sphere detector, LSD) verrataan peräkkäiseen häiriönpoistoilmaisimeen (successive interference cancellation, SIC). SIC-ilmaisimella on huonompi suorituskyky kuin LSD-ilmaisimella radiokanavan ollessa korreloitunut. Korrelaation pienentyessä myös ilmaisimien suorituskykyero pienenee. Erot suorituskyvyissä ovat vähäisiä silloinkin, jos järjestelmässä on takaisinkytkentäkanava lähettimelle. Tällöinkin korkean signaali-kohinasuhteen olosuhteissa LSD-ilmaisimet mahdollistavat tilakanavoidun, suuren datanopeuden tiedonsiirron. Radiokanavan muuttuessa uudelleenkonfiguroitava vastaanotin toisi virransäästömahdollisuuden vaihtelemalla kompleksisen ja yksinkertaisen ilmaisimen välillä. Kanavaestimointialgoritmeja ja niiden toteutuksia vertaillaan käyttämällä lähtökohtana nykyisen mobiilin tiedonsiirtostandardin viitesignaalimallia. Tutkittavat algoritmit perustuvat pienimmän neliösumman (least squares, LS) ja pienimmän keskineliövirheen menetelmään, sekä päätöstakaisinkytkettyyn (decision directed, DD) kanavaestimointialgoritmiin. DD-kanavaestimaattori ja MMSE-suodatin parantavat vastaanottimen suorituskykyä korkeissa käyttäjän nopeuksissa, joissa viitesignaaleiden tiheys ei ole riittävä. DD-kanavaestimoinnilla datanopeutta voidaan nostaa viitesignaaleiden määrää laskemalla vaikuttamatta suorituskykyyn. Työssä tarkastellaan myös saman kanavan häiriön vaimennusta. Häiriöstä ja kohinasta koostuvaa kovarianssimatriisia käytetään ilmaisuun ja kanavaestimointiin. Työssä esitetään adaptiivinen algoritmi matriisihajoitelman tarkkuuden ja häiriön vaimennuksen säätämiseen. Algoritmi mahdollistaa hyvän suorituskyvyn kaikissa häiriötilanteissa vähentäen samalla virrankulutusta.