Abstract This thesis concentrates on the design and evaluation of spatial user multiplexing methods via linear transmit-receive processing for wireless cellular multi-user multiple-input multiple-output (MIMO) communication systems operating in the time-division duplexing (TDD) mode. The main focus is on the acquisition of effective channel state information (CSI) that facilitates decentralized processing so that the network nodes – base stations (BS) and user terminals (UT), each employing an arbitrary number of antenna elements – are able to locally participate in the network adaptation. The proposed methods rely on the uplink-downlink channel reciprocity and spatially precoded over-the-air pilot signaling. Considering (single-cell) multi-user MIMO systems, coordinated zero-forcing transmit-receive processing schemes for the uplink (UL) are proposed. The BS computes the transmission parameters in a centralized manner and employs downlink (DL) pilot signals to convey the information of the beamformers to be used by the UTs. When coexisting with the DL zero-forcing, the precoded DL demodulation pilots can be reused for UL beam allocation, and the precoded UL demodulation pilots are reused in turn for partial channel sounding (CS). As a result, only the precoded pilot symbols are needed in both UL and DL. Moreover, a concept for reducing the number of the required orthogonal UL CS pilot resources is presented. Based on their DL channel knowledge, the multi-antenna UTs form fewer pilot beams by spatial precoding than conventionally needed when transmitting antenna-specific pilots. In the context of DL zero-forcing, when taking into account the CSI estimation error at the BS, the overhead reduction turns out to improve robustness and increase the average system capacity. Considering multi-cell multi-user MIMO systems, decentralized coordinated DL beamforming strategies based on weighted sum rate (WSR) maximization are proposed. An optimization framework where the WSR maximization is carried out via weighted sum mean-squared-error minimization is utilized, and the approach is generalized by employing antenna-specific transmit power constraints. The iterative processing consists of optimization steps that are run locally by the BSs. In one novel strategy, the coordinating cells update their transmit precoders and receivers one cell at a time, which guarantees monotonic convergence of the network-wide problem. The strategy employs separate uplink CS and busy burst pilot signaling to reveal the effective channels of the UTs to the neighboring BSs. In another novel strategy, the monotonic convergence is sacrificed to devise a faster scheme where the BSs are allowed to optimize their variables in parallel based on just the CS responses and additional low-rate backhaul information exchange. The numerical results demonstrate that WSR maximization has the desirable property that spatial user scheduling is carried out implicitly. Finally, methods for UL CS overhead reduction are presented, and the effect of CSI uncertainty is addressed. / Tiivistelmä Tämä väitöskirja keskittyy lineaarisella lähetys- ja vastaanottoprosessoinnilla toteutettavien tilajakomonikäyttömenetelmien suunnitteluun ja arviointiin langattomissa moniantennisissa solukkoverkoissa, jotka hyödyntävät aikajakodupleksointia (TDD). Erityisesti tarkastellaan efektiivisen kanavatiedon hankintaa, joka mahdollistaa hajautetun prosessoinnin siten että verkkoelementit – tukiasemat ja terminaalit, jotka kukin hyödyntävät useaa antennielementtiä – voivat osallistua paikallisesti verkon adaptaatioon. Esitetyt menetelmät perustuvat ylä- ja alalinkin kanavien resiprookkisuuteen ja tilatasossa esikoodattuun opetus- eli pilottisignalointiin ilmarajapinnan yli. Yksisoluisille monikäyttäjä- ja moniantennijärjestelmille esitetään ylälinkin koordinoituja nollaanpakottavia lähetys- ja vastaanottomenetelmiä. Tukiasema laskee lähetysparametrit keskitetysti ja käyttää pilottisignaaleja kertomaan millaista lähetyskeilanmuodostusta terminaalien tulee käyttää. Alalinkin nollaanpakotuksen yhteydessä esikoodattuja demodulaatiopilotteja voidaan uudelleenkäyttää ylälinkin lähetyskeilojen allokointiin, ja esikoodattuja ylälinkin demodulaatiopilotteja uudelleenkäytetään puolestaan osittaiseen kanavan luotaukseen (sounding). Näin ollen molempiin suuntiin tarvitaan vain esikoodatut pilotit. Lisäksi työssä esitetään menetelmä ylälinkin luotauspilottiresurssitarpeen vähentämiseksi. Kanavatietoon perustuen moniantenniset terminaalit muodostavat tilatasossa esikoodattuja pilottilähetyskeiloja, joita tarvitaan vähemmän kuin perinteisiä antennikohtaisia pilotteja. Kun otetaan huomioon kanavanestimointivirhe tukiasemassa, resurssiensäästömenetelmä parantaa häiriösietoisuutta ja nostaa järjestelmän keskimääräistä kapasiteettia alalinkin nollaanpakotuksen yhteydessä. Monisoluisille monikäyttäjä- ja moniantennijärjestelmille esitetään hajautettuja koordinoituja alalinkin keilanmuodostusstrategioita, jotka perustuvat painotetun summadatanopeuden (WSR) maksimointiin. Valitussa optimointikehyksessä WSR:n maksimointi toteutetaan painotetun summaneliövirheen minimoinnin kautta, ja työssä menettelytapa yleistetään antennikohtaisten lähetystehorajoitusten tapaukseen. Iteratiivinen prosessointi koostuu optimointiaskelista, jotka tukiasemat paikallisesti suorittavat. Yhdessä esitetyssä strategiassa yhteistoiminnalliset solut päivittävät lähettimensä ja vastaanottimensa yksi solu kerrallaan, mikä takaa verkonlaajuisen ongelmanratkaisun monotonisen konvergenssin. Tämä strategia käyttää erillisiä ylälinkin luotaussignaaleja sekä varattu-signaaleja ilmaistakseen terminaalien efektiiviset kanavat naapuritukiasemille. Toisessa strategiassa monotoninen konvergenssi uhrataan ja kehitetään nopeammin adaptoituva menetelmä, jossa tukiasemat saavat optimoida muuttujansa rinnakkain, perustuen vain luotaussignaaleihin ja tukiasemien väliseen informaationvaihtoon. Numeeriset tulokset osoittavat, että WSR:n maksimointi toteuttaa aktiivisten käyttäjien valinnan tilatasossa implisiittisesti. Lopuksi esitetään menetelmiä luotauspilottiresurssitarpeen vähentämiseksi ja käsitellään kanavatiedon epävarmuuden vaikutusta.

Abstract This thesis considers data transmission in a full-duplex (FD) multiuser multiple-input multiple-output (MU-MIMO) system, where a FD capable base station (BS) bidirectionally communicates with multiple half-duplex (HD) users in downlink (DL) and uplink (UL) channels using the same radio resources. The main challenge in FD communications is how to deal with the self-interference (SI) between transmit and receive antennas at the BS. The work carried out in the thesis is motivated by recent advanced techniques in hardware design demonstrating that the SI can be suppressed to a degree that possibly allows for FD transmission in cellular networks. In particular, this thesis attempts to explore the potential gains in terms of the spectral efficiency (SE) and energy efficiency (EE) that can be brought by the FD MU-MIMO model. As the first of its kinds, the thesis aims to present a solid mathematical framework and report interesting results that foster research on wireless communications in general and FD communications in particular. For the FD system of interest the major challenge is due to the SI and co-channel interference from users in the UL channel to the ones in the DL channel, resulting in the coupling between the two channels. As a result we are concerned with the problem of joint transmit processing design to maximize the SE and EE subject to certain power constraints. Since the design problems are natually non-convex, it is difficult to find the globally optimal solutions or even when possible it is not practically appealing. Our contributions to solving these design problems are on the development of several iterative algorithms that can obtain locally optimal solutions. The proposed algorithms are built upon a framework of local optimization strategies such as the sequential parametric convex approximation and the Frank-Wolfe methods. In special cases closed-form designs are also presented. The reported results show that when the SI is sufficiently suppressed the considered FD MU-MIMO system with the proposed SE designs achieves a significantly better SE but consumes more energy, compared to the HD counterpart. In terms of EE the proposed EE scheme is superior to the proposed SE design. Moreover, in the low transmit power region, the EE design achieves a worse EE than the HD system but a better one in the high trasmit power regime when the SI power is low. / Tiivistelmä Tämä väitöskirja käsittelee datansiirtoa samanaikaisesti kaksisuuntaisessa (full-duplex, FD) usean käyttäjän moniantennijärjestelmässä (MU-MIMO), jossa FD-kykyinen tukiasema on yhtä aikaa yhteydessä vuorosuuntaisten (half-duplex, HD) käyttäjien kanssa laskevalla (DL) ja nousevalla (UL) siirtotiellä käyttäen samoja radioresursseja. FD-kommunikaation suurin haaste liittyy lähetys- ja vastaanottoantennien välisen omahäiriön (SI) hallintaan. Tässä työssä hyödynnetään tuoreita tutkimustuloksia, joissa edistyneillä häiriönvaimennustekniikoilla on kyetty vaimentamaan omahäiriö tasolle, jolla FD-lähetys solukkoverkoissa on toteutuskelpoista. Tässä työssä tutkitaan etenkin mahdollisia FD MU-MIMO –järjestelmän tuomia suorituskykyparannuksia spektrinkäytön tehokkuudessa (SE) ja energiatehokkuudessa (EE). Väitöskirjalla on uutuusarvoa matemaattisessa suorituskykyarvioinnissa ja työn mielenkiintoiset tulokset edistävät jatkotutkimusta aiheen ympärillä. Tutkittavan FD-järjestelmän merkittävänä haasteena on omahäiriön ja muiden käyttäjien siirtosuuntien välisen samankanavan häiriön yhteisvaikutus, jonka johdosta siirtosuunnat kytkeytyvät toisiinsa. Tämä johtaa lähetysprosessoinnin yhteisoptimointiin, jossa spektri- ja energiatehokkuus pyritään maksimoimaan määritetyillä tehorajoituksilla. Nämä suunnitteluongelmat eivät ole luonteeltaan konvekseja, joten niihin on vaikeaa löytää globaalisti optimaalisia ratkaisuja ja vaikka onnistuisikin niin ne eivät yleensä ole käytännöllisiä. Työssä esitetään useita iteratiivisia algoritmejä, joilla saavutetaan paikallisesti optimaalisia ratkaisuja. Ehdotetut algoritmit pohjautuvat paikallisten optimointistrategioiden viitekehykseen, jossa käytetään esimerkiksi peräkkäistä parametristä konveksiapproksimaatiota ja Frank-Wolfe –menetelmiä. Erityistapauksissa suljetun muodon ratkaisut on myös esitetty. Raportoidut tulokset osoittavat, että omahäiriön ollessa riittävästi vaimennettu mallinnetulla järjestelmällä saavutetaan spektrinkäytön optimointimielessä huomattavaa etua HD-verrokkiin lisääntyneen energian kulutuksen kustannuksella. Energiatehokkuuden optimointiin pohjautuvalla strategialla puolestaan päästään suurempiin suorituskykyetuihin. Pienillä lähetystehoilla energiatehokkuus voi kuitenkin olla HD-järjestelmää alempi, mutta vastaavasti suurten lähetystehojen alueella tilanne on päinvastainen kunhan omahäiriön teho on tarpeeksi alhainen.

Abstract This thesis focuses on transceiver optimization for heterogeneous multi-user multiple-input multiple-output (MIMO) wireless communications systems. The aim is to design decentralized beamforming methods with low signaling overhead for improved spatial spectrum utilization. A wide range of transceiver optimization techniques are covered, with particular consideration of decentralized optimization, fast convergence, computational complexity and signaling limitations. The proposed methods are shown to provide improved rate of convergence, when compared to the conventional weighted minimum MSE (WMMSE) approach. This makes them suitable for time-correlated channel conditions, in which the ability to follow the changing channel conditions is essential. Coordinated beamforming under quality of service (QoS) constraints is considered for interfering broadcast channel. Decomposition based decentralized processing approaches are shown to enable the weighted sum rate maximization (WSRMax) in time-correlated channel conditions. Pilot-aided decentralized WSRMax beamformer estimation is studied for coordinated multi-point (CoMP) joint processing (JP). In stream specific estimation (SSE), all effective channels are individually estimated. The beamformers are then constructed from the locally estimated channels. On the other hand, with direct estimation (DE) of the beamformers, only the intended signal needs to be separately estimated and the covariance matrices are implicitly estimated from the received pilot training matrices. This makes the pilot design more robust to pilot contamination. These methods show that CoMP JP is feasible even in relatively fading channel conditions and with limited backhaul capacity by employing decentralized beamformer processing. In the final part of the thesis, a relay-assisted cellular system with decentralized processing is considered, in which users are served either directly by the base stations or via relays for WSRMax or sum power minimization subject to rate constraints. Zero-forcing and coordinated beamforming provide a trade-off between complexity, in-band signaling and spectrum utilization. Relays are shown to be beneficial in many scenarios when the in-band signaling is accounted for. This thesis shows that decentralized downlink MIMO transceiver design with a reasonable computational complexity is feasible in various system architectures even when signaling resources are limited and channel conditions are moderately fast fading. / Tiivistelmä Tämä väitöskirja keskittyy lähetin- ja vastaanotinoptimointiin heterogeenisissä monikäyttäjä- ja moniantennijärjestelmissä. Tavoitteena on parantaa tilatason suorituskykyä tutkimalla hajautettuja keilanmuodostusmenetelmiä, joissa ohjaussignaloinnin tarve on alhainen. Erityisesti keskitytään hajautetun keilanmuodostuksen optimointiin, nopeaan konvergenssiin, laskennalliseen kompleksisuuteen sekä signaloinnin rajoitteisiin. Esitettyjen menetelmien osoitetaan parantavan konvergenssinopeutta ja vähentävän signaloinnin tarvetta, verrattaessa tunnettuun WMMSE-menetelmään. Nämä mahdollistavat lähetyksen aikajatkuvissa kanavissa, joissa kanavan muutosten seuraaminen on erityisen tärkeää. Näiden menetelmien osoitetaan mahdollistavan hajautetun ja priorisoidun tiedonsiirtonopeuden maksimoinnin monisolujärjestelmissä sekä aikajatkuvissa kanavissa käyttäjäkohtaisilla siirtonopeustakuilla. Pilottiavusteisten lähetys- ja vastaanotinkeilojen estimointia tutkitaan yhteislähetysjärjestelmissä. Yksittäisten lähetyskanavien estimoinnissa effektiiviset kanavat estimoidaan yksitellen, ja lähetys- ja vastaanotinkovarianssimatriisit muodostetaan summaamalla paikalliset kanavaestimaatit. Suoraestimoinnissa ainoastaan oman käyttäjän effektiivinen kanava estimoimaan erikseen. Tällöin kovarianssimatriisit saadaan suoraan vastaanotetuista pilottisignaaleista. Tämä tekee estimaateista vähemmän herkkiä häiriölle. Hajautetun yhteislähetyksen osoitetaan olevan mahdollista, jopa verrattain nopeasti muuttuvissa kanavissa sekä rajallisella verkkoyhteydellä lähettimien välillä. Viimeisessä osassa tutkitaan välittäjä-avusteisia järjestelmiä, joissa käyttäjiä palvellaan joko suoraan tukiasemasta tai välittäjä-aseman kautta. Optimointikriteereinä käytetään siirtonopeuden maksimointia sekä lähetystehon minimointia siirtonopeustakuilla. Nollaanpakottava sekä koordinoitu keilanmuodostus tarjoavat valinna laskennallisen kompleksisuuden, ohjaussignaloinnin sekä suorituskyvyn välillä. Välittäjä-avusteisen lähetyksen osoitetaan olevan hyödyllisiä useissa tilanteissa, kun radiorajanpinnan yli tapahtuvan signaloinnin tarve otetaan huomioon keilanmuodostuksessa. Tässä väitöskirjassa osoitetaan hajautetun keilanmuodostuksen olevan mahdollista verrattaen vähäisillä laskennallisilla resursseilla heterogeenisissä moniantennijärjestelmissä. Esitetyt menetelmät tarjoavat ratkaisuja järjestelmiin, joissa ohjaussignalointiresurssit ovat rajallisia ja radiokanava on jatkuvasti muuttuva.

Abstract Multiple-input multiple-output transmitted signal design for the partially coherent Rayleigh fading channels with discrete inputs under a given average transmit power constraint is consider in this thesis. The objective is to design the space-time constellations and linear precoders to adapt to the degradation caused by the imperfect channel estimation at the receiver and the transmit-receive antenna correlation. The system is partially coherent so that the multiple-input multiple-output channel coefficients are estimated at the receiver and its error covariance matrix is fed back to the transmitter. Two constellation design criteria, one for the single and another for the multiple transmit antennae are proposed. An upper bound on the average bit error probability for the single transmit antenna and cutoff rate, i.e., a lower bound on the mutual information, for multiple transmit antennae are derived. Both criteria are functions of channel estimation error covariance matrix. The designed constellations are called as partially coherent constellation. Additionally, to use the resulting constellations together with forward error control codes requires efficient bit mapping schemes. Because these constellations lack geometrical symmetry in general, the Gray mapping is not always possible in the majority of the constellations obtained. Moreover, different mapping schemes may lead to highly different bit error rate performances. Thus, an efficient bit mapping algorithm called the modified binary switching algorithm is proposed. It minimizes an upper bound on the average bit error probability. It is shown through computer simulations that the designed partially coherent constellation and their optimized bit mapping algorithm together with turbo codes outperform the conventional constellations. Linear precoder design was also considered as a simpler, suboptimal alternative. The cutoff rate expression is again used as a criterion to design the linear precoder. A linear precoder is obtained by numerically maximizing the cutoff rate with respect to the precoder matrix with a given average transmit power constraint. Furthermore, the precoder matrix is decomposed using singular-value-decomposition into the input shaping, power loading, and beamforming matrices. The beamforming matrix is found to coincide with the eigenvectors of the transmit correlation matrix. The power loading and input shaping matrices are solved numerically using the difference of convex functions programming algorithm and optimization under the unitary constraint, respectively. Computer simulations show that the performance gains of the designed precoders are significant compared to the cutoff rate optimized partially coherent constellations without precoding. / Tiivistelmä Väitöskirjassa tarkastellaan lähetyssignaalien suunnittelua osittain koherenteissa Rayleigh-häipyvissä kanavissa toimiviin monitulo-monilähtöjärjestelmiin (MIMO). Lähettimen keskimääräinen lähetysteho oletetaan rajoitetuksi ja lähetyssignaali diskreetiksi. Tavoitteena on suunnitella tila-aikakonstellaatioita ja lineaarisia esikoodereita jotka mukautuvat epätäydellisen kanavaestimoinnin aiheuttamaan suorituskyvyn heikkenemiseen sekä lähetin- ja vastaanotinantennien väliseen korrelaatioon. Tarkasteltavien järjestelmien osittainen koherenttisuus tarkoittaa sitä, että MIMO-kanavan kanavakertoimet estimoidaan vastaanottimessa, josta niiden virhekovarianssimatriisi lähetetään lähettimelle. Työssä esitetään kaksi konstellaatiosuunnittelukriteeriä, toinen yhdelle lähetinantennille ja toinen moniantennilähettimelle. Molemmat kriteerit ovat kanavan estimaatiovirheen kovarianssimatriisin funktioita. Työssä johdetaan yläraja keskimääräiselle bittivirhetodennäköisyydelle yhden lähetinantennin tapauksessa sekä rajanopeus (cutoff rate), joka on alaraja keskinäisinformaatiolle, usean lähetinantennin tapauksessa. Konstellaatioiden käyttö yhdessä virheenkorjauskoodien kanssa edellyttää tehokaita menetelmiä, joilla bitit kuvataan konstellaatiopisteisiin. Koska tarvittavat konstellaatiot eivät ole tyypillisesti geometrisesti symmetrisiä, Gray-kuvaus ei ole yleensä mahdollinen.Lisäksi erilaiset kuvausmenetelmät voivat johtaa täysin erilaisiin bittivirhesuhteisiin. Tästä johtuen työssä esitetään uusi kuvausalgoritmi (modified bit switching algorithm), joka minimoi keskimääräisen bittivirhetodennäköisyyden ylärajan. Simulointitulokset osoittavat, että työssä kehitetyt konstellaatiot antavat paremman suorituskyvyn turbokoodatuissa järjestelmissä kuin perinteiset konstellaatiot. Työssä tarkastellaan myös lineaarista esikoodausta yksinkertaisena, alioptimaalisena vaihtoehtona uusille konstellaatioille. Esikoodauksen suunnittelussa käytetään samaa kriteeriä kuin konstellaatioiden kehityksessä eli rajanopeutta. Lineaarinen esikooderi löydetään numeerisesti maksimoimalla rajanopeus kun rajoitusehtona on lähetysteho. Esikoodausmatriisi hajotetaan singulaariarvohajotelmaa käyttäen esisuodatus, tehoallokaatio ja keilanmuodostusmatriiseiksi, jonka havaitaan vastaavan lähetyskorrelaatiomatriisin ominaisvektoreita. Tehoallokaatiomatriisi ratkaistaan numeerisesti käyttäen difference of convex functions -optimointia ja esisuodatusmatriisi optimoinnilla unitaarista rajoitusehtoa käyttäen. Simulaatiotulokset osoittavat uusien esikoodereiden tarjoavan merkittävän suorituskykyedun sellaisiin rajanopeusoptimoituihin osittain koherentteihin konstellaatioihin nähden, jotka eivät käytä esikoodausta.