Abstract This thesis focuses on the timely problem of energy-efficient transmission for wireless multiantenna cellular systems. The emphasis is on transmit beamforming (BF) and active antenna set optimization to maximize the network-wide energy efficiency (EE) metric, i.e., the number of transmitted bits per energy unit. The fundamental novelty of EE optimization is that it incorporates the transceivers' processing power in addition to the actual transmit power in the BF design. The key features of the thesis are that it focuses on sophisticated power consumption models (PCMs), giving useful insights into the EE of current cellular systems in particular, and provides mathematical tools for EE optimization in future wireless networks generally. The BF problem is first studied in a multiuser multiple-input single-output system by using a PCM scaling with transmit power and the number of active radio frequency (RF) chains. To find the best performance, a globally optimal solution based on a branch-reduce-and-bound (BRB) method is proposed, and two efficient designs based on zero-forcing and successive convex approximation (SCA) are derived for practical applications. Next, joint BF and antenna selection (JBAS) is studied, which can switch off some RF chains for further EE improvements. An optimal BRB method and efficient SCA-based algorithms exploiting continuous relaxation (CR) or sparse BF are proposed to solve the resulting mixed-Boolean nonconvex problem (MBNP). In a multi-cell system, energy-efficient coordinated BF is explored under two optimization targets: 1) the network EE maximization and 2) the weighted sum EEmax (WsumEEmax). A more sophisticated PCM scaling also with the data rate and the associated computational complexity is assumed. The SCA-based methods are derived to solve these problems in a centralized manner, and distributed algorithms relying only on the local channel state information and limited backhaul signaling are then proposed. The WsumEEmax problem is solved using SCA combined with an alternating direction method of multipliers, and iterative closed-form algorithms having easily derivable computational complexity are developed to solve both problems. The work is subsequently extended to a multi-cell multigroup multicasting system, where user groups request multicasting data. For the MBNP, a modeling method to improve the performance of the SCA for solving the CR is proposed, aiming at encouraging the relaxed Boolean variables to converge at the binary values. A second approach based on sparse BF, which introduces no Boolean variables, is also derived. The methods are then modified to solve the EE and sum rate trade-off problem. Finally, the BF design with multiantenna receivers is considered, where the users can receive both unicasting and multicasting data simultaneously. The performances of the developed algorithms are assessed via thorough computer simulations. The results show that the proposed algorithms provide 30-300% EE improvements over various conventional methods in the BF optimization, and that JBAS techniques can offer further gains of more than 100%. / Tiivistelmä Tämä väitöskirja keskittyy ajankohtaiseen energiatehokkaaseen lähetinsuunnitteluun langattomissa solukkoverkoissa, joissa suorituskykymittarina käytetään energiatehokkuuden (energy efficiency (EE)) maksimointia, eli kuinka monta bittiä pystytään lähettämään yhtä energiayksikköä kohti. Työn painopiste on lähettimien keilanmuodostuksen (beamforming (BF)) ja aktiivisten lähetinantennien optimoinnissa. EE-optimoinnin uutuusarvo on ottaa lähettimien prosessoinnin tehonkulutus huomioon keilanmuodostuksen suunnittelussa, varsinaisen lähetystehon lisäksi. Työ antaa hyvän käsityksen erityisesti tämänhetkisten solukkoverkkojen energiatehokkuudesta, ja luo työkaluja EE-optimointiin tulevaisuuden järjestelmissä. Ensin suunnitellaan keilanmuodostus yksisolumallissa, jossa tehonkulutus kasvaa lähetystehon ja aktiivisten radiotaajuusketjujen lukumäärän mukana. Ongelmaan johdetaan optimaalinen ratkaisu, ja kaksi käytännöllistä menetelmää perustuen nollaanpakotukseen tai peräkkäinen konveksi approksimaatio (successive convex approximation (SCA)) -ideaan. Seuraavaksi keskitytään keilanmuodostuksen ja antenninvalinnan yhteisoptimointiin (joint beamforming and antenna selection (JBAS)), jossa radiotaajuusketjuja voidaan sulkea EE:n parantamiseksi. Tähän ehdotetaan optimaalinen menetelmä ja kaksi käytännöllistä SCA-menetelmää perustuen binääristen ja jatkuvien muuttujien yhteisoptimointiongelman relaksaatioon, tai harvan vektorin optimointiin. Monisoluverkon EE-optimoinnissa käytetään yksityiskohtaisempaa tehonkulutusmallia, joka skaalautuu myös datanopeuden ja prosessoinnin monimutkaisuuden mukaan. Työssä käytetään kahta suorituskyvyn mittaria: 1) koko verkon energiatehokkuuden, ja 2) painotettujen energiatehokkuuksien summien maksimointia (weighted sum EEmax (WsumEEmax)). Ensin johdetaan keskitetyt ratkaisut SCA-ideaa käyttäen. Tämän jälkeen keskitytään hajautettuun optimointiin, joka pystytään toteuttamaan paikallisen kanavatiedon avulla, kun matalanopeuksinen skalaariarvojen jako on käytettävissä tukiasemien välillä. Ensin WsumEEmax-ongelma ratkaistaan yhdistämällä SCA ja kerrointen vaihtelevan suunnan menetelmä, ja lisäksi ehdotetaan iteratiivinen suljetun muodon ratkaisu molempiin ongelmiin, joka mahdollistaa tarkan laskennallisen monimutkaisuuden määrityksen. Lopussa työ laajennetaan monisoluverkkoon, jossa tukiasemat palvelevat käyttäjäryhmiä ryhmälähetyksenä. Keskittymällä JBAS-ongelmaan, ensin ehdotetaan lähestymistapa parantaa SCA-menetelmän suorituskykyä yhteisoptimointiongelman relaksaation ratkaisemisessa. Toinen yksinkertaisempi lähestymistapa perustuu harvan vektorin optimointiin, joka ei vaadi binäärisiä muuttujia. Lisäksi menetelmiä muunnellaan myös energiatehokkuuden ja summadatanopeuden kompromissin optimointiin. Lopussa työ ottaa huomioon vielä moniantennivastaanottimet, joka mahdollistaa sekä täsmälähetyksen että ryhmälähetyksen samanaikaisesti. Menetelmien suorituskykyä arvioidaan laajamittaisilla tietokonesimulaatioilla. Tulokset näyttävät väitöskirjan menetelmien lisäävän energiatehokkuutta 30-300% verrattuna lukuisiin perinteisiin menetelmiin BF-optimoinnissa, ja JBAS-menetelmät antavat vielä yli 100% lisää suorituskykyä.