Wireless communications are important in our highly connected world. The amount of data being transferred in cellular networks is steadily growing, and consequently more capacity is needed. This thesis considers the problem of downlink capacity improvement from the perspective of multicell coordination. By employing multiple antennas at the transmitters and receivers of a multicell network, the inherent spatial selectivity of the users can be exploited in order to increase the capacity through linear precoding and receive filtering. For the coordination between cells, distributed algorithms are often sought due to their low implementation complexity and robustness. In this context, the thesis considers two problem domains: base station clustering and coordinated precoding. Base station clustering corresponds to grouping the cell base stations into disjoint clusters in order to reduce the coordination overhead. This is needed in intermediate-sized to large networks, where the overhead otherwise would be overwhelmingly high. Two solution methods for the clustering problem are proposed: an optimal centralized method, as well as a heuristic distributed method. The optimal method applies to a family of throughput models and exploits the structure of the model to find bounds that can be used to focus the search for the optimal clustering into promising territories. The distributed method instead uses notions from coalitional game theory, where the base stations are modelled as rational and intelligent players in a game. By letting the players make individual deviations that benefit them in the game, i.e.\@ switching clusters, a distributed coalition formation algorithm is obtained. Coordinated precoding is the act of finding the linear precoders and receive filters that maximize the network performance, given a base station clustering. Four specific challenges are studied in this problem domain. First, coordinated precoding under intercluster interference is considered. The channels of the intercluster links are not explicitly estimated due to overhead reasons, and these links thus lead to intercluster interference. By exploiting the known statistics of the intercluster channels, a robust and distributed coordinated precoding algorithm is developed. Second, coordinated precoding under imperfect channel state information is considered. Relying on the channel reciprocity under time-division duplex operation, a distributed estimation framework is proposed. Given the estimated channels, a robust and distributed coordinated precoding algorithm is then derived. Third, coordinated precoding under imperfect radio hardware is considered. By modelling the radio frequency distortion noises, a distributed coordinated precoding method that accounts for the imperfections is proposed. Fourth, joint coordinated precoding and discrete rate selection is considered. By bounding and linearizing an originally intractable optimization problem, a heuristic algorithm is derived which selects the transmit rate from a finite set and simultaneously forms the linear precoders and receive filters. / Trådlös kommunikation är ett viktigt verktyg i dagens ständigt uppkopplade värld. Datamängden som överförs i mobilnätverk ökar stadigt och därmed behovet av mer kapacitet. För att öka kapaciteten i nedlänken så utvecklar denna avhandling nya metoder för koordinering av multicellnätverk. Med flerantenniga sändare och mottagare så kan den spatiala selektiviteten hos mottagarna utnyttjas för att separera dem, vilket ger en ökad kapacitet. För denna koordinering är distribuerade algoritmer ofta att föredra eftersom de är robusta och har låg implementeringskomplexitet. I detta sammanhang undersöker denna avhandling två problemområden: basstationsgruppering och samordnad förkodning. Basstationsgruppering innebär att basstationerna delas in i disjunkta grupper, vilket minskar overheadkostnaden för samordningen. Detta är framför allt nödvändigt i medelstora till stora nätverk, eftersom overheadkostnaden för koordineringen av dessa annars skulle bli för stor. Två lösningar för basstationsgruppering presenteras: dels en optimal och centraliserad metod samt dels en heuristisk och distribuerad metod. Den optimala och centraliserade metoden kan hantera en familj av modeller för den totala datatakten och utnyttjar strukturen i modellen för att fokusera sökandet efter den optimala grupperingen mot lovande områden. Den heuristiska och distribuerade metoden bygger på spelteori för koalitioner och modellerar basstationerna som rationella och intelligenta spelare i ett spel. En distribuerad algoritm för koalitionsformering härleds genom att låta spelarna göra individuella förflyttningar, dvs. byta grupp, när det gynnar dem under spelets regler. Vid samordnad förkodning använder de flerantenniga sändarna och mottagarna linjära förkodare och mottagningsfilter för att maximera nätverkets prestanda. Inom detta problemområde undersöks fyra olika specifika problem. Först undersöks problemet när det finns störningar mellan basstationsgrupperna. För att hålla nere mängden overhead så skattas inte kanalerna mellan grupperna, vilket ger upphov till störningar hos mottagarna. Genom att utnyttja den kända statistiska informationen för dessa okända kanaler kan en robust och distribuerade samordningsmetod för förkodningen utvecklas. Därnäst undersöks problemet då kanalkännedomen är bristfällig i allmänhet. Reciprociteten som uppstår vid tidsdelningsduplexning utnyttjas och flera distribuerade skattningsmetoder härleds. Givet den skattade kanalkännedomen föreslås en robust metod för samordnad förkodning. Därnäst undersöks problemet med samordnad förkodning då radiohårdvaran är bristfällig. En modell för det distortionsbrus som skapas av den bristfälliga hårdvaran används för att föreslå en robust distribuerad metod för samordnad förkodning för detta scenario. Slutligen undersöks valet av diskret datatakt med simultan samordnad förkodning. En heuristisk algoritm utvecklas som löser ett begränsat optimeringsproblem. Algoritmen väljer sänddatatakten från en ändlig mängd och bestämmer simultant de linjära förkodarna och mottagningsfiltrena. / <p>QC 20160407</p>