Abstract With the unprecedented growth in mobile data traffic and network densification, the emerging fifth-generation (5G) wireless network warrants a paradigm shift with respect to system design and technological enablers. In this regard, the prime motivation of this thesis is to propose an integrated access-backhaul (IAB) framework to dynamically schedule users, while efficiently providing a wireless backhaul to dense small cells and mitigating interference. In addition, joint resource allocation and interference mitigation solutions are proposed for two-hop and multi-hop self-backhauled millimeter wave (mmWave) networks. The first contribution of this thesis focuses on a multi-user two-hop relay cellular system in which a massive antenna array enabled macro base station (BS) simultaneously provides high beamforming gains to outdoor users, and wireless backhauling to outdoor small cells. Moreover, a hierarchical interference mitigation scheme is applied to efficiently mitigate cross-tier and co-tier interference. In the second contribution, a multi-hop self-backhauled mmWave communication scenario is studied whereby a joint multi-hop multi-path selection and rate allocation framework is proposed to enable Gbps data rates with reliable communications. Using reinforcement learning techniques, a dynamic and efficient re-routing solution is proposed to cope with blockage and latency constraints. Finally, a risk-sensitive learning solution is leveraged to provide high-reliability and low-latency communications. In summary, the dissertation analyses key trade-offs between (i) capacity and latency, (ii) reliability and network density. Extensive simulation results were carried out to verify the performance gains of the proposed algorithms compared to several baselines and for different network settings. Key findings show significant improvements in terms of higher data rates, lower latency, and reliable communications with some trade-offs. / Tiivistelmä Liikkuvan dataliikenteen ennennäkemättömän kasvun ja verkkojen tihentymisen seurauksena pian käyttöön tulevien viidennen sukupolven (5G) langattomien verkkojen järjestelmäsuunnittelua ja teknologisten mahdollistajien käyttöä on täytynyt lähestyä kokonaan uudesta näkökulmasta. Niinpä tämän väitöstyön johtavana ajatuksena on ehdottaa integroitua verkkoon pääsyn ja runkoverkkoyhteyden muodostamismallia, jossa käyttäjät resursoidaan dynaamisesti ja samalla muodostetaan tehokkaat runkoverkkoyhteydet piensoluille. Tätä varten tutkitaan resurssiallokaation ja häiriöiden lieventämisen yhteisratkaisuja, jotka tukevat kahden tai useamman hypyn yhteyksiä ja samanaikaista runkoverkkoyhteyden luomista millimetriaaltoalueen verkoissa. Työn alkuosa keskittyy usean käyttäjän välitinavusteiseen kahden hypyn solukkoverkkoon, jossa makrotukiasemassa käytetään suurta antenniryhmää muodostamaan samanaikaisesti suuren vahvistuksen antennikeiloja käyttäjälinkeille ja langattomalle runkoyhteysosuudelle. Lisäksi sovelletaan hierarkkista häiriönvaimennusmenetelmää saman kerroksen ja kerrosten välisen häiriön tehokkaaseen vähentämiseen. Työn seuraavassa osassa arvioidaan usean hypyn runkoverkkoyhteyden muodostuksen tutkimusongelmaa millimetrialueen kommunikaatiossa kehittämällä yhdistetty menetelmä usean hypyn monipolkuvalinnalle ja tiedonsiirtoresurssien allokoinnille. Tällä tähdätään gigabittiluokan datanopeuksiin ja luotettavaan tietoliikenteeseen millimetrialueella. Vahvistavan oppimisen tekniikan avulla esitellään dynaaminen ja tehokas uudelleenreitityskonsepti toimimaan esto- ja viiverajoitusten kanssa. Lopuksi hyödynnetään riskisensitiivistä oppimista ja antennidiversiteettitekniikoita suuren luotettavuuden ja pienen latenssin saavuttamiseksi millimetrialueen tiedonsiirrossa. Näiden avulla analysoidaan kaupankäyntiä esimerkiksi (i) kapasiteetin ja latenssin sekä (ii) luotettavuuden ja verkon tiheyden/kuormituksen välillä. Mittavien suoritettujen simulointien avulla osoitetaan ehdotettujen algoritmien suorituskykyedut suhteessa tunnettuihin verrokkeihin useissa eri skenaarioissa. Tulosten perusteella saavutetaan merkittäviä kustannussäästöjä infrastruktuurin ja runkoverkon osalta sekä päästään suuriin datanopeuksiin ja parannuksiin pienen latenssin luotettavassa tietoliikenteessä.

Abstract Communication networks are experiencing a significant growth of data traffic posing new challenges to the overall systems that should become more reactive and adaptive towards dynamically changing traffic, connections and network conditions. This thesis examines adaptive traffic management solutions within heterogeneous communication networks, which can be utilized to improve network performance, provide Quality of Service (QoS) for traffic paths and share resources in a fair way. The developed adaptive methods include solutions for fuzzy flow scheduling (AWFQ, FWQ) and regressive admission control (REAC) to provide stable network performance and efficient resource control. Such techniques for adaptive traffic management continuously balance and control traffic usage and recover from network faults and attacks. The results utilize traffic monitoring for estimating the overall network conditions, applying cognition to learn from previous actions, and adapting to the current traffic conditions for resource optimization. The thesis researches how to distribute these computing mechanisms towards network edges closer to the actual application users for more efficient resource usage, and to provide better performance for delay-sensitive applications. The methods developed have been applied to vehicular communications to assess and improve the messaging between vehicles and vulnerable road users (VRUs). These mechanisms are able to react faster to data traffic changes and guarantee better quality for prioritized traffic and users while at the same time they preserve fairness to other flows compared to traditional control and scheduling methods without adaptive characteristics. The overall system reacts to changes in the network QoS by determining decision-making procedures on possible flow rejection, marking, or allowed bandwidth weight assignment, thus bringing cognition to the network path. / Tiivistelmä Merkittävä liikennemäärien kasvu aiheuttaa tietoverkoille uusia haasteita, minkä vuoksi niiden täytyy tukea reaktiivisuutta ja adaptiivisuutta vastatakseen muuttuviin liikenne- sekä verkko-olosuhteisiin että yhteyksiin. Väitöskirjassa kehitetään heterogeenisten tietoverkkojen adaptiivisia liikenteenhallintaratkaisuja, joita voidaan hyödyntää verkon suorituskyvyn parantamiseen, tarjoamaan liikenteen palvelunlaatua (QoS) sekä tasapuolista resurssien jakoa. Kehitetyt adaptiiviset menetelmät sisältävät ratkaisuja sumeaan logiikkaan perustuvaan skedulointiin sekä regressiiviseen verkon pääsynhallintaan pohjautuen, jotka takaavat vakaamman verkon suorituskyvyn ja resurssien hallinnan. Nämä menetelmät tasapainottavat ja kontrolloivat liikennettä sekä pyrkivät palautumaan verkon häiriöistä ja hyökkäyksistä. Tulokset hyödyntävät liikenteen monitorointia verkon tilan arviointiin, soveltavat kognitiivisuutta oppiakseen aiemmista toiminnoista sekä adaptoituvat nykytilanteeseen resurssien optimoimiseksi. Väitöskirja tutkii, miten kyseisiä laskentamenetelmiä voidaan hajauttaa verkon reunoille lähemmäksi sovellusten käyttäjiä resurssien käytön tehostamiseksi sekä tarjoamaan parempaa suorituskykyä viiveherkille sovelluksille. Kehitettyjä menetelmiä sovelletaan autoverkkoihin autojen sekä suojattomien tienkäyttäjien viestinnän määrittämiseen sekä parantamiseen. Nämä menetelmät reagoivat nopeammin dataliikenteen muutoksiin, takaavat paremman laadun priorisoidulle liikenteelle sekä samalla tasapuolisuutta muulle liikenteelle verrattuna perinteisiin kontrollointi- ja skedulointimenetelmiin. Kehitetty järjestelmä reagoi verkon palvelunlaadun muutoksiin määrittelemällä päätöksentekomalleja mahdolliseen tietovuon hylkäämiseen, merkitsemiseen tai kaistankäytön painokertoimen määrittämiseen, täten luoden kognitiivisuutta verkon reitille.