[pt] Os sistemas de comunicações móveis atuais vêm enfrentando novos desafios, marcados pelo aumento do uso de novos dispositivos e pela mudança nos padrões de consumo de banda causada pelas aplicações emergentes. É por isso que a indústria de comunicações e a comunidade acadêmica vêm trabalhando tanto nas dificuldades apresentadas nas redes móveis atuais quanto nos desafios técnicos para o desenvolvimento dos esperados sistemas de quinta geração (5G). O grande aumento dos elementos da rede de acesso rádio e a implementação de cenários heterogêneos (macro e pico eNBs, Relay Nodes, etc.) são duas das principais abordagens utilizadas para melhorar a capacidade da rede. No entanto, esse acréscimo de elementos ou, densificação, traz consigo um aumento nos custos e na complexidade nas tarefas de operação e gerenciamento do sistema, já que os novos elementos de rede precisam ser adaptados, configurados e gerenciados continuamente para garantir e aumentar a eficiência da rede, melhorando a qualidade nos serviços oferecidos aos usuários. Este trabalho de pesquisa propõe a inclusão de mecanismos cognitivos, incluindo técnicas de adaptação, nas arquiteturas das redes de acesso móvel. O trabalho propõe igualmente novos mecanismos de auto-organização (Self Organizing Networks, SON) para o balanceamento de carga, empregando modelos dinâmicos capazes de tomar decisões inteligentes e aprender a partir de experiências para atingir os objetivos de desempenho desejados. / [en] Today s mobile communications systems are facing new challenges, triggered by the increased use of new devices and the growth of bandwidth hungry applications. This is why over the last years, the telecommunication industry and academic communities have been focused on research and development of technologies for the upcoming 5th generation mobile systems (5G). Among the potential candidates, network densification has attracted growing attention as a key mechanism to fulfill the objective proposed in 5G, by increasing the number of radio-base stations (on the coverage area) and introducing an additional layer of low-power access nodes (e.g., Femto, picocells, relay nodes). However, this approach has also posed new challenges in network configuration, management, and optimization tasks to ensure and increase the mobile network efficiency. This research proposes the inclusion of cognitive mechanisms and adaptive techniques in the architectures of mobile radio access networks. This work also proposes new self-organizing (SON) functions for load balancing, enhanced with capabilities of learning from previous experiences to achieve future desired performance goals.