Dans cette thèse, nous avons développé de nouveaux cadres d'analyse pour analyser et optimiser les futurs réseaux cellulaires à l'aide de la géométrie stochastique et des processus ponctuels. Cette thèse fournit quatre contributions techniques principales.Nous analysons d’abord les réseaux émergents capables de communiquer en utilisant la lumière plutôt que les ondes radio. Dans ce contexte, nous proposons un cadre analytique innovant qui nous permet d’estimer la probabilité de couverture et le débit moyen des réseaux distribués dans l’espace, qui sont utilisés pour mieux comprendre l’optimisation du système.Deuxièmement, nous proposons une méthodologie innovante pour modéliser des réseaux cellulaires spatialement corrélés en utilisant des processus ponctuels non homogènes. L'approche proposée est testée par rapport au déploiement pratique de réseaux cellulaires et s'est révélée pratique et précise. Il est appliqué à l'analyse des réseaux de communication à lumière visible et l'impact de la corrélation spatiale est étudié.Troisièmement, nous abordons le problème ouvert de la modélisation de réseaux cellulaires MIMO massifs. Nous étudions les réseaux cellulaires montants et descendants et proposons de nouvelles limites supérieures et inférieures pour l'efficacité spectrale moyenne, ce qui nous permet d'identifier le nombre optimal d'utilisateurs à desservir dans chaque cellule du réseau et l'impact de plusieurs paramètres clés du système.Quatrièmement, nous présentons et analysons les performances d'un nouvel algorithme de planification prenant en compte les interférences pour une application sur la liaison montante des réseaux cellulaires. L’approche proposée consiste à assourdir certains utilisateurs afin de réduire le niveau d’interférence. La performance réalisable et l'équité utilisateur de l'approche proposée sont discutées et quantifiées analytiquement. / In this thesis, we have developed new analytical frameworks for analyzing and optimizing future cellular networks with the aid of stochastic geometry and point processes. This thesis provides four main technical contributions.First, we analyze emerging networks that can communicate by using light instead of radio waves. In this context, we propose an innovative analytical framework that allows us to estimate the coverage probability and the average rate of spatially distributed networks, which are used to gain insight for system optimization.Second, we propose an innovative methodology for modeling spatially correlated cellular networks by using inhomogeneous point processes. The proposed approach is tested against practical deployment of cellular networks and found to be tractable and accurate. It is applied to the analysis of visible light communication networks, and the impact of spatial correlation is studied.Third, we tackle the open problem of modeling Massive MIMO cellular networks. We study uplink and downlink cellular networks and propose new upper and lower bounds for the average spectral efficiency, which allow us to identify the optimal number of user to serve in each cell of the network and the impact of several key system parameters.Fourth, we introduce and analyze the performance of a new interference-aware scheduling algorithm for application to the uplink of cellular networks. The proposed approach is based on muting some users in order to reduce the level of interference. The achievable performance and the user-fairness of the proposed approach are discussed and quantified analytically.