Ce travail a pour but de proposer une méthode de modélisation et de segmentation du cortex en IRM qui soit adaptée aux utilisations en électroencéphalographie (EEG) et en magnétoencéphalographie (MEG). La complexité du cortex a nécéssité le développement de modèles mathématiques spécifiques. Les contributions de la thèse se situent donc à deux niveaux : au niveau théorique avec le développement d'un modèle discret à la fois volumique et surfacique reposant sur les complexes cellulaires, l'étude de ses propriétés, et le développement d'une méthodologie de segmentation prenant en compte ses caractéristiques ; et au niveau applicatif avec l'utilisation de ce modèle sur des IRM tridimensionnelles pour des applications en EEG et en MEG. L'étude des aspects algorithmiques, imposé par le volume de données, a également constitué une partie importante du travail.