La thèse s'inscrit dans la perspective de l'explosion du trafic de données générée par l'augmentation du nombre d'utilisateurs ainsi que la croissance du débit qui doivent être prises en compte dans la définition des futures générations de communications radiocellulaires. Une solution est la technologie «large-scale MIMO » (systèmes MIMO de grande dimension) qui pose plusieurs défis. La conception des nouveaux algorithmes de détection de faible complexité est indispensable vu que les algorithmes classiques ne sont plus adaptés à cette configuration à cause de leurs mauvaises performances de détection ou de leur complexité trop élevée fonction du nombre d'antennes. Une première contribution de la thèse est un algorithme basé sur la technique de l'acquisition comprimée en exploitant les propriétés des signaux à alphabet fini. Appliqué à des systèmes MIMO de grande dimension, déterminés et sous-déterminés, cet algorithme réalise des performances (qualité de détection, complexité) prometteuses et supérieures comparé aux algorithmes de l'état de l'art. Une étude théorique approfondie a été menée pour déterminer les conditions optimales de fonctionnement et la distribution statistique des sorties. Une seconde contribution est l'intégration de l'algorithme original dans un récepteur itératif en différenciant les cas codé (code correcteur d'erreurs présent) et non codé. Un autre défi pour tenir les promesses des systèmes large scale MIMO (efficacité spectrale élevée) est l'estimation de canal. Une troisième contribution de la thèse est la proposition d'algorithmes d'estimation semi-aveugles qui fonctionnent avec une taille minimale des séquences d'apprentissage (égale au nombre d'utilisateurs) et atteignent des performances très proches de la borne théorique. / The thesis is part of the prospect of the explosion of data traffic generated by the increase of the number of users as well as the growth of the bit rate which must be taken into account in the definition of future generations of radio-cellular communications. A solution is the large-scale MIMO technology (MIMO systems oflarge size) which poses several challenges. The design of the new low complexity detection algorithms is indispensable since the conventional algorithms are no longer adapted to this configuration because of their poor detection performance or their too high complexity depending on the number of antennas. A first contribution of the thesis is an algorithm based on the technique of compressed sensing by exploiting the propertiesof the signals with finite alphabet. Applied to large-scale, determined and under-determined MIMO systems, this algorithm achieves promising and superior performance (quality ofdetection, complexity) compared to state-ofthe-art algorithms. A thorough theoretical study was conducted to determine the optimal operating conditions and the statistical distribution of outputs. A second contribution is the integration of the original algorithm into an iterative receiver by differentiating the coded and uncoded cases. Another challenge to keeping the promise of large- scale MIMO systems (high spectral efficiency) is channel estimation. A third contribution of the thesis is the proposal of semi-blind channel estimation algorithms that work with a minimum size of pilot sequences (equal to the number of users) and reach performances very close to the theoretical bound.

Dans cette thèse, nous utilisons un ensemble d'outils avancés de mathématiques et de méthodes de traitement du signal pour aborder trois problèmes importants en neuroscience: la détection de potentiels d'action (spikes), leur tri, et le codage neuronal. A partir d'enregistrements invasifs de l'activité de neurones, nous avons d'abord abordé la question de la détection de spikes. Les instants d'occurrence des spikes apparaissent (comme des irrégularités) de manière explicite dans les dérivées distributionnelles du signal neuronal. Le problème est alors posé en termes de détection et estimation conjointe de ces instants d'occurrence. En utilisant le calcul opérationnel, qui fournit un cadre commode pour manipuler des Dirac, nous caractérisons le temps d'occurrence d'un spike par une formule explicite. Après la détection nous abordons le problème du tri de spikes. Nous avons développé un algorithme simple pour des enregistrements multi-canaux. Il utilise une application itérative de l'algorithme ICA et une technique de déflation dans deux boucles imbriquées. Dans chaque itération de la boucle externe, l'activité d'un neurone est ciblée, puis isolée et ensuite élaguée des enregistrements. La boucle interne met en œuvre une séquence d'applications de ICA et de détection afin de supprimer tout ce qui ne relève pas du neurone cible. Enfin, nous menons une discussion sur les propriétés du code neuronal. Nous examinons l'hypothèse d'un code reposant sur un alphabet fini. Cette hypothèse correspond à un schéma de modulation PPM qui est déjà suggéré par le codage temporel et la présence de jitter.

Quel que soit le domaine d'application, il est nécessaire de tirer profit de toute l'information a priori dans le but d'optimiser les résultats ou parfois même de manière à rendre un problème soluble. Dans ce contexte, la notion de parcimonie a émergé comme un a priori fondamental ces dernières années. On dit qu'un signal est parcimonieux dans une base s'il peut être décrit par un faible nombre de coefficients non nuls dans cette base. L'objet de cette thèse est l'étude de nouveaux apports de l'hypothèse de parcimonie au traitement du signal. Deux domaines d'applications sont considérés. Outre l'utilisation de la parcimonie, ces deux domaines ont en commun la résolution de problèmes inverses sous-déterminés. Le premier concerne la séparation de sources. Dans ce domaine, la parcimonie a conduit au développement de différentes méthodes de séparation de sources. Les performances de ces méthodes sont sensibles au choix de certains paramètres, habituellement choisis de manière empirique. Dans cette thèse, on propose un formalisme statistique qui permet de réduire le nombre de ces paramètres, tout en préservant la qualité de la séparation. Le second domaine d'application étudié est l'acquisition compressée des signaux à alphabet fini. Une telle acquisition compressée permet de réduire la dimension des signaux à alphabet fini, tout en gardant l'information nécessaire à leur reconstruction. Une formalisation du problème permet de le relier à celui de la reconstruction des signaux parcimonieux à partir de mesures incomplètes. Cette thèse est donc une exploration de nouvelles problématiques où l'intégration de la parcimonie conduit à de bonnes performances.