Du à la présence de dispositifs non-linéaires comme des amplificateurs de puissance (PAs) et des instruments optiques, les signaux de communication sont parfois corrompus par des distorsions non-linéaires. Dans ce cas, des modèles non-linéaires sont utilisés pour fournir une description précise des signaux, permettant le développement de techniques de traitement du signal capables d'éliminer ou de réduire ces distorsions. Dans ce contexte, le choix du modèle non-linéaire à une importance majeure. Les modèles de Volterra sont depuis longtemps utilisés pour représenter les systèmes de communication en présence de distorsions non-linéaires, ayant des applications dans les systèmes de communication par satellite, les systèmes OFDM et les systèmes radio over fiber (ROF), entre autres. Le principal objectif de cette thèse est de proposer des techniques d'estimation et de récupération d'information dans les systèmes de communication MIMO Volterra. Ce type de modèle MIMO peut être utilisé pour modéliser des canaux de communication avec de multiples antennes à la transmission et à la réception, ainsi que des canaux multi-utilisateurs avec de multiples antennes à réception et une antenne de transmission par utilisateur. Les techniques d'estimation et d'égalisation de canaux sont développées pour trois systèmes de communication non-linéaires différents: OFDM, ROF et ROF-CDMA, différents modèles MIMO Volterra étant utilisés selon l'application considérée. Dans le cas des systèmes du type OFDM, un nouveau schéma de transmission qui introduit de la redondance dans les signaux transmis, ainsi que des récepteurs exploitant cette redondance sont proposés. Dans le cas des systèmes TDMA-SDMA, un ensemble de polynômes orthonormaux est développé pour améliorer la vitesse de convergence de l'algorithme LMS pour l'estimation adaptative supervisée d'un système MIMO Volterra. D'autre part, le développement de récepteurs pour des systèmes de communication MIMO Volterra dans un schéma de transmission aveugle est réalisé à l'aide de décompositions tensorielles. Dans ce cas, en exploitant le fait que les modèles de Volterra sont linéaires vis-à-vis de leurs coefficients, des techniques d'estimation et d'égalisation de canaux MIMO Volterra basées sur la décomposition PARAFAC sont développées pour des systèmes de communication TDMA-SDMA et CDMA.

Pour un terminal mobile alimenté sur batterie, le rendement de l’amplificateur de puissance (AP) doit êtreoptimisé. Cette optimisation peut rendre non-linéaire la fonction d’amplification de l’AP. Pour compenser lesdistorsions introduites par le caractère non-linéaire de l’AP, un détecteur numérique fondé sur un modèle deVolterra peut être utilisé. Le comportement de l’AP et le canal étant modélisé par le modèle de Volterra, uneapproche par filtrage de Kalman (FK) permet d’estimer conjointement les noyaux de Volterra et les symbolestransmis. Dans ce travail, nous proposons de traiter cette problématique dans le cadre d’une liaison montantedans un contexte radio intelligente (RI). Dans ce cas, des contraintes supplémentaires doivent être prises encompte. En effet, étant donné que la RI peut changer de bande de fréquence de fonctionnement, les nonlinéaritésde l’AP peuvent varier en fonction du temps. Par conséquent, nous proposons de concevoir une postdistorsionnumérique fondée sur une modélisation par modèles multiples combinant plusieurs estimateurs àbase de FK. Les différents FK permettant de prendre en compte les différentes dynamiques du modèle.Ainsi, les variations temporelles des noyaux de Volterra peuvent être suivies tout en gardant des estimationsprécises lorsque ces noyaux sont statiques. Le cas d’un signal monoporteuse est adressé et validé par desrésultats de simulation. Enfin, la pertinence de l’approche proposée est confirmée par des mesures effectuéessur un AP large bande (300-3000) MHz. / For a battery driven terminal, the power amplifier (PA) efficiency must be optimized. Consequently,non-linearities may appear at the PA output in the transmission chain. To compensatethese distortions, one solution consists in using a digital post-distorter based on aVolterra model of both the PA and the channel and a Kalman filter (KF) based algorithm tojointly estimate the Volterra kernels and the transmitted symbols. Here, we suggest addressingthis issue when dealing with uplink cognitive radio (CR) system. In this case, additionalconstraints must be taken into account. Since the CR terminal may switch from one subbandto another, the PA non-linearities may vary over time. Therefore, we propose to designa digital post-distorter based on an interacting multiple model combining various KF basedestimators using different model parameter dynamics. This makes it possible to track thetime variations of the Volterra kernels while keeping accurate estimates when those parametersare static. Furthermore, the single carrier case is addressed and validated by simulationresults. In addition, the relevance of the proposed approach is confirmed by measurementscarried on a (300-3000) MHz broadband PA.

Une large classe de systèmes physiques peut être représentée à l'aide du modèle de Volterra. Il a notamment été montré que tout système non-linéaire, invariant dans le temps et à mémoire évanouissante peut être représenté par un modèle de Volterra de mémoire et d¤ordre finis. Ce modèle est donc particulièrement attrayant pour les besoins de modélisation et d'identification de systèmes non-linéaires. Un des atouts majeurs du modèle de Volterra est la linéarité par rapport à ses paramètres, c¤est à dire les coefficients de ses noyaux. Cette caractéristique permet d'étendre à ce modèle certains résultats établis pour l'identification des modèles linéaires. Il est à noter que le modèle de Volterra peut, par ailleurs, être vu comme une extension naturelle de la notion de réponse impulsionnelle des systèmes linéaires aux systèmes non-linéaires. Toutefois, certaines limitations sont à circonvenir: un nombre de paramètres qui peut être très élevé et un mauvais conditionnement de la matrice des moments de l'entrée intervenant dans l¤estimation du modèle au sens de l¤erreur quadratique moyenne minimale (EQMM). Il est à noter que ce mauvais conditionnement est aussi à l¤origine de la lenteur de convergence des algorithmes adaptatifs de type LMS (Least Mean Squares). Cette thèse traite principalement de ces deux questions. Les solutions apportées sont essentiellement basées sur la notion d'orthogonalité. D'une part, l'orthogonalité est envisagée vis à vis de la structure du modèle en développant les noyaux de Volterra sur une base orthogonale de fonctions rationnelles. Ce développement est d'autant plus parcimonieux que la base est bien choisie. Pour ce faire, nous avons développé de nouveaux outils d'optimisation des bases de Laguerre et BFOR (Base de Fonctions Orthonormales Rationnelles) pour la représentation des noyaux de Volterra. D'autre part, l'orthogonalité est envisagée en rapport avec les signaux d'entrée. En exploitant les propriétés statistiques de l¤entrée, des bases de polynômes orthogonaux multivariables ont été construites. Les paramètres du modèle de Volterra développé sur de telles bases sont alors estimés sans aucune inversion matricielle, ce qui simplifie significativement l¤estimation paramétrique au sens EQMM. L¤orthogonalisation des signaux d¤entrée a aussi été envisagée via une procédure de Gram-Schmidt. Dans un contexte adaptatif, il en résulte une accélération de la convergence des algorithmes de type LMS sans un surcoût de calcul excessif. Certains systèmes physiques peuvent être représentés à l¤aide d¤un modèle de Volterra simplifié, à faible complexité paramétrique, tel que le modèle de Hammerstein et celui de Wiener. C¤est le cas d¤un canal de communication représentant l'accès à un réseau sans fil via une fibre optique. Nous montrons notamment que les liaisons montante et descendante de ce canal peuvent respectivement être représentées par un modèle de Wiener et par un modèle de Hammerstein. Dans le cas mono-capteur, en utilisant un précodage de la séquence d'entrée, nous développons une solution permettant de réaliser l'estimation conjointe du canal de transmission et des symboles transmis de manière semiaveugle. Il est à noter que, dans le cas de la liaison montante, une configuration multi-capteurs peut aussi être envisagée. Pour une telle configuration, grâce à un précodage spécifique de la séquence d¤entrée, nous exploitons la diversité spatiale introduite par les capteurs et la diversité temporelle de sorte à obtenir une représentation tensorielle du signal reçu. En appliquant la technique de décomposition tensorielle dite PARAFAC, nous réalisons l'estimation conjointe du canal et des symboles émis de manière aveugle. Mots clés: Modélisation, Identification, Bases orthogonales, Base de Laguerre, Base de fonctions orthonormales rationnelles, Polynômes orthogonaux, Optimisation de pôles, Réduction de complexité, Egalisation, Modèle de Volterra, Modèle de Wiener, Modèle de Hammerstein, Décomposition PARAFAC.