Recently, a study on obtaining better Euclidean distance for CPM (Continuous Phase Modulation) signals that fit well-known GSM spectral envelope has been carried out, and significant performance improvements were obtained. Two new pulse shapes, which are represented using 8th degree polynomials, were optimized to give the best error performance under the constraint that the PSD stays below GSM spectral standards. However, the approach uses parameters that cause the number of states to increase considerably, and thus yielding high complexity for receiver implementation. In this thesis, a study on finding a feasible receiver design that can provide a performance with acceptable degradation but affordable complexity is carried out for those new pulse shapes. After a survey about complexity reduction techniques, a decision is made to go on with a receiver structure based on Laurent Decomposition (LD) of phase modulated signals. Unlike other complexity reduction techniques, usage of LD based receivers permits reduction in both the number of matched filters and trellis states. Throughout the study, different numbers of matched filters and trellis states were used in LD based receivers for the new pulse shapes, and good results are obtained. For the pulse shape with pulse length L = 3, about a gain of 0.93dB in power is achieved by only 2 matched filters and 14 trellis states. For the case where L = 7, approximately a gain of 2.25dB is achieved with only 8 matched filters and 56 states, whereas 896 matched filters and 448 states are needed in the optimum case without complexity reduction.

Le récepteur SAIC/MAIC introduit récemment est capable de séparer jusqu'à 2N utilisateurs synchronisés avec N antennes pour les réseaux de radiocommunications utilisant des modulations rectilignes ou quasi-rectilignes. Un tel récepteur, opérationnel dans les téléphones GSM depuis 2006, exploite la non-circularité du second ordre des signaux et met en œuvre un filtre optimal linéaire au sens large (widely linéaire WL). Il s'est montré performant pour les utilisateurs synchrones en absence de résidu de porteuse (l'effet doppler par exemple), mais son comportement en présence d'utilisateurs asynchrones ayant des résidus de porteuse potentiellement non nuls, omniprésents dans de nombreuses applications radio, n'a pas encore fait l'objet d'études théoriques, ce qui ne permet pas d'en connaître les dégradations. Le but de la 1e partie de ce travail consiste à présenter une analyse des performances du SAIC/MAIC, implanté via une approche MMSE avec séquence d'apprentissage, en présence de deux utilisateurs non nécessairement synchronisés et ayant des dérives de fréquence. Pour simplifier, nous avons limité l'analyse théorique à quelques cas particuliers avec des modulations rectilignes. Ainsi des expressions analytiques simples et interprétables ont été données et analysées. Nous avons prouvé que les performances sont moins dégradées dans le cas d'une dérive sur l'utile qu'en présence d'une dérive sur le brouilleur. En outre, la dégradation augmente avec la désynchronisation des deux signaux. Afin de préciser le domaine de validité des approximations analytiques, des illustrations numériques ont été réalisées en prenant comme paramètres ceux du standard GSM dans le but d'appliquer cette étude à ce standard et aux réseaux cellulaires. L'extension de l'analyse aux modulations quasi-rectilignes a nécessité la mise en œuvre d'un filtrage spatio-temporel. Nous avons ainsi étudié l'impact de la taille du filtre spatio-temporel sur les performances du MMSE SAIC/MAIC pour des modulations quasi-rectilignes (MSK et GMSK) en présence de résidus de porteuse. L'étude révèle qu'avec des résidus de porteuse standards, ce récepteur reste relativement robuste et ne nécessite pas de compensation. La 2e partie de ce travail considère des canaux sélectifs en fréquence et consiste à développer un SIMO MLSE pour un signal utile à modulation linéaire quelconque en présence de bruit additif gaussien centré stationnaire coloré temporellement et spatialement et potentiellement non circulaire, en partant d'un problème général de détection d'une forme d'onde. Nous avons démontré que le SIMO MLSE est constitué d'un filtre WL, d'un échantillonneur au rythme symbole et d'une minimisation récursive d'une métrique qui peut se mettre en oeuvre par l'algorithme de Viterbi. Le cas des modulations quasi rectilignes a aussi été considéré. Dans ce cadre, nous avons démontré que le SIMO MLSE a la même structure moyennant un prétraitement de dérotation. Tous ces filtres WL sont interprétés comme des filtres WL adaptés multidimensionnels (WL MMF) au sens où ils maximisent le rapport SNR sur le symbole courant en sortie. Nous avons ensuite étendu la structure du MLSE développée au cas d'un bruit gaussien non circulaire mais cyclostationnaire, de manière à se rapprocher des applications cellulaires. Nous appelons ce nouveau récepteur "pseudo-MLSE" car sa structure a été imposée. En conjecturant que les performances en probabilité d'erreur par symbole sont directement reliées au SNR sur le symbole courant, des expressions générales de celui-ci ont été données pour des MLSE et pseudo-MLSE dans le cadre d'interférences stationnaires et cyclostationnaires potentiellement non circulaires. Des formules interprétables de ces SNR ont été données dans des cas particuliers et des simulations numériques ont été présentées pour montrer les gains en performance des récepteurs introduits par rapport aux MLSE classiques dérivés sous hypothèse de bruit stationnaire circulaire