Cette thèse traite de la séparation aveugle de sources dans les systèmes de communication multiantennes à l'émission et à la réception MIMO. Nous nous intéressons au cas de signaux sources indépendants traversant un canal MIMO linéaire, instantané ou convolutif, et invariant dans le temps. Au début, nous exposons quelques outils associés à la séparation aveugle de sources. Ensuite nous considérons le cas d'un canal MIMO instantané. Nous commençons par proposer un nouvel algorithme CMA basé sur les rotations de Givens complexes. Nous proposons aussi une extension de la classe des algorithmes à nome constante CNA au cas MIMO, où à partir du critère général nous dérivons trois autres algorithmes. Enfin nous considérons le cas d'un canal MIMO convolutif. Nous proposons un nouvel algorithme permettant de contrôler le retard avec lequel les signaux sources seront récupérés. L'étude des points stationnaires du critère est également proposée.