Cette thèse est consacrée au démixage en imagerie hyperspectrale en particulier dans le cas où des objets de petite taille sont présents dans la scène. Les images hyperspectrales contiennent une grande quantité d’information à la fois spectrale et spatiale, et chaque pixel peut être vu comme le spectre de réflexion de la zone imagée. Du fait de la faible résolution spatiale des capteurs le spectre de réflexion observé au niveau de chaque pixel est un mélange des spectres de réflexion de l’ensemble des composants imagés dans le pixel. Une problématique de ces images hyperspectrales est le démixage, qui consiste à décomposer l’image en une liste de spectres sources, appelés endmembers, correspondants aux spectres de réflexions des composants de la scène d’une part, et d’autre part la proportion de chacun de ces spectres source dans chaque pixel de l’image. De nombreuses méthodes de démixage existent mais leur efficacité reste amoindrie en présence de spectres sources dits rares (c’est-à-dire des spectres présents dans très peu de pixels, et souvent à un niveau subpixelique). Ces spectres rares correspondent à des composants présents en faibles quantités dans la scène et peuvent être vus comme des anomalies dont la détection est souvent cruciale pour certaines applications.Nous présentons dans un premier temps deux méthodes de détection des pixels rares dans une image, la première basée sur un seuillage de l’erreur de reconstruction après estimation des endmembers abondants, la seconde basée sur les coefficients de détails obtenus par la décomposition en ondelettes. Nous proposons ensuite une méthode de démixage adaptée au cas où une partie des endmembers sont connus a priori et montrons que cette méthode utilisée avec les méthodes de détection proposées permet le démixage des endmembers des pixels rares. Enfin nous étudions une méthode de rééchantillonnage basée sur la méthode du bootstrap pour amplifier le rôle de ces pixels rares et proposer des méthodes de démixage en présence d’objets de petite taille. / This thesis is devoted to the unmixing issue in hyperspectral images, especiallyin presence of small sized objects. Hyperspectral images contains an importantamount of both spectral and spatial information. Each pixel of the image canbe assimilated to the reflection spectra of the imaged scene. Due to sensors’ lowspatial resolution, the observed spectra are a mixture of the reflection spectraof the different materials present in the pixel. The unmixing issue consists inestimating those materials’ spectra, called endmembers, and their correspondingabundances in each pixel. Numerous unmixing methods have been proposed butthey fail when an endmembers is rare (that is to say an endmember present inonly a few of the pixels). We call rare pixels, pixels containing those endmembers.The presence of those rare endmembers can be seen as anomalies that we want todetect and unmix. In a first time, we present two detection methods to retrievethis anomalies. The first one use a thresholding criterion on the reconstructionerror from estimated dominant endmembers. The second one, is based on wavelettransform. Then we propose an unmixing method adapted when some endmembersare known a priori. This method is then used with the presented detectionmethod to propose an algorithm to unmix the rare pixels’ endmembers. Finally,we study the application of bootstrap resampling method to artificially upsamplerare pixels and propose unmixing methods in presence of small sized targets.

Le nerprun bourdaine (Rhamnus frangula L.) est une espèce exotique qui envahit plusieurs régions du sud du Québec, et plus particulièrement la région administrative de l'Estrie. Actuellement, on connaît encore peu l'écologie de l'espèce dans le contexte québécois et il n’existe pas de portrait d’ensemble de sa distribution dans les forêts tempérées de cette région. Dans ce contexte, le premier objectif du projet était de cartographier par télédétection la distribution du nerprun bourdaine dans deux secteurs de l'Estrie. Un second objectif était d'évaluer les variables environnementales déterminantes pour expliquer le recouvrement de nerprun bourdaine. La phénologie du nerprun bourdaine diffère de celle de la plupart des espèces indigènes arborescentes puisque ses feuilles tombent plus tard en automne. Cette caractéristique a permis de cartographier, par démixage spectral, la probabilité d'occurrence du nerprun bourdaine grâce à une série temporelle d'images du capteur OLI de Landsat 8. Le recouvrement du nerprun bourdaine a été calculé dans 119 placettes sur le terrain. La cartographie résultante a montré un accord de 69% avec les données terrain. Une image SPOT-7, dont la résolution spatiale est plus fine, a ensuite été utilisée, mais n’a pas permis d'améliorer la cartographie, puisque la date d’acquisition de l’image n’était pas optimale dû à un manque de disponibilité. Concernant le second objectif de la recherche, la variable la plus significative pour expliquer la présence de nerprun bourdaine était la densité du peuplement, ce qui suggère que l’ouverture de la couverture forestière pourrait favoriser l’envahissement. Néanmoins, les résultats tendent à démontrer que le nerprun bourdaine est une espèce «généraliste» qui s’adapte bien à plusieurs conditions environnementales. / Glossy buckthorn (Rhamnus frangula L.) is an exotic species invading many areas in southern of Quebec, particularly in the Eastern Townships. Currently, we do not know very much about the species ecology and no thorough study of its distribution in temperate forest has been performed. Therefore, the first objective of the project was to map the spatial distribution of glossy buckthorn in two areas of the Eastern Townships, using remote sensing techniques. The second objective was to evaluate the environmental variables, or predictors, best explaining the presence of glossy buckthorn. The phenology of glossy buckthorn differs from most of the indigenous tree species found in this area because its leaves fall later in autumn. This characteristic allowed to map, using spectral unmixing, the probability of occurrence of glossy buckthorn, with temporal Landsat 8 (OLI) imagery data series. Glossy buckthorn coverage was calculated on 119 plots on the field. The resulting maps showed an agreement of 69% with field data. A SPOT-7 image, which has a finer resolution than Landsat 8 (OLI), was then used but it did not improve the quality of the map, since its acquisition date was not optimal, due to a lack of availability. Concerning the second objective of the research, the best variable explaining the presence of glossy buckthorn was stand density, which leads to believe that forest cover openings could ease the establishment of buckthorn. However, the results tend to show that glossy buckthorn is a generalist species, easily adapting to various environmental conditions.