Pattern theory, a mathematical framework for representing knowledge of complex patterns developed by applied mathematician Ulf Grenander, has been shown to have potential uses in automatic target recognition (ATR). Prior research performed in the mid-1990s at Washington University in St. Louis resulted in ATR algorithms based on concepts in pattern theory for forward-looking infrared (FLIR) and laser radar (LADAR) imagery, but additional work was needed to create algorithms that could be implemented in real ATR systems. This was due to performance barriers and a lack of calibration between target models and real data. This work addresses some of these issues by exploring techniques that can be used to create practical pattern-theoretic ATR algorithms. This dissertation starts by reviewing the previous pattern-theoretic ATR research described above and discussing new results involving the unification of two previously separate outcomes of that research: multi-target detection/recognition and thermal state estimation in FLIR imagery. To improve the overall utility of pattern-theoretic ATR, the following areas are re-examined: 1) generalized diffusion processes to update target pose estimates and 2) the calibration of thermal models with FLIR target data. The final section of this dissertation analyzes the fundamental accuracy limits of target pose estimation under different sensor conditions, independent of the target detection/recognition algorithm employed. The Cramér-Rao lower bound (CRLB) is used to determine these accuracy limits.

Ce travail de recherche traite le problème inverse d’estimation de la distribution de tailles de particules (DTP) à partir des données de la diffusion dynamique de lumière (DLS). Les méthodes actuelles d’estimation souffrent de la mauvaise répétabilité des résultats d’estimation et de la faible capacité à séparer les composantes d’un échantillon multimodal de particules. L’objectif de cette thèse est de développer de nouvelles méthodes plus performantes basées sur les techniques d’inférence bayésienne et cela en exploitant la diversité angulaire des données de la DLS. Nous avons proposé tout d’abord une méthode non paramétrique utilisant un modèle « free-form » mais qui nécessite une connaissance a priori du support de la DTP. Pour éviter ce problème, nous avons ensuite proposé une méthode paramétrique fondée sur la modélisation de la DTP en utilisant un modèle de mélange de distributions gaussiennes. Les deux méthodes bayésiennes proposées utilisent des algorithmes de simulation de Monte-Carlo par chaînes de Markov. Les résultats d’analyse de données simulées et réelles montrent la capacité des méthodes proposées à estimer des DTPs multimodales avec une haute résolution et une très bonne répétabilité. Nous avons aussi calculé les bornes de Cramér-Rao du modèle de mélange de distributions gaussiennes. Les résultats montrent qu’il existe des valeurs d’angles privilégiées garantissant des erreurs minimales sur l’estimation de la DTP. / This research work treats the inverse problem of particle size distribution (PSD) estimation from dynamic light scattering (DLS) data. The current DLS data analysis methods have bad estimation results repeatability and poor ability to separate the components (resolution) of a multimodal sample of particles. This thesis aims to develop new and more efficient estimation methods based on Bayesian inference techniques by taking advantage of the angular diversity of the DLS data. First, we proposed a non-parametric method based on a free-form model with the disadvantage of requiring a priori knowledge of the PSD support. To avoid this problem, we then proposed a parametric method based on modelling the PSD using a Gaussian mixture model. The two proposed Bayesian methods use Markov chain Monte Carlo simulation algorithms. The obtained results, on simulated and real DLS data, show the capability of the proposed methods to estimate multimodal PSDs with high resolution and better repeatability. We also computed the Cramér-Rao bounds of the Gaussian mixture model. The results show that there are preferred angle values ensuring minimum error on the PSD estimation.

Le domaine lié à ce travail est appelé « désagrégation d’énergie », où la principale préoccupation est de décomposer, ou désagréger, la consommation globale d’énergie électrique (par exemple, la consommation de tout un ménage) en une consommation détaillée donnée comme information de consommation par usage (par exemple, par appareil). Cette dernière permet d’avoir un retour sur la consommation pour les consommateurs ainsi que pour les fournisseurs et est utile pour permettre des économies d’énergie. Dans ce domaine de désagrégation d’énergie, il existe trois grandes questions auxquelles il faut répondre : qui consomme ? quand ? et combien ? Les recherches menées dans cette thèse se concentrent sur l’identification des appareils électriques, c’est-à-dire la réponse à la première question, en considérant particulièrement des appareils ménagers. À cet effet, nous utilisons le courant transitoire de mise en marche que nous modélisons en utilisant un nouveau modèle que nous avons proposé. De plus, nous utilisons les paramètres estimés de ce dernier pour la tâche d’identification. / The related field to this work is called “energy disaggregation" where the main concern is to break down, or disaggregate, the global electrical energy consumption (e.g. wholehouse consumption) into a detailed consumption given as end-use (e.g. appliance-level) consumption information. This latter gives consumption feedback to consumers and electricity providers and is helpful for energy savings. Three main questions have to be answered in the energy disaggregation field : who is consuming ? when ? and how much ? The research conducted in this thesis focuses on electrical appliances identification, i.e. the who question, considering particularly home appliances. For this purpose, we use the turn-on transient current signal which we model using a new model we proposed and use its estimated model parameters for the identification task.

Cette thèse porte sur l'étude des performances d'estimateurs en traitement du signal, et s'attache en particulier à étudier les bornes inférieures de l'erreur quadratique moyenne (EQM) pour l'estimation de points de rupture, afin de caractériser le comportement d'estimateurs, tels que celui du maximum de vraisemblance (dans le contexte fréquentiste), mais surtout du maximum a posteriori ou de la moyenne conditionnelle (dans le contexte bayésien). La difficulté majeure provient du fait que, pour un signal échantillonné, les paramètres d'intérêt (à savoir les points de rupture) appartiennent à un espace discret. En conséquence, les résultats asymptotiques classiques (comme la normalité asymptotique du maximum de vraisemblance) ou la borne de Cramér-Rao ne s'appliquent plus. Quelques résultats sur la distribution asymptotique du maximum de vraisemblance provenant de la communauté mathématique sont actuellement disponibles, mais leur applicabilité à des problèmes pratiques de traitement du signal n'est pas immédiate. Si l'on décide de concentrer nos efforts sur l'EQM des estimateurs comme indicateur de performance, un travail important autour des bornes inférieures de l'EQM a été réalisé ces dernières années. Plusieurs études ont ainsi permis de proposer des inégalités plus précises que la borne de Cramér-Rao. Ces dernières jouissent en outre de conditions de régularité plus faibles, et ce, même en régime non asymptotique, permettant ainsi de délimiter la plage de fonctionnement optimal des estimateurs. Le but de cette thèse est, d'une part, de compléter la caractérisation de la zone asymptotique (en particulier lorsque le rapport signal sur bruit est élevé et/ou pour un nombre d'observations infini) dans un contexte d'estimation de points de rupture. D'autre part, le but est de donner les limites fondamentales de l'EQM d'un estimateur dans la plage non asymptotique. Les outils utilisés ici sont les bornes inférieures de l’EQM de la famille Weiss-Weinstein qui est déjà connue pour être plus précise que la borne de Cramér-Rao dans les contextes, entre autres, de l’analyse spectrale et du traitement d’antenne. Nous fournissons une forme compacte de cette famille dans le cas d’un seul et de plusieurs points de ruptures puis, nous étendons notre analyse aux cas où les paramètres des distributions sont inconnus. Nous fournissons également une analyse de la robustesse de cette famille vis-à-vis des lois a priori utilisées dans nos modèles. Enfin, nous appliquons ces bornes à plusieurs problèmes pratiques : données gaussiennes, poissonniennes et processus exponentiels. / This thesis deals with the study of estimators' performance in signal processing. The focus is the analysis of the lower bounds on the Mean Square Error (MSE) for abrupt change-point estimation. Such tools will help to characterize performance of maximum likelihood estimator in the frequentist context but also maximum a posteriori and conditional mean estimators in the Bayesian context. The main difficulty comes from the fact that, when dealing with sampled signals, the parameters of interest (i.e., the change points) lie on a discrete space. Consequently, the classical large sample theory results (e.g., asymptotic normality of the maximum likelihood estimator) or the Cramér-Rao bound do not apply. Some results concerning the asymptotic distribution of the maximum likelihood only are available in the mathematics literature but are currently of limited interest for practical signal processing problems. When the MSE of estimators is chosen as performance criterion, an important amount of work has been provided concerning lower bounds on the MSE in the last years. Then, several studies have proposed new inequalities leading to tighter lower bounds in comparison with the Cramér-Rao bound. These new lower bounds have less regularity conditions and are able to handle estimators’ MSE behavior in both asymptotic and non-asymptotic areas. The goal of this thesis is to complete previous results on lower bounds in the asymptotic area (i.e. when the number of samples and/or the signal-to-noise ratio is high) for change-point estimation but, also, to provide an analysis in the non-asymptotic region. The tools used here will be the lower bounds of the Weiss-Weinstein family which are already known in signal processing to outperform the Cramér-Rao bound for applications such as spectral analysis or array processing. A closed-form expression of this family is provided for a single and multiple change points and some extensions are given when the parameters of the distributions on each segment are unknown. An analysis in terms of robustness with respect to the prior influence on our models is also provided. Finally, we apply our results to specific problems such as: Gaussian data, Poisson data and exponentially distributed data.

Cette thèse traite de l'estimation d'un canal de communication radio-mobile multi-bond. La communication entre l'émetteur et le récepteur est ainsi faite par l'intermédiaire de relais (de type « Amplify and-Forward ») en série. Les différents éléments (émetteurs, relais, récepteurs) peuvent être fixes ou mobiles. Chaque lien de communication (chaque bond) est modélisé par un canal de Rayleigh à évanouissements plats, avec un spectre Doppler issu de deux environnements possibles de diffusion : en deux dimensions (2D, amenant le spectre en U de Jakes), ou en trois dimensions (3D, amenant un spectre Doppler plat). L'objectif majeur de la thèse est l'estimation dynamique du canal global issue de la cascade des différents liens. A cette fin, la cascade de canaux est approchée par une modèle auto-régressif du premier ordre (AR (1)), et l'estimation est réalisée à l'aide d'un algorithme standard, le filtre de Kalman. La méthode couramment utilisée dans la littérature pour fixer le paramètre du modèle AR(1) est basée sur un critère de « corrélation matching » (CM). Cependant, nous montrons que pour des canaux à variations lentes, un autre critère basé sur la minimisation de la variance asymptotique (MAV) de la sortie du filtre de Kalman est plus approprié. Pour les deux critères, CM et MAV, cette thèse donne une justification analytique en fournissant des formules approchées de la variance d'estimation par le filtre de Kalman, ainsi que du réglage optimal du paramètre du modèle AR(1). Ces formules analytiques sont données en fonctions des fréquences Doppler et du rapport signal sur bruit, pour les environnements de diffusion 2D et 3D, quel que soit le nombre et le type de bonds (fixe-mobile ou mobile-mobile). Les résultats de simulations montrent un gain considérable en termes de l'erreur quadratique moyenne (MSE) de l'estimateur de canal bien réglé, en particulier pour le scénario le plus courant de canal à évanouissements lents. / This thesis deals with the estimation of the multihop Amplify-and-Forward relay communications. The various objects (transmitter, relays, receivers) can be fixed or mobile. Each link is modeled by a flat fading Rayleigh channel, with a Doppler spectrum resulting from two-dimensional (2D, leading to the U-shape Dopller spectrum) or three-dimensional (3D, leading to a flat Doppler spectrum) scattering environments. The cascade of channel hops is approximated by a first-order autoregressive (AR(1)) model and is tracked by a standard estimation algorithm, the Kalman Filter (KF). The common method used in the literature to tune the parameter of the AR(1) model is based on a Correlation Matching (CM) criterion. However, for slow fading variations, another criterion based on the off-line Minimization of the Asymptotic Variance (MAV) of the KF is shown to be more appropriate. For both the CM and MAV criteria, this thesis gives analytic justification by providing approximated closed-form expressions of the estimation variance in output of the Kalman filter, and of the optimal AR(1) parameter. The analytical results are calculated for given Doppler frequencies and Signal-to-Noise Ratio for both scattering environments, whatever the number and type of transmission hops (Fixed-to-Mobile or Mobile-to-Mobile). The simulation results show a considerable gain in terms of the Mean Square Error (MSE) of the well tuned Kalman-based channel estimator, especially for the most common scenario of slow-fading channel.