Ce mémoire étudie deux familles de fonctions orthogonales, soit les fonctions d'orbite de Weyl et les fonctions d'orbite de Hartley. Chacune de ces familles est associée à une algèbre de Lie simple et cette recherche se limite aux algèbres A₂, C₂ et G₂ de rang 2. Les fonctions d'orbite de Weyl ont été largement étudiées depuis des années en raison de leurs propriétés exceptionnelles. Nouvellement, elles ont été utilisées pour générer des polynômes de Chebyshev généralisés et calculer les fonctions génératrices de ces polynômes pour les algèbres de Lie simples de rang 2. Les fonctions d'orbite de Hartley, quant à elles, ont été récemment introduites par Hrivnák et Juránek et l'étude de ces dernières ne fait que débuter. L'objectif de ce mémoire est de définir des polynômes de Chebyshev généralisés associés aux fonctions de Hartley et de calculer les fonctions génératrices de ceux-ci pour les algèbres A₂, C₂ et G₂. Le premier chapitre introduit les systèmes de racines et le groupe de Weyl, original et affine, ainsi que leurs domaines fondamentaux, afin que le lecteur ait les notations et définitions pour comprendre les chapitres suivants. Le deuxième chapitre présente et étudie les fonctions de Weyl. Il définit également leurs polynômes de Chebyshev généralisés et se termine en présentant les différentes fonctions génératrices de ces polynômes pour les algèbres de Lie simples de rang 2. Finalement, le troisième chapitre contient les résultats originaux; il expose les fonctions de Hartley et certaines de leurs propriétés. Il définit les polynômes de Chebyshev généralisés de celles-ci et énonce également leurs relations d'orthogonalité discrète. Il conclut en calculant les fonctions génératrices de ces polynômes pour les algèbres A₂, C₂ et G₂. / This master's thesis studies two families of orthogonal functions, the Weyl orbit functions and the Hartley orbit functions. Each of these families is associated to a simple Lie algebra and the present work is limited to the algebras A₂, C₂ and G₂ of rank 2. Weyl orbit functions have been widely studied for years because of their exceptional properties. Recently, these properties have been used to generate generalized Chebyshev polynomials and to compute the generating functions of these polynomials for the simple Lie algebras of rank 2. Hartley orbit functions, on the other hand, were recently introduced by Hrivnák and Juránek and the study of the latter has only begun. The objective of this thesis is to define the generalized Chebyshev polynomials of Hartley orbit functions and to compute their generating functions for the algebras A₂, C₂ and G₂. The first chapter introduces root systems and the Weyl group, original and affine, and their fundamental domains, so that the reader has the notations and definitions at hand to read the following chapters. The second chapter introduces and studies Weyl orbit functions. It also defines their generalized Chebyshev polynomials and ends by presenting the different generating functions of these polynomials for simple Lie algebras of rank 2. Finally, the third chapter contains the original contribution; it presents the Hartley functions and some of their properties. It defines the generalized Chebyshev polynomials of these and also states their discrete orthogonality relations. It concludes by computing the generating functions of these polynomials for the algebras A₂, C₂ and G₂.

Cette thèse s'articule autour de deux thèmes : une transformation de B(H) introduite par Aluthge et la méthode d'Ansari-Enflo. La première partie fait l'objet de l'étude de la transformation d’Aluthge qui a eu un impact important ces dernières années en théorie des opérateurs. Des résultats optimaux sur la stabilité d'un certain nombre de classes d'opérateurs, telles que la classe des isométries partielles et les classes associées au comportement asymptotique d'un opérateur, sont fournis. Nous étudions également l'évolution d'invariants opératoriels, tels que le polynôme minimal, la fonction minimum, l'ascente et la descente, sous l'action de la transformation ; nous comparons plus précisément les suites des noyaux et images relatives aux itérés d'un opérateur et de sa transformée de Aluthge. La deuxième partie est l'occasion d'étudier la théorie d'Ansari-Enflo, qui a permis de gros progrès pour le problème du sous-espace hyper-invariant. Nous développons plus particulièrement la notion fondatrice de la méthode, celle de vecteur extrémal. La localisation et une nouvelle caractérisation de ces vecteurs sont données. Leur régularité et leur robustesse, au regard de différents paramètres, sont éprouvées. Enfin, nous comparons les vecteurs extrémaux d'un shift à poids et ceux associés à sa transformée d’Aluthge. Cette étude aboutit à la construction d'une suite de vecteurs extrémaux associés aux itérés de la transformation d’Aluthge, pour laquelle certaines propriétés sont mises en évidence. / This thesis is based on two topics : a transformation of B(H) introduced by Aluthge and the Ansari-Enflo method. In the first part, we study the Aluthge transformation which really had an impact on operator theory in the past ten years. Some optimal results about stability for several operators classes, such as isometries class and classes of operators defined by their asymptotic behaviour, are given. We also study changes generated by Aluthge transform about some usual tools in operator theory like minimum polynomial, minimum function, ascent and descent ; precisely, we compare iterated kernels and iterated ranges sequences related to an operator and to its Aluthge transform. The second part is devoted to the study of the Ansari-Enflo theory, which allowed to make progress in the hyper-invariant subspace problem. We develop the notion of extremal vectors which is the fundamental point of the theory. We clarify their spatial localization and a new caracterisation for these vectors is given. Regularity and robustness with regard to different parameters are tried and tested. Finally, we compare extremal vectors associated with weighted shifts and the one corresponding to their Aluthge transform. This study leads to build a sequence of extremal vectors associated with the iterated Aluthge transform, for which we highlight several properties.

Ce travail de thèse porte sur différentes caractérisations des modèles multivariés de stables-Tweedie multiples dans le cadre des familles exponentielles naturelles sous la propriété de "steepness". Ces modèles parus en 2014 dans la littérature ont été d’abord introduits et décrits sous une forme restreinte des stables-Tweedie normaux avant les extensions aux cas multiples. Ils sont composés d’un mélange d’une loi unidimensionnelle stable-Tweedie de variable réelle positive fixée, et des lois stables-Tweedie de variables réelles indépendantes conditionnées par la première fixée, de même variance égale à la valeur de la variable fixée. Les modèles stables-Tweedie normaux correspondants sont ceux du mélange d’une loi unidimensionnelle stable-Tweedie positive fixé et les autres toutes gaussiennes indépendantes. A travers des cas particuliers tels que normal, Poisson, gamma, inverse gaussienne, les modèles stables-Tweedie multiples sont très fréquents dans les études de statistique et probabilités appliquées. D’abord, nous avons caractérisé les modèles stables-Tweedie normaux à travers leurs fonctions variances ou matrices de covariance exprimées en fonction de leurs vecteurs moyens. La nature des polynômes associés à ces modèles est déduite selon les valeurs de la puissance variance à l’aide des propriétés de quasi orthogonalité, des systèmes de Lévy-Sheffer, et des relations de récurrence polynomiale. Ensuite, ces premiers résultats nous ont permis de caractériser à l’aide de la fonction variance la plus grande classe des stables-Tweedie multiples. Ce qui a conduit à une nouvelle classification laquelle rend la famille beaucoup plus compréhensible. Enfin, une extension de caractérisation des stables-Tweedie normaux par fonction variance généralisée ou déterminant de la fonction variance a été établie via leur propriété d’indéfinie divisibilité et en passant par les équations de Monge-Ampère correspondantes. Exprimées sous la forme de produit des composantes du vecteur moyen aux puissances multiples, la caractérisationde tous les modèles multivariés stables-Tweedie multiples par fonction variance généralisée reste un problème ouvert. / In the framework of natural exponential families, this thesis proposes differents characterizations of multivariate multiple stables-Tweedie under "steepness" property. These models appeared in 2014 in the literature were first introduced and described in a restricted form of the normal stables-Tweedie models before extensions to multiple cases. They are composed by a fixed univariate stable-Tweedie variable having a positive domain, and the remaining random variables given the fixed one are reals independent stables-Tweedie variables, possibly different, with the same dispersion parameter equal to the fixed component. The corresponding normal stables-Tweedie models have a fixed univariate stable-Tweedie and all the others are reals Gaussian variables. Through special cases such that normal, Poisson, gamma, inverse Gaussian, multiple stables-Tweedie models are very common in applied probability and statistical studies. We first characterized the normal stable-Tweedie through their variances function or covariance matrices expressed in terms of their means vector. According to the power variance parameter values, the nature of polynomials associated with these models is deduced with the properties of the quasi orthogonal, Levy-Sheffer systems, and polynomial recurrence relations. Then, these results allowed us to characterize by function variance the largest class of multiple stables-Tweedie. Which led to a new classification, which makes more understandable the family. Finally, a extension characterization of normal stable-Tweedie by generalized variance function or determinant of variance function have been established via their infinite divisibility property and through the corresponding Monge-Ampere equations. Expressed as product of the components of the mean vector with multiple powers parameters reals, the characterization of all multivariate multiple stable- Tweedie models by generalized variance function remains an open problem.

Ce mémoire est composé de deux articles qui ont pour but commun de lever le voile et de compléter le schéma d’Askey des q–polynômes orthogonaux dans la limite q = −1. L’objectif est donc de trouver toutes les familles de polynômes orthogonaux dans la limite −1, de caractériser ces familles et de les connecter aux autres familles de polynômes orthogonaux −1 déjà introduites. Dans le premier article, une méthode basée sur la prise de limites dans les relations de récurrence est présentée. En utilisant cette méthode, plusieurs nouvelles familles de polynômes orthogonaux sur des intervals continus sont introduites et un schéma est construit reliant toutes ces familles de polynômes −1. Dans le second article, un ensemble de polynômes, orthogonaux sur l’agencement de quatre grilles linéaires, nommé les polynômes de para-Bannai-Ito est introduit. Cette famille de polynômes complète ainsi la liste des parapolynômes. / This master thesis contains two articles with the common goal of unveiling and completing the Askey scheme of q–orthogonal polynomials in the q = −1 limit. The main objective is to find and characterize new families of -1 orthogonal polynomials and connect them to other already known families. In the first article, a method based on applying limits in recurrence relations is presented. This method is used to find many new families of polynomials orthogonal with respect to continuous measure. A −1 scheme containing them is constructed and a compendium containing the properties of all such families is included. In the second article, a new set of polynomials named the para–Bannai–Ito polynomials is introduced. This new set, orthogonal on a linear quadri–lattice, completes the list of parapolynomials, but it is also a step toward the finalization of the -1 scheme of polynomials orthogonal on finite grids.