This thesis consists of a summary and three papers, concerning some aspects of representation theory for complex finite dimensional semi-simple Lie algebras with focus on the BGG-category O. Paper I is motivated by the many useful properties of functors on category O given by tensoring with finite dimensional modules, such as projective functors and translation functors. We study properties of functors on O given by tensoring with arbitrary (possibly infinite dimensional) modules. Such functors give rise to a faithful action of O on itself via exact functors which preserve tilting modules, via right exact functors which preserve projective modules, and via left exact functors which preserve injective modules. Papers II and III both deal with Kostant's problem. In Paper II we establish an effective criterion equivalent to the answer to Kostant's problem for simple highest weight modules, in the case where the Lie algebra is of type A. Using this, we derive some old and new results which answer Kostant's problem in special cases. An easy sufficient condition derived from this criterion using Kazhdan-Lusztig combinatorics allows for a straightforward computational check using a computer, by which we get a complete answer for simple highest weight modules in the principal block of O for algebras of rank less than 5. In Paper III we relate the answer to Kostant's problem for certain modules to the answer to Kostant's problem for a module over a subalgebra. We also give a new description of a certain quotient of the dominant Verma module, which allows us to give a bound on the multiplicities of simple composition factors of primitive quotients of the universal enveloping algebra.

Dans ce travail, nous exploitons des propriétés déjà connues pour les systèmes de poids des représentations afin de les définir pour les orbites des groupes de Weyl des algèbres de Lie simples, traitées individuellement, et nous étendons certaines de ces propriétés aux orbites des groupes de Coxeter non cristallographiques. D'abord, nous considérons les points d'une orbite d'un groupe de Coxeter fini G comme les sommets d'un polytope (G-polytope) centré à l'origine d'un espace euclidien réel à n dimensions. Nous introduisons les produits et les puissances symétrisées de G-polytopes et nous en décrivons la décomposition en des sommes de G-polytopes. Plusieurs invariants des G-polytopes sont présentés. Ensuite, les orbites des groupes de Weyl des algèbres de Lie simples de tous types sont réduites en l'union d'orbites des groupes de Weyl des sous-algèbres réductives maximales de l'algèbre. Nous listons les matrices qui transforment les points des orbites de l'algèbre en des points des orbites des sous-algèbres pour tous les cas n<=8 ainsi que pour plusieurs séries infinies des paires d'algèbre-sous-algèbre. De nombreux exemples de règles de branchement sont présentés. Finalement, nous fournissons une nouvelle description, uniforme et complète, des centralisateurs des sous-groupes réguliers maximaux des groupes de Lie simples de tous types et de tous rangs. Nous présentons des formules explicites pour l'action de tels centralisateurs sur les représentations irréductibles des algèbres de Lie simples et montrons qu'elles peuvent être utilisées dans le calcul des règles de branchement impliquant ces sous-algèbres. / In this work, we exploit properties well known for weight systems of representations to define them for individual orbits of the Weyl groups of simple Lie algebras, and we extend some of these properties to orbits of non-crystallographic Coxeter groups. Points of an orbit of a finite Coxeter group G are considered as vertices of a polytope (G-polytope) centered at the origin of a real n-dimensional Euclidean space. Products and symmetrized powers of G-polytopes are introduced and their decomposition into the sums of G-polytopes is described. Several invariants of G-polytopes are found. The orbits of Weyl groups of simple Lie algebras of all types are reduced to the union of orbits of the Weyl groups of maximal reductive subalgebras of the algebra. Matrices transforming points of the orbits of the algebra into points of subalgebra orbits are listed for all cases n<=8 and for many infinite series of algebra-subalgebra pairs. Numerous examples of branching rules are shown. Finally, we present a new, uniform and comprehensive description of centralizers of the maximal regular subgroups in compact simple Lie groups of all types and ranks. Explicit formulas for the action of such centralizers on irreducible representations of the simple Lie algebras are given and shown to have application to computation of the branching rules with respect to these subalgebras.

Dans ce travail, nous exploitons des propriétés déjà connues pour les systèmes de poids des représentations afin de les définir pour les orbites des groupes de Weyl des algèbres de Lie simples, traitées individuellement, et nous étendons certaines de ces propriétés aux orbites des groupes de Coxeter non cristallographiques. D'abord, nous considérons les points d'une orbite d'un groupe de Coxeter fini G comme les sommets d'un polytope (G-polytope) centré à l'origine d'un espace euclidien réel à n dimensions. Nous introduisons les produits et les puissances symétrisées de G-polytopes et nous en décrivons la décomposition en des sommes de G-polytopes. Plusieurs invariants des G-polytopes sont présentés. Ensuite, les orbites des groupes de Weyl des algèbres de Lie simples de tous types sont réduites en l'union d'orbites des groupes de Weyl des sous-algèbres réductives maximales de l'algèbre. Nous listons les matrices qui transforment les points des orbites de l'algèbre en des points des orbites des sous-algèbres pour tous les cas n<=8 ainsi que pour plusieurs séries infinies des paires d'algèbre-sous-algèbre. De nombreux exemples de règles de branchement sont présentés. Finalement, nous fournissons une nouvelle description, uniforme et complète, des centralisateurs des sous-groupes réguliers maximaux des groupes de Lie simples de tous types et de tous rangs. Nous présentons des formules explicites pour l'action de tels centralisateurs sur les représentations irréductibles des algèbres de Lie simples et montrons qu'elles peuvent être utilisées dans le calcul des règles de branchement impliquant ces sous-algèbres. / In this work, we exploit properties well known for weight systems of representations to define them for individual orbits of the Weyl groups of simple Lie algebras, and we extend some of these properties to orbits of non-crystallographic Coxeter groups. Points of an orbit of a finite Coxeter group G are considered as vertices of a polytope (G-polytope) centered at the origin of a real n-dimensional Euclidean space. Products and symmetrized powers of G-polytopes are introduced and their decomposition into the sums of G-polytopes is described. Several invariants of G-polytopes are found. The orbits of Weyl groups of simple Lie algebras of all types are reduced to the union of orbits of the Weyl groups of maximal reductive subalgebras of the algebra. Matrices transforming points of the orbits of the algebra into points of subalgebra orbits are listed for all cases n<=8 and for many infinite series of algebra-subalgebra pairs. Numerous examples of branching rules are shown. Finally, we present a new, uniform and comprehensive description of centralizers of the maximal regular subgroups in compact simple Lie groups of all types and ranks. Explicit formulas for the action of such centralizers on irreducible representations of the simple Lie algebras are given and shown to have application to computation of the branching rules with respect to these subalgebras.

Soit K un corps algébriquement clos de caractéristique nulle. Il est bien connu, d'après un résultat de Duflo, Khalgui et Torasso, qu'une algèbre de Lie algébrique quasi-réductive (définie sur K) est stable. La réciproque est fausse en général. Se pose la question de savoir, si pour certaines classes particulières d'algèbres de Lie non réductives, il y a équivalence entre ces deux notions. Plus généralement, les sous-algèbres biparaboliques forment une classe très intéressante (incluant la classe des sous-algèbres paraboliques et de Levi) d'algèbres de Lie qui ne sont pas toutes réductives. Panyushev conjecture que si une sous-algèbre biparabolique est stable, alors son stabilisateur générique est un tore. Cette conjecture peut être reformulée ainsi : une sous-algèbre de Lie biparabolique est stable si et seulement si elle est quasi-réductive. Compte tenu des résultats obtenus par ce dernier pour le cas des sous-algèbres paraboliques d'une algèbre de Lie simple de type A et C, on donne dans cette thèse une réponse positive à cette conjecture pour la classe des sous-algèbres paraboliques d'une algèbre de Lie simple. Au passage, nous montrons également qu'une sous-algèbre de Lie de gl(n, K) qui stabilise une forme bilinéaire alternée de rang maximal et un drapeau en position générique est stable si et seulement si elle est quasi-réductive. / Let K be an algebraically closed field of characteristic 0. It is well known by work of Duflo, Khalgui and Torasso that any quasi-reductive algebraic Lie algebra (defined over K) is stable. However, there are stable Lie algebras which are not quasi-reductive. This raises the question, if for some particular class of non-reductive Lie algebras, there is equivalence between stability and quasi-reductivity. More generally, biparabolic subalgebras form a very interesting class (including the class of parabolic subalgebras and of Levi subalgebras) of non-reductive Lie algebras. It was conjectured by Panyushev that these two notions are equivalent for biparabolic subalgebras of a reductive Lie algebra. In this thesis, we give by considering the results of Panyushev for parabolic subalgerbras of simple Lie algebra of type A and C a positive answer to this conjecture in the case of parabolic subalgebras. In passing, we prove that these two notions are equivalent for certain subalgebras of gl(n,K) which stabilize an alternating bilinear form of maximal rank and a flag in generic position.