Cette thèse est consacrée à l'étude des opérateurs de composition sur les espaces modèles. Soit φ une fonction analytique du disque unité dans lui même et soit θ une fonction intérieure, c'est à dire une fonction holomorphe et bornée par 1 dont les limites radiales sur le cercle sont de module 1 presque partout par rapport à la mesure de Lebesgue. A cette fonction θ, on associe l'espace modèle Kθ, défini comme l'ensemble des fonctions f ∈ H2 qui sont orthogonales au sous-espace θH2. Ici H2 est l'espace de Hardy du disque unité. Ces sous-espaces sont importants en théorie des opérateurs car ils servent à modéliser une large classe de contractions sur un espace de Hilbert. Le premier problème auquel nous nous intéressons concerne la compacité d'un opérateur de composition Cφ vu comme opérateur de Kθ dans H2. Récemment, Lyubarskii et Malinnikova ont obtenu un joli critère de compacité pour ces opérateurs qui fait intervenir la fonction de comptage de Nevanlinna du symbole φ. Ce critère généralise le critère classique de Shapiro. Dans une première partie de la thèse, nous généralisons ce résultat de Lyubarskii-Malinnikova à une classe plus générale de sous-espaces, à savoir les espaces de de Branges-Rovnyak ou certains de leurs sous-espaces. Les techniques utilisées sont en particulier des inégalités fines de type Bernstein pour ces espaces. Le deuxième problème auquel nous nous intéressons dans cette thèse concerne l'invariance de Kθ sous l'action de Cφ. Ce problème nous amène à considérer une structure de groupe sur le disque unité du plan complexe via les automorphismes qui fixent le point 1. A travers cette action de groupe, chaque point du disque produit une classe d'équivalence qui se trouve être une suite de Blaschke. On montre alors que les produits de Blaschke correspondants sont des solutions "minimales" d'une équation fonctionnelle ψ∘φ=λψ , où λ est une constante unimodulaire et φ un automorphisme du disque unité. Ces résultats sont ensuite appliqués au problème d'invariance d'un espace modèle par un opérateur de composition. / This thesis concerns the study of composition operators on model spaces. Let φ be an analytic function on the unit disc into itself and let θ be an inner function, that is a holomorphic function bounded by 1 such that the radial limits on the unit circle are of modulus 1 almost everywhere with respect to Lebesgue measure. With this function θ, we associate the model space Kθ, defined as the set of functions f ∈ H2, which are orthogonal to the subspace θH2. Here, H2 is the Hardy space on the unit disc. These subspaces are important in operator theory because they are used to model a large class of contractions on Hilbert space. The first problem which we are interested in concerns the compactness of the composition operator Cφ as an operator on H2 into H2. Recently, Lyubarskii and Malinnikova have obtained a nice criterion for the compactness of these operators which is related to the Nevanlinna counting function. This criterion generalizes the classical criterion of Shapiro. In the first part of the thesis, we generalize this result of Lyubarskii-Malinnikova to a more general class of subspaces, known as de Branges-Rovnyak spaces or some subspaces of them. The techniques that are used are particular Bernstein type inequalities of these spaces. The second problem in which we are interested in this thesis concerns the invariance of Kθ under Cφ. We present a group structure on the unit disc via the automorphisms which fix the point 1. Then, through the induced group action, each point of the unit disc produces an equivalence class which turns out to be a Blaschke sequence. Moreover, the corresponding Blaschke products are minimal solutions of the functional equation ψ∘φ=λψ , where λ is a unimodular constant and φ is an automorphism of the unit disc. These results are applied in the invariance problem of the model spaces by the composition operator.

Les travaux présentés dans cette thèse concernent l'étude d'opérateurs sur certains espaces de Banach de séries de Dirichlet. Nous étudions principalement les opérateurs de composition sur deux familles d'espaces de Bergman. Dans un premier temps, nous donnons des estimations de la norme essentielle des opérateurs de composition sur les espaces de Hardy de séries de Dirichlet à l'aide de deux points de vue : les fonctions de comptage déjà étudiées dans ce cadre et les mesures de Carleson que nous définissons. Dans un second temps nous étudions deux familles d'espaces de Bergman de séries de Dirichlet. Le premier type d'espace est associé au "demi-plan" : on montre que les propriétés d'injection vis-à-vis des espaces de Hardy ne sont pas les mêmes que dans le cas du disque unité et nous prouvons des résultats similaires à ceux obtenus dans la première partie concernant la norme essentielle des opérateurs de composition. Le deuxième type d'espace est associé au polydisque infini : à l'aide d'un résultat d'hypercontractivité nous généralisons des résultats classiques du disque unité sur ces espaces puis nous étudions la continuité des opérateurs de composition sur ces espaces. Nous finissons cette thèse par la définition et l'étude d'espaces de Hardy-Orlicz de séries de Dirichlet. / In this thesis we study operators on some Banach spaces of Dirichlet series. We mainly study composition operators on two families of Bergman spaces. First we give estimates of the essential norm of composition operators on Hardy spaces of Dirichlet series with help of the Nevanlinna couting function and the Carleson's measures. Second we define and study two families of Bergman spaces of Dirichlet series : we compare these new spaces and the Hardy spaces of Dirichlet series and obtain results about boundedness and compactness of compostion operators in this framework. Finally we define and study the Hardy-Orlicz spaces of Dirichlet series.

Les fonctions de champ scalaire sont un outil mathématique puissant pour la représentation de surfaces en informatique graphique. Malgré l'information de volume qu'elles offrent, combiné aux modèles de composition qui les accompagnent, les fonctions de champ scalaire ne sont encore utilisées que dans très peu d'applications en raison de leurs limitations, telles qu'une interaction utilisateur lente et un contrôle de la forme de la surface difficile.Dans cette thèse, nous étudions ces modèles de composition dans le but de les développer, de les améliorer et de faire en sorte qu'ils soient efficaces et pertinents pour l'informatique graphique. Pour cela, nous nous intéressons à deux applications.La première est la modélisation géométrique, où les fonctions de champ scalaire représentent des composants d'objets qui sont assemblés par paires dans un processus de création incrémental pour construire des objets complexes. Nous proposons une représentation unifiée des fonctions de champ scalaire et du modèle de composition afin d'obtenir un processus de modélisation plus stable et sans artefacts.La deuxième application à laquelle nous nous intéressons est la simulation et la reconstruction de fluides basées particules. Ici, les fonctions de champ scalaire représentent les contributions des particules qui échantillonnent le volume du fluide. Ces contributions sont alors combinées d'un coup pour reconstruire la surface du fluide. Nous proposons dans ce cadre de prendre en compte la topologie de la surface reconstruite dans la simulation, évitant ainsi un comportement inapproprié des particules, et donc du fluide ainsi simulé. / Field functions are a powerful mathematical tool for surface representation in computer graphics. Despite the volume information they provide, combined with the composition models accompanying them, field functions are still used in only a few number of applications due to their limitations such as slow user interactions and a difficult shape control.In this thesis we study these composition models in order to develop and improve them and make them efficient and relevant for computer graphics. We do so through two applications.The first one is geometric modelling, where field functions represent object compounds that are combined pairwisely in an iterative creation process to design complex objects. We propose to unify and make consistent both the field function representation and the composition model to provide a more stable and artefact-free modelling process.The second one is fluid simulation and reconstruction based on particles. Here, field functions represent contributions of the particles sampling the fluid volume. These contributions are then combined in a row to build the fluid surface. In this application, we propose to take the topology of the reconstructed surface into account when running the fluid simulation, thus avoiding an inappropriate behavior of the particles, and then of the simulated fluid.

Dans cette thèse nous nous intéressons aux opérateurs de composition sur les espaces de Hardy et Dirichlet et aux opérateurs de Hankel sur les espaces des fonction polyanalytiques. On s’'intéresse à l’'opérateur de composition sur les espaces de Dirichlet : $mathcal{D}_alpha=\left{f \in Hol(D): |f|_alpha^{2}=| f(0)| ^{2}+int_{D}| f'(z)| ^{2}dA_alpha(z)<infty \right}.$ La fonction de comptage généralisée de Nevanlinna associée à l'espace de Dirichlet $\mathcal{D}_\alpha$ est donnée par:$$ N_{\varphi,\alpha}(z):=\sum_{z=\varphi(w),{w\in\D}}(1-|w| )^\alpha,\qquad z\in\D.$$Nous étudions dans la première partie de ce travail la relation entre la fonction de comptage généralisée de Nevanlinna associée à $\varphi$ et la norme de ses ses puissances sur les espaces de Dirichlet. Nous aussi des examples d’'opérateurs de composition de Hilbert-Schmidt sur les espaces de Dirichlet. Nous étudions aussi l’'appartenance de $C_\varphi$ à la classe de Schatten en termes de la taille de l’ensemble de niveau et la norme de $\varphi^n$. Dans la deuxième partie nous considérons l’'espace de Fock-Bargmann des fonctions polyanalytiques, $f in F^n(mathbb{C})$. Nous montrons que si $f (z) = z^k\overline{z}^l$ avec $k, l \in \mathbb{N},$, alors l’'opérateur de Hankel $ H_{f}$ est borné sur $F^n(\mathbb{C})$ si et seulement si $\sup_{m,j}\|H_{f}e_{j, m}\|_{F^n(\mathbb{C})} < +\infty$.On montre aussi que si $f$ une fonction entière sur $\mathbb{C}$, alors l’'opérateur de Hankel $ H_{\bar f}$ est borné sur $F_n(C)$ si et seulement si f est un polynôme de degré au plus 1, et l’'opérateur de Hankel $ H_{\bar f}$ est compact sur $F_n(C)$ si et seulement si f est un polynôme constant. / In this thesis we focus on the composition operators on Hardy and Dirichlet spaces and Hankel operators on spaces of polyanalytiques functions. We are interested in the composition operator on the Dirichlet spaces: $$ mathcal{D}_alpha=left{ f in Hol(D): |f|_alpha^{2}=| f(0)|^{2}+int_{D}| f'(z)| ^{2}dA_alpha(z)<infty \right}. $$ The generalized Nevanlinna counting function associated to $ mathcal{D}_alpha $, is given by: $ N_{varphi,alpha}(z)=sum_{z=phi(w),{winD}}(1-|w| )^alpha,qquad zinDsetminus{phi(0)} .$ We study in the first part of this work the relationship between the generalized Nevanlinna counting function associated with $varphi$ and the norms of its iterated in the Dirichlet spaces. We give examples of Hilbert-Schmidt composition operators on the Dirichlet spaces. We study the composition operators on the Dirichlet spaces belong to Schatten class and the link with the size of contact points of its symbol with the unit circle. In the second part we consider the Bargmann-Fock space of polyanalytic functions, $f in F^n(mathbb{C})$. We prove that if $f (z) = z^koverline{z}^l$ with $k, l in mathbb{N},$ then the Hankel operator $ H_{f}$ is bounded on $F^n(mathbb{C})$ if and only if $sup_{m,j}|H_{f}e_{j, m}|_{F^n(mathbb{C})} < +infty$. We also establish that if $f $ an entire function on $mathbb{C}$, then the Hankel operator $ H_{bar f}$ is bounded on $F^n(mathbb{C})$ if and only if $f$ is a polynomial of degree at most $1,$ and the Hankel operator $ H_{bar f}$ is compact on $F^n(mathbb{C})$ if and only if $f$ is a constant polynomial.

Les travaux de cette thèse relèvent du domaine de la théorie des opérateurs, et se situent à l'interface de l'analyse complexe, de la théorie des semi-groupes et de la théorie de l'universalité. Le premier résultat principal de cette thèse relève de l'étude des opérateurs de composition sur des espaces de fonctions holomorphes : nous déterminons le spectre d'un opérateur de composition par un symbole de Koenigs sur l'espace des fonctions holomorphes sur le disque unité, et en déduisons des informations sur la forme générale du spectre des opérateurs de composition par un symbole de Koenigs sur des espaces de Banach de fonctions holomorphes. L'outil principal que nous développons pour notre étude est une description des projections spectrales associées à ces opérateurs. Le second résultat principal de cette thèse relève de la théorie de l'universalité : nous étendons aux semi-groupes d'opérateurs la notion d'opérateur universel, et établissons l'existence d'un semi-groupe universel pour les semi-groupes quasi-contractifs en exhibant un semi-groupe sur un espace de fonctions holomorphes. Nous élargissons ensuite ce résultats aux semi-groupes d'opérateurs concaves / The works in this thesis address topics from operator theory and involves ideas and notions arising from complex analysis, the theory of operator semigroups and the theory of universality. The first main result of this thesis relates to the study of composition operators on spaces of holomorphic functions: we compute the spectrum of an operator of composition by a Koenigs's symbol acting on the space of holomorphic functions on the open unit disk, and derive from it the general description of the spectrum of composition operators on Banach spaces of holomorphic functions. The key tool we develop in this study is a description of spectral projections associated with such operators.The second main result of this thesis relates to the thoery of universality: we extend to operator semigroups the notion of universality. Then, we prove the existence of a universal semigroup for quasi-contractive operators semigroups. We then show a similar result for concave semigroups

Cette thèse est dédiée à l'étude d'opérateurs de composition pondérés sur plusieurs espaces fonctionnels sous fond du problème du sous-espace invariant. Cet important problème ouvert pose la question de l'existence pour tout opérateur sur un espace de Hilbert, complexe, séparable de dimension infinie, d'un sous-espace fermé, non-trivial et invariant par cet opérateur. La première partie est consacrée à l'étude spectrale et à la caractérisation des vecteurs cycliques d'un opérateur de composition à poids particulier sur L^2([0,1]^d) : l'opérateur de type Bishop, introduit comme possible contre-exemple au problème du sous-espace invariant. Les seconde, troisième et quatrième parties abordent ce problème sous un autre aspect : celui de l'universalité d'un opérateur. Ces opérateurs universels possèdent la propriété d'universalité : la description complète des sous-espaces invariants d'un opérateur universel permettrait de répondre au problème du sous-espace invariant. Déterminer l'universalité d'un opérateur repose sur l'établissement de propriétés spectrales fines de l’opérateur considéré (théorème de Caradus). Dans ce but, nous établissons des propriétés spectrales ad-hoc de classes d’opérateurs de composition à poids sur L^2([0,1]), les espaces de Sobolev d’ordre n, sur les espaces de Hardy du disque unité et du demi-plan supérieur, permettant de déduire des résultats d’universalité. Nous obtenons aussi une généralisation du critère d’universalité. Dans la dernière partie, nous donnons une caractérisation des opérateurs de composition rsid16415432 inversibles et une caractérisation partielle des opérateurs de composition isométriques sur les espaces de Hardy de l’anneau / In this thesis, we study classes of weighted composition operators on several functional spaces in the background of the invariant subspace problem. This important open problem asks the question of the existence for every operator, defined on a complex and separable infinite dimensional Hilbert space, of a non trivial closed subspace invariant under the operator. The first part is dedicated to the establishment of the spectrum and the characterization of cyclic vectors of a special weighted composition operator defined on L^2([0,1]^d) : the Bishop type operator, introduced as possible counter-example of the invariant subspace problem. The second, third and fourth part approach the problem from the point of view of universal operators. More precisely, universal operators have the universal property in the sense of the complete description of all the invariant subspaces of a universal operator could solve the invariant subspace problem. A sufficient condition for an operator to be universal (Caradus’theorem) is given in terms of spectral properties. To this aim, we establish ad-hoc spectral properties of a class of weighted composition operators on L^2([0,1]) and Sobolev spaces of order n, of composition operator in the Hardy space of the unit disc and of the upper half-plane, which lead us to deduce universality results. We also obtain a generalization of the universality criteria mentioned above. In the last part, we give a characterization of invertible composition operators and a partial characterization of composition operators on the Hardy space of the annulus