Le mécanisme permettant d’expliquer l’origine de la masse des neutrinos demeure, encore aujourd’hui, un mystère complet dont la résolution est susceptible de modifier considérablement la structure du modèle standard en physique des particules élémentaires. Dans la littérature, plusieurs candidats potentiels sont donc proposés afin de combler cette lacune et, ainsi, faire la lumière sur certaines des propriétés les plus étranges des neutrinos. Parmi ceux-ci, les mécanismes seesaw de type I, II et III constituent sans doute les approches les plus attrayantes et les plus étudiées. Cependant, bien que ces mécanismes offrent un cadre de travail simple et élégant pour expliquer la faible masse des neutrinos (l’ordre de grandeur), ceux-ci n’offrent aucune prédiction sur les paramètres fondamentaux caractérisant le phénomène d’oscillation, soit les angles de mélange, les phases complexes et la hiérarchie des masses. Afin d’obtenir des prédictions concrètes sur la phénoménologie des neutrinos, certaines hypothèses de travail supplémentaires doivent donc être formulées pour contraindre la structure des matrices de masse obtenue. Dans ce travail, l’hypothèse anarchique propre au secteur des neutrinos est adoptée. Les matrices de masse générées par les trois mécanismes seesaw dans la limite des basses énergies sont traitées dans le contexte d’une théorie de matrices aléatoires, ce qui permet de définir et d’analyser de nouveaux ensembles matriciels aléatoires appelés ensembles seesaw. Un cadre théorique unifié est donc présenté pour la construction de ces ensembles. Grâce au formalisme élaboré, qui repose sur les outils traditionnels relevant de la théorie des matrices aléatoires, les densités de probabilité jointes caractérisant ces ensembles sont obtenues de façon analytique. Une étude détaillée de leurs propriétés est alors réalisée, ce qui permet d’extraire les tendances dominantes propres à ces mécanismes de masse et d’analyser leurs conséquences pour le secteur des neutrinos du modèle standard étendu. En ce qui concerne le spectre de masse, les résultats obtenus indiquent que les mécanismes seesaw de type I et de type III sont plus adéquats pour reproduire les observations expérimentales. De plus, une forte préférence pour la différence de masses associée à la hiérarchie normale est observée. En contrepartie, il est également démontré que pour une différence de masses donnée entre les trois générations, toutes les permutations des masses sont équiprobables, ce qui rend hors de portée toute prédiction concernant la hiérarchie du spectre (normale ou inverse) sous l’hypothèse anarchique. En ce qui concerne les variables du groupe de symétrie (les angles de mélange et les phases complexes), on constate, d’une part, que la notion de mélange quasi-maximal est naturellement favorisée et, d’autre part, que la matrice PMNS peut être décrite comme une matrice unitaire générique tirée au hasard d’un ensemble matriciel caractérisé par la mesure de Haar du groupe de Lie correspondant. Par ailleurs, il est également démontré que ces conclusions sont indépendantes du mécanisme de masse considéré. / The neutrino mass generation mechanism remains, to this day, a complete mystery which is likely to play an important role in understanding the foundations of the Standard Model of particle physics. In an effort to fill this gap and, ultimately, shed some light on some of the most intriguing properties of neutrinos, many theoretical models are proposed in the literature. Among the many candidates, the type I, type II and type III seesaw mechanisms may very well be the most attractive and the most studied propositions. However, despite the fact that these mechanisms provide a simple and elegant framework for explaining the smallness of neutrino masses (the order of magnitude), no prediction can be made on the fundamental parameters governing neutrino oscillations (the mixing angles, the CP-violating phases and the mass differences). Thus, to obtain concrete results regarding neutrino phenomenology, additional working assumptions must be made in order to constrain the structure of the corresponding mass matrices. In this work, the anarchy hypothesis relevant to the neutrino sector is investigated. The mass matrices generated by the three seesaw mechanisms in the low-energy limit are studied within the framework of random matrix theory, which leads to the development and the analysis of the seesaw ensembles. A unified and precise theoretical formalism, based on the usual tools of random matrix theory, is presented for the construction of these new random matrix ensembles. Using this formalism, the joint probability density functions characterizing these ensembles are obtained analytically, thus paving the way for a detailed study of their properties. This study is then carried out, revealing the underlying trends in these ensembles and, thereby, offering a thorough analysis of their consequences for the neutrino sector of the seesaw-extended Standard Model. Regarding the mass spectrum, it is found that the type I and type III seesaw mechanisms are better suited to accommodate experimental data. Moreover, the results indicate a strong preference for the mass splitting associated to normal hierarchy. However, since all permutations of the masses are found to be equally probable for a particular mass splitting between the three generations, predictions concerning the hierarchy of the mass spectrum (normal or inverted) remains out of reach in the framework of anarchy. Regarding the group variables (the mixing angles an CP-violating phases), it is found that near-maximal mixing is naturally favored by these ensembles and, that the PMNS matrix can be described as a generic unitary matrix drawn at random from a matrix ensemble characterized by the Haar measure of the corresponding Lie group. Furthermore, these conclusions are found to be independent of the mass mechanism considered.

Ce manuscrit est consacré à l'étude de la combinatoire de deux algèbres de Hopf d'extraction-contraction. La première est l'algèbre de Hopf de mots tassés WMat introduite par Duchamp, Hoang-Nghia et Tanasa dont l'objectif était la construction d'un modèle de coproduit d'extraction-contraction pour les mots tassés. Nous expliquons certains sous-objets ou objets quotients ainsi que des applications vers d'autres algèbres de Hopf. Ainsi, nous considérons une algèbre de permutations dont le dual gradué possède un coproduit de déconcaténation par blocs et un produit de double battage décalé. Le double battage engendre la commutativité de l'algèbre qui est donc distincte de celle de Malvenuto et Reutenauer. Nous introduisons également une algèbre de Hopf engendrée par les mots tassés de la forme x₁...x₁. Elle est isomorphe à l'algèbre de Hopf des fonctions symétriques non commutatives. Son dual gradé est donc isomorphe à l'algèbre de Hopf des fonctions quasi-symétriques. Nous considérons également une algèbre de Hopf de compositions et donnons son interprétation en termes de coproduit semi-direct d'algèbres de Hopf. Le deuxième objet d'étude est l'algèbre de Hopf de diagrammes de dissection HD introduite par Dupont en théorie des nombres. Nous cherchons des éléments de réponse concernant la nature de sa cogèbre sous-jacente. Est-elle colibre ? La dimension des éléments primitifs de degré 3 ne permet pas de conclure. Le cas du degré 5 permet d'établir la non-coliberté dans le cas où le paramètre de HD vaut - 1. Nous étudions également la structure pré-Lie du dual gradué HD. Nous réduisons le champ de recherche à la sous-algèbre pré-Lie non triviale engendrée par le diagramme de dissection de degré 1. Cette algèbre pré-Lie n'est pas libre. / This thesis deals with the study of combinatorics of two Hopf algebras. The first one is the packed words Hopf algebra WMAT introduced by Duchamp, Hoang-Nghia, and Tanasa who wanted to build a coalgebra model for packed words by using a selection-quotient process. We describe certain sub-objects or quotient objects as well as maps to other Hopf algebras. We consider first a Hopf algebra of permutations. Its graded dual has a block deconcatenation coproduct and double shuffle product. The double shuffle product is commutative so the Hopf algebra is different from the Malvenuto and Reutenauer one. We analyze then the Hopf algebra generated by packed words looking like x₁...x₁. This Hopf algebra and non commutative symmetric functions are isomorphic. So its graded dual and quasi-symmetric functions are isomorphic too. Finally we consider a Hopf algebra of compositions an give its interpretation in terms of a semi-direct coproduct structure. The second objet we study is the Hopf algebra of dissection diagrams HD introduced by Dupont in number theory. We study the cofreedom problem. We can't conclude with homogeneous primitive elements of degree 3. With the degree 5 case, we can say that is not cofree with the parameter -1. We study the pre-Lie algebra structure of HD's graded dual too. We consider in particular the sup-pre-Lie algebra generated by the dissection diagram of degree 1. It is not a free pre-Lie algebra.

Cotutelle de thèse avec Université Paris Cité / Cette thèse s'inscrit dans le vaste domaine de la théorie des représentations des groupes quantiques et des algèbres y étant reliées. Elle est divisée en trois sous-projets, tous motivés par des problèmes provenant de la théorie des systèmes intégrables quantiques et de l'étude des algèbres amassées. La thèse a donné lieu à deux articles publiés et à une prépublication. Le premier sous-projet s’intéresse à la structure algébrique d’une famille remarquable de systèmes physiques: les chaînes de spins XXZ périodiques. Le résultat central du sous-projet est la description explicite et totale de la structure de Jordan–Hölder de ces chaînes de spins pour une action naturelle des algèbres de Temperley–Lieb affines. D’autres résultats issus de ce sous-projet contiennent : une description explicite de la structure des modules projectifs de dimension finie du groupe quantique Uqsl2 (en q racine de l’unité) et une généralisation partielle de la célèbre dualité de Schur–Weyl quantique. Le second sous-projet s'intéresse à la construction de R-matrices pour la catégorie O de représentations de la sous-algèbre de Borel d'une algèbre de lacets quantique arbitraire. Les résultats principaux du projet sont la définition d'un foncteur F inversible et exact liant la catégorie O de l'algèbre de Borel Uq(b) à celle de Uq'(b) (pour q'=1/q) avec la preuve que ce foncteur F intervertit les sous-catégories O^± de Hernandez–Leclerc (tout en étant compatible avec les produits tensoriels et la simplicité des modules). Ces résultats, qui répondent à une question de Hernandez–Leclerc, permettent de construire des R-matrices pour la sous-catégorie O^+ via des R-matrices ``duales" (définies récemment par Hernandez pour O^-) et peuvent servir à déduire de nouvelles relations pour l'anneau de Grothendieck de la catégorie O. Enfin, le dernier sous-projet introduit la notion d'inflations pour les représentations des algèbres affines quantiques décalées. Ces inflations, qui sont des préimages particulières pour certains foncteurs de restriction canoniques issus des inclusions de diagrammes de Dynkin, simplifient l'étude des modules sur les algèbres affines quantiques décalées et ont, via ce fait, plusieurs applications en théorie des systèmes intégrables. Le résultat principal de ce dernier sous-projet est un théorème d'existence pour les inflations d'objets simples de la catégorie O^sh en type A–B–G (ou en tout type pour les simples de dimension finie de cette catégorie). / This thesis falls within the study of the representation theory of quantum groups and of related algebras. It is divided into three subprojects, all motivated by problems arising from the theory of quantum integrable systems and the study of cluster algebras. The thesis has resulted in two published articles and one prepublication. The first subproject focuses on the algebraic structure of a remarkable family of physical systems: the periodic XXZ spin chains. The principal result of the subproject is the explicit and complete description of the Jordan–Hölder structure of these chains for a natural action of the affine Temperley–Lieb algebras. Other results from this subproject include an explicit description of the structure of finite-dimensional projective modules for the quantum group Uqsl2 (at q a root of unity) and a partial generalization of the quantum Schur-Weyl duality. The second subproject tackles the problem of constructing R-matrices for the category O associated to the Borel subalgebra of an arbitrary quantum loop algebra. The main results of the subproject are the definition of an exact invertible functor F linking the category O of the Borel algebra Uq(b) to that of Uq'(b) (for q'=1/q) with the proof that this functor interchanges the subcategories O^± of Hernandez–Leclerc (while being also compatible with tensor products and irreducibility). These results, which answer a question of Hernandez–Leclerc, enable the construction of R-matrices for the subcategory O^+ via ``dual'' R-matrices (in O^-) and allow the deduction of new relations for the Grothendieck ring of the category O. At last, the third subproject introduces the concept of inflations for representations of shifted quantum affine algebras. These inflations, which are special preimages for canonical restriction functors coming from Dynkin diagrams inclusions, simplify the study of modules over shifted quantum affine algebras and have, by this fact, many applications in the theory of integrable systems. The central result of this final subproject is an existence theorem for inflations of simple modules of the category O^sh in type A–B–G (or in any type for finite-dimensional simple modules of this category).

On doit à Friedrich Knop un étonnant théorème qui établit un lien entre algèbres de Lie simples de type A-D-E, et singularités simples de même type. Le résultat est le suivant : on considère la projectivisation de l'orbite de plus haut poids pour l'action adjointe d'un groupe de Lie simple sur son algèbre de Lie (une telle variété est appelée variété adjointe). Il existe alors un hyperplan tangent à l'orbite ayant un unique point singulier du même type que celui de l'algèbre de Lie. Ce théorème est le point de départ de nos travaux. Afin de mieux comprendre ce lien, nous étudions la géométrie des variétés duales des variétés adjointes. Dans le premier chapitre nous prouvons une version duale du théorème de Knop. Notre théorème permet d'obtenir le discriminant d'une singularité simple à partir de la duale de la variété adjointe. L'hyperplan considéré par Knop s'interprète alors comme un point très singulier de la duale. Dans le deuxième chapitre nous considérons le lieu singulier de la duale pour une variétés projective lisse. Nous montrons que l'existence de certaines strates de dimensions maximales équivaut à l'existence de section hyperplane de la variété d'origine admettant des points singuliers d'un type donné. Nous insistons alors sur l'importance de deux strates qui ont un sens géométrique : la duale de la variété des tangentes et la duale de la variété des sécantes. Enfin dans un dernier chapitre nous appliquons ces résultats à l'étude de la normalité des duales des variétés homogènes.

Les intégrales bi-électroniques jouent un rôle essentiel pour déterminer les propriétés électroniques des atomes et des molécules. Les oxydes de cuivre couvrent des domaines très divers et ont des applications extrêmement variés. Nous avons porté notre attention sur une étude de la contribution des intégrales bi-électroniques à la catalyse hétérogène, par une étude théorique de la réactivité sur la surface de cuivre, et en particulier l'oxydation ménagée des alcanes et alcènes sur la surface CuO(001). Ce travail de thèse a porté sur une étude théorique en deux parties principales : La première partie concernant l'étude des intégrales de Coulomb et d'échange effectuée par le logiciel STOP sur une base d'orbitales atomiques de Slater. L'équation de Poisson est résolue dans ce travail pour le potentiel de Coulomb moléculaire. La deuxième partie, est une étude des réactivités chimiques concernant l'oxydation ménagée des alcanes et alcènes sur les surfaces de métal de cuivre Cu(001) ou CuO(001). Cette étude est effectuée à l'aide du logiciel ABINIT DFT sur une base d'onde plane. Les résultats de ce travail ont validé une nouvelle approche des intégrales de Coulomb et d'échange. Ils ont abouti à la mise en évidence des mécanismes réactionnels de la réactivité d'oxydation ménagée sur la surface de cuivre CuO(001), ainsi que des produits sélectifs.

Mémoire numérisé par la Division de la gestion de documents et des archives de l'Université de Montréal.

Cette thèse est divisée en cinq parties portant sur les thèmes suivants: l’interprétation physique et algébrique de familles de fonctions orthogonales multivariées et leurs applications, les systèmes quantiques superintégrables en deux et trois dimensions faisant intervenir des opérateurs de réflexion, la caractérisation de familles de polynômes orthogonaux appartenant au tableau de Bannai-Ito et l’examen des structures algébriques qui leurs sont associées, l’étude de la relation entre le recouplage de représentations irréductibles d’algèbres et de superalgèbres et les systèmes superintégrables, ainsi que l’interprétation algébrique de familles de polynômes multi-orthogonaux matriciels. Dans la première partie, on développe l’interprétation physico-algébrique des familles de polynômes orthogonaux multivariés de Krawtchouk, de Meixner et de Charlier en tant qu’éléments de matrice des représentations unitaires des groupes SO(d+1), SO(d,1) et E(d) sur les états d’oscillateurs. On détermine les amplitudes de transition entre les états de l’oscillateur singulier associés aux bases cartésienne et polysphérique en termes des polynômes multivariés de Hahn. On examine les coefficients 9j de su(1,1) par le biais du système superintégrable générique sur la 3-sphère. On caractérise les polynômes de q-Krawtchouk comme éléments de matrices des «q-rotations» de U_q(sl_2). On conçoit un réseau de spin bidimensionnel qui permet le transfert parfait d’états quantiques à l’aide des polynômes de Krawtchouk à deux variables et on construit un modèle discret de l’oscillateur quantique dans le plan à l’aide des polynômes de Meixner bivariés. Dans la seconde partie, on étudie les systèmes superintégrables de type Dunkl, qui font intervenir des opérateurs de réflexion. On examine l’oscillateur de Dunkl en deux et trois dimensions, l’oscillateur singulier de Dunkl dans le plan et le système générique sur la 2-sphère avec réflexions. On démontre la superintégrabilité de chacun de ces systèmes. On obtient leurs constantes du mouvement, on détermine leurs algèbres de symétrie et leurs représentations, on donne leurs solutions exactes et on détaille leurs liens avec les polynômes orthogonaux du tableau de Bannai-Ito. Dans la troisième partie, on caractérise deux familles de polynômes du tableau de Bannai-Ito: les polynômes de Bannai-Ito complémentaires et les polynômes de Chihara. On montre également que les polynômes de Bannai-Ito sont les coefficients de Racah de la superalgèbre osp(1,2). On détermine l’algèbre de symétrie des polynômes duaux -1 de Hahn dans le cadre du problème de Clebsch-Gordan de osp(1,2). On propose une q - généralisation des polynômes de Bannai-Ito en examinant le problème de Racah pour la superalgèbre quantique osp_q(1,2). Finalement, on montre que la q -algèbre de Bannai-Ito sert d’algèbre de covariance à osp_q(1,2). Dans la quatrième partie, on détermine le lien entre le recouplage de représentations des algèbres su(1,1) et osp(1,2) et les systèmes superintégrables du deuxième ordre avec ou sans réflexions. On étudie également les représentations des algèbres de Racah-Wilson et de Bannai-Ito. On montre aussi que l’algèbre de Racah-Wilson sert d’algèbre de covariance quadratique à l’algèbre de Lie sl(2). Dans la cinquième partie, on construit deux familles explicites de polynômes d-orthogonaux basées sur su(2). On étudie les états cohérents et comprimés de l’oscillateur fini et on caractérise une famille de polynômes multi-orthogonaux matriciels. / This thesis is divided into five parts concerned with the following topics: the physical and algebraic interpretation of families of multivariate orthogonal functions and their applications, the study of superintegrable quantum systems in two and three dimensions involving reflection operators, the characterization of families of orthogonal polynomials of the Bannai-Ito scheme and the study of the algebraic structures associated to them, the investigation of the relationship between the recoupling of irreducible representations of algebras and superalgebras and superintegrable systems, as well as the algebraic interpretation of families of matrix multi-orthogonal polynomials. In the first part, we develop the physical and algebraic interpretation of the Krawtchouk, Meixner and Charlier families of multivariate orthogonal polynomials as matrix elements of unitary representations of the SO(d + 1), SO(d, 1) and E(d) groups on oscillator states. We determine the transition amplitudes between the states of the singular oscillator associated to the Cartesian and polyspherical bases in terms of the multivariate Hahn polynomials. We examine the 9j coefficients of su(1,1) through the generic superintegrable system on the 3-sphere. We characterize the q-Krawtchouk polynomials as matrix elements of "q-rotations" of U_q(sl_2). We show how to design a two-dimensional spin network that allows perfect state transfer using the two-variable Krawtchouk polynomials and we construct a discrete model of the two-dimensional quantum oscillator using the two-variable Meixner polynomials. In the second part, we study superintegrable systems of Dunkl type, which involve reflections. We examine the Dunkl oscillator in two and three dimensions, the singular Dunkl oscillator in the plane and the generic system on the 2-sphere with reflections. We show that each of these systems is superintegrable. We obtain their constants of motion, we find their symmetry algebras as well as their representations, we give their exact solutions and we exhibit their relationship with the orthogonal polynomials of the Bannai-Ito scheme. In the third part, we characterize two families of polynomials belonging to the Bannai-Ito scheme: the complementary Bannai-Ito polynomials and the Chihara polynomials. We also show that the Bannai–Ito polynomials arise as Racah coefficients for the osp(1,2) superalgebra. We determine the symmetry algebra associated with the dual − 1 Hahn polynomials in the context of the Clebsch-Gordan problem for osp(1,2). We introduce a q -generalization of the Bannai-Ito polynomials by examining the Racah problem for the quantum superalgebra osp_q(1,2). Finally, we show that the q-deformed Bannai-Ito algebra serves as a covariance algebra for osp_q(1,2). In the fourth part, we determine the relationship between the recoupling of representations of the su(1,1) and osp(1,2) algebras and second-order superintegrable systems with or without reflections. We also study representations of Racah–Wilson and Bannai-Ito algebras. Moreover, we show that the Racah Wilson algebra serves as a quadratic covariance algebra for sl(2). In the fifth part, we explicitly construct two families of d-orthogonal polynomials based on su(2). We investigate the squeezed/coherent states of the finite oscillator and we characterize a family of matrix multi-orthogonal polynomials.

L’objet de cette thèse est l’étude de l’existence d’une quantification pour les sous-algèbres de Lie coisotropes des bigèbres de Lie. Une sous-algèbre de Lie coisotrope d’une bigèbre de Lie est une sous-algèbre de Lie qui est aussi un coidéal. Le problème de quantifications d’une sous-algèbre de Lie coisotrope fut posé par V. Drinfeld, lors de son étude de la quantification des espaces de Poisson homogènes G/C. Ces deux problèmes sont liés par le principe de dualité établi par N. Ciccoli et F. Gavarini. Dans cette thèse, nous cherchons à résoudre ce problème de quantification dans différents cadres. Premièrement, nous montrons qu’une quantification existe dans le cadre des bigèbres de Lie simple. Nous trouvons une quantification aux sous-algèbres de Lie coisotropes construites par M. Zambon. Puis nous établissons un lien entre ces quantifications et une classification des sous- algèbres coidéales à droite établie par I. Heckenberger et S. Kolb. Deuxièmement, nous trouvons une obstruction à la quantification universelle en utilisant une quantification d’ordre trois construite par V. Drinfeld. Nous montrons que cette obstruction disparait dans les exemples étudiés précédemment. Finalement, nous généralisons un résultat établi par P. Etingof et D. Kazhdan sur la quantification d’espaces de Poisson homogènes, liés aux sous-algèbres Lagrangiennes du double de Drinfeld. / The aim of this thesis is the study of quantization of coisotropic Lie subalgebras of Lie bialgebras.A coisotropic Lie subalgebra of a Lie bialgebra is a Lie subalgebra which is also a Lie coideal. The problem of quantization of coisotropic Lie subalgebra was set forth by V. Drinfeld, in his study of quantization of Poisson homogeneous spaces G/C. These problems are closely related to the duality principle established by N. Ciccoli and F. Gavarini.In this thesis, we search for an answer to this quantization problem in different settings. Firstly, we show that a quantization exists for simple Lie bialgebras by constructing a quantization of examples provided by M. Zambon. We then establish a link between the quantization which we constructed and a classification of subalgebras right coideals established by I. Heckenberger and S. Kolb. Secondly, we find an obstruction to the quantization in the universal setting by using a third-order quantization constructed by V. Drinfeld. We show that this obstruction vanishes in the examples studied earlier. Finally, we generalize a result of P. Etingof and D. Kazhdan on the quantization of poisson homogeneous spaces, linked to Lagrangian Lie subalgebras of Drinfeld's double.

Cette thèse présente quelques résultats de la théorie des probabilités non commutatives, et traite en particulier des inégalités de martingales dans des algèbres de von Neumann et de leurs espaces de Hardy associés. La première partie démontre un analogue non commutatif de la décomposition de Davis faisant intervenir la fonction carrée. Les arguments classiques de temps d'arrêt ne sont plus valides dans ce cadre, et la preuve se base sur une approche duale. Le deuxième résultat important de cette partie détermine ainsi le dual de l'espace de Hardy conditionnel h_1(M). Ces résultats sont ensuite étendus au cas 1<p<2. La deuxième partie transfère une décomposition atomique pour les espaces de Hardy h_1(M) et H_1(M) aux martingales non commutatives. Des résultats d'interpolation entre les espaces h_p(M) et bmo(M) sont également établis, relativement aux méthodes complexe et réelle d'interpolation. Les deux premières parties concernent des filtrations discrètes. Dans la troisième partie, on introduit des espaces de Hardy de martingales non commutatives relativement à une filtration continue. Les analogues des inégalités de Burkholder/Gundy et de Burkholder/Rosenthal sont obtenues dans ce cadre. La dualité de Fefferman-Stein ainsi que la décomposition de Davis sont également transférées avec succès à cette situation. Les preuves se basent sur des techniques d'ultraproduit et de L_p-modules. Une discussion sur une décomposition impliquant des atomes algébriques permet d'obtenir les résultats d'interpolation attendus / This thesis presents some results of the theory of noncommutative probability. It deals in particular with martingale inequalities in von Neumann algebras, and their associated Hardy spaces. The first part proves a noncommutative analogue of the Davis decomposition, involving the square function. The usual arguments using stopping times in the commutative case are no longer valid in this setting, and the proof is based on a dual approach. The second main result of this part determines the dual of the conditioned Hardy space h_1(M). These results are then extended to the case 1<p<2. The second part proves that an atomic decomposition for the Hardy spaces h_1(M) and H_1(M) is valid for noncommutative martingales. Interpolation results between the spaces h_p(M) and bmo(M) are also established, with respect to both complex and real interpolations. The two first parts concern discrete filtrations. In the third part, we introduce Hardy spaces of noncommutative martingales with respect to a continuous filtration. The analogues of the Burkholder/Gundy and Burkholder/Rosenthal inequalities are obtained in this setting. The Fefferman-Stein duality and the Davis decomposition are also successfully transferred to this situation. The proofs are based on ultraproduct techniques and L_p-modules. A discussion about a decomposition involving algebraic atoms gives the expected interpolation results

Dans cette thèse, nous étudions quelques problèmes géométriques liés aux domaines bornés symétriques réels. Ces espaces sont des espaces D=G/K riemanniens symétriques non compacts, obtenus à partir de domaines bornés hermitiens symétriques. Lorsque le domaine D=G/K est de type Cr ou Dr, G opère transitivement sur chaque composante connexe de l'ensemble [sigma] des tripotents maximaux du système triple de Jordan réel positif T0D. Dans le cas complexe, cet ensemble est connexe et est appelé frontière de Shilov du domaine. Dans le cas réel, [sigma] n'est en général pas connexe. Nous fixons donc une composante connexe S de [sigma]. Alors l'action de G sur S x S possède un nombre fini d'orbites et nous donnons un système explicite de représentants. Si le domaine est de type Cs ou D2s, alors parmi ces orbites, il y a celle des couples d'éléments transverses. Sous ces hypothèses, nous pouvons alors définir l'ensemble des triplets d'éléments de S transverses deux à deux, sur lequel G opère. Là encore, nous déterminons les orbites de cette action. Enfin, nous nous intéressons à un problème analytique concernant un système de Hua. Nous montrons que pour toute fonction continue [phi] sur S, la transformée de poisson f=P[sigma phi]:=[intégrale]SP(.,u)[sigma phi](u)du est solution du système de Hua Hf(x)=(2n-/r)2[sigma]([sigma]-1)f(x)Id, où P(.,.) est le noyau de Poisson sur D x S et où n- désigne la dimension de V-. / In this thesis, we are interested in geometric problems related with \emph{real bounded symmetric domains}. These spaces are Riemannian symmetric spaces $\mathcal{D}=G/K$ of noncompact type, constructed from \emph{hermitian bounded symmetric domains}. When $\mathcal{D}=G/K$ is of type $C_r$ or $D_r$, we prove that $G$ acts transitively on each connected component of the set $\Sigma$ of \emph{maximal tripotents} in the \emph{compact Jordan triple system} $T_0\mathcal{D}$. In the hermitian case, this set is connected and is called \emph{the Shilov boundary}. In the real case, $\Sigma$ is not necessarily connected, thus we choose a connected component $\mathcal{S}$ of $\Sigma$. Then the action of $G$ in $\mathcal{S}\times\mathcal{S}$ as a finite number of orbits for wich we give representative elements. If $\mathcal{D}$ is of type $C_s$ or $D_{2s}$, then the set of couples of transversal elements of $\mathcal{S}$ is a $G$-orbit in $\mathcal{S}\times\mathcal{S}$. Under these assumptions, $G$ acts on the set of transversal triples in $\mathcal{S}\times\mathcal{S}\times\mathcal{S}$ and we determine the orbits for this action. Finally, we are interested in Hua differential systems. We prove that for any continuous function $\varphi$ on $\mathcal{S}$, the Poisson transform $f=\mathcal{P}_\sigma\varphi:=\int_\mathcal{S}\mathcal{P}(\cdot,u)^\sigma\varphi(u)du$ is a solution of the Hua system $\mathcal{H}f(x)=(\frac{2n^-}{r})^2\sigma(\sigma-1)f(x)\textnormal{Id}$, where $\mathcal{P}(\cdot,\cdot)$ is the Poisson kernel on $\mathcal{D}\times\mathcal{S}$ and $n^-$ is the dimension of $V^-$.