Cette thèse présente quelques résultats de la théorie des probabilités non commutatives, et traite en particulier des inégalités de martingales dans des algèbres de von Neumann et de leurs espaces de Hardy associés. La première partie démontre un analogue non commutatif de la décomposition de Davis faisant intervenir la fonction carrée. Les arguments classiques de temps d'arrêt ne sont plus valides dans ce cadre, et la preuve se base sur une approche duale. Le deuxième résultat important de cette partie détermine ainsi le dual de l'espace de Hardy conditionnel h_1(M). Ces résultats sont ensuite étendus au cas 1<p<2. La deuxième partie transfère une décomposition atomique pour les espaces de Hardy h_1(M) et H_1(M) aux martingales non commutatives. Des résultats d'interpolation entre les espaces h_p(M) et bmo(M) sont également établis, relativement aux méthodes complexe et réelle d'interpolation. Les deux premières parties concernent des filtrations discrètes. Dans la troisième partie, on introduit des espaces de Hardy de martingales non commutatives relativement à une filtration continue. Les analogues des inégalités de Burkholder/Gundy et de Burkholder/Rosenthal sont obtenues dans ce cadre. La dualité de Fefferman-Stein ainsi que la décomposition de Davis sont également transférées avec succès à cette situation. Les preuves se basent sur des techniques d'ultraproduit et de L_p-modules. Une discussion sur une décomposition impliquant des atomes algébriques permet d'obtenir les résultats d'interpolation attendus / This thesis presents some results of the theory of noncommutative probability. It deals in particular with martingale inequalities in von Neumann algebras, and their associated Hardy spaces. The first part proves a noncommutative analogue of the Davis decomposition, involving the square function. The usual arguments using stopping times in the commutative case are no longer valid in this setting, and the proof is based on a dual approach. The second main result of this part determines the dual of the conditioned Hardy space h_1(M). These results are then extended to the case 1<p<2. The second part proves that an atomic decomposition for the Hardy spaces h_1(M) and H_1(M) is valid for noncommutative martingales. Interpolation results between the spaces h_p(M) and bmo(M) are also established, with respect to both complex and real interpolations. The two first parts concern discrete filtrations. In the third part, we introduce Hardy spaces of noncommutative martingales with respect to a continuous filtration. The analogues of the Burkholder/Gundy and Burkholder/Rosenthal inequalities are obtained in this setting. The Fefferman-Stein duality and the Davis decomposition are also successfully transferred to this situation. The proofs are based on ultraproduct techniques and L_p-modules. A discussion about a decomposition involving algebraic atoms gives the expected interpolation results

Cette thèse présente quelques résultats de la théorie des probabilités quantiques et de l’analyse harmonique à valeurs operateurs. La thèse est composée des trois parties.Dans la première partie, on démontre la décomposition atomique des espaces de Hardy de martingales non commutatives. On identifie aussi les interpolés complexes et réels entre les versions conditionnelles des espaces de Hardy et BMO de martingales non commutatives.La seconde partie est consacrée à l’étude des espaces de Hardy à valeurs opérateursvia la méthode d’ondellettes. Cette approche est similaire à celle du cas des martingales non commutatives. On démontre que ces espaces de Hardy sont équivalents à ceux étudiés par Tao Mei. Par conséquent, on donne une base explicite complètement inconditionnelle pour l’espace de Hardy H1(R), muni d’une structure d’espace d’opérateurs naturelle. La troisième partie porte sur l’analyse harmonique sur le tore quantique. On établit les inégalités maximales pour diverses moyennes de sommation des séries de Fourier définies sur le tore quantique et obtient les théorèmes de convergence ponctuelle correspondant. En particulier, on obtient un analogue non commutative du théorème classique de Stein sur les moyennes de Bochner-Riesz. Ensuite, on démontre que les multiplicateurs de Fourier complètement bornés sur le tore quantique coïncident à ceux définis sur le tore classique. Finalement, on présente la théorie des espaces de Hardy et montre que ces espaces possèdent les propriétés des espaces de Hardy usuels. En particulier, on établit la dualité entre H1 et BMO. / This thesis presents some results in quantum probability and operator-valued harmonicanalysis. The main results obtained in the thesis are contained in the following three parts:In first part, we prove the atomic decomposition for the Hardy spaces h1 and H1 of noncommutative martingales. We also establish that interpolation results on the conditionedHardy spaces of noncommutative martingales. The second part is devoted to studying operator-valued Hardy spaces via Meyer’s wavelet method. It turns out that this way of approaching these spaces is parallel to that in the noncommutative martingale case. We also show that these Hardy spaces coincide with those introduced and studied by Tao Mei in [52]. As a consequence, we give an explicit completely unconditional base for Hardy spaces H1(R) equipped with a natural operator space structure. The third part deals with with harmonic analysis on quantum tori. We first establish the maximal inequalities for several means of Fourier series defined on quantum tori and obtain the corresponding pointwise convergence theorems. In particular, we prove the noncommutative analogue of the classical Stein theorem on Bochner-Riesz means. Then we prove that Lp completely bounded Fourier multipliers on quantum tori coincide with those on classical tori with equal cb-norms. Finally, we present the H1-BMO and Littlewood- Paley theories associated with the circular Poisson semigroup over quantum tori.