Une mesure de l'asymétrie de CP dépendante du temps des désintégrations radiatives B0 en KS pi+ pi- gamma, est effectuée à partir d'un échantillon de 470.9 millions d'événements Upsilon(4S) en BBbar enregistrés par le détecteur BaBar auprès du collisionneur asymétrique Pep-II situé au SLAC. En utilisant les événements satisfaisant m(K pi pi)<1.8 GeV/c^2, 0.60.945 GeV/c^2, les paramètres de violation de la symétrie de CP ainsi obtenus sont S(KS pi+ pi- gamma) = 0.137 pm 0.249 + 0.042 - 0.033 et C(KS pi+ pi- gamma) = -0.390 pm 0.204 + 0.045 - 0.050. À partir de ces résultats la valeur de l'asymétrie de CP dépendante du temps reliée aux états propres de CP Rho0 KS, est extraite: S(KS Rho0 gamma) = 0.249 pm 0.455 + 0.076 - 0.060. Cette observable apporte de l'information relative aux états de polarisation du photon dans les processus sous-jacents de transitions radiatives b en s gamma. En utilisant l'hypothèse de conservation de la symétrie d'isospin, l'extraction de S(KS Rho0 gamma) à partir S(KS pi+ pi- gamma) est effectuée à partir de l'étude des désintégrations B+ en K+ pi+ pi- gamma, où les amplitudes des différentes résonances intermédiaires Rho0 K+, Kstar0 pi+ et (K pi) S-wave pi+, contribuant au système K pi pi, sont mesurées. Cette étude, en plus de l'information nécessaire à l'extraction de S(KS Rho0 gamma), a permis d'extraire les contributions relatives des résonances kaoniques au système K pi pi, ainsi que les fractions globales des modes résonants Rho0 K+, Kstar0 pi+ et (K pi) S-wave pi+, constituant une source d'information utile à d'autres études sur la polarisation du photon.

La désintégration radiative du méson B en méson étrange axiale, B--> K1(1270) gamma, a été observée récemment avec un rapport d'embranchement assez grand que B--> K* gamma. Ce processus est particulièrement intéressant car la désintégration du K1 dans un état final à trois corps nous permet de déterminer la polarisation du photon, qui est surtout gauche (droit) pour Bbar(B) dans le Modèle Standard tandis que des modèles divers de nouvelle physique prédisent une composante droite (gauche) supplémentaire. Dans cette thèse, une nouvelle méthode est proposée pour déterminer la polarisation, en exploitant la distribution totale du Dalitz plot, qui semble réduire considérablement les erreurs statistiques de la mesure du paramètre de la polarisation lambda_gamma.Cependant, cette mesure de la polarisation nécessite une connaissance détaillée de la désintégration forte K1--> K pi pi : c'est-à-dire l'ensemble complexe des différentes amplitudes d'ondes partielles en plusieurs canaux en quasi-deux-corps ainsi que leurs phases relatives. Un certain nombre d'expériences ont été faites pour extraire ces informations bien qu'il reste divers problèmes dans ces études. Dans cette thèse, nous étudions en détail ces problèmes en nous aidant d'un modèle théorique. Nous utilisons ainsi le modèle 3P0 de création d'une paire de quarks pour améliorer notre compréhension des désintégrations fortes du K1.A partir de ce modèle nous estimons les incertitudes théoriques : en particulier, celle venant de l'incertitude de l'angle de mélange du K1, et celle due à l'effet d'une phase ``off-set'' dans les désintégrations fortes en ondes-S. Selon nos estimations, les erreurs systématiques se trouvent être de l'ordre de sigma(lambda_gamma)^th<20%. D'autre part nous discutons de la sensibilité des expériences futures, notamment les usines SuperB et LHCb, pour lambda_gamma. En estimant naïvement les taux annuels d'évènements, nous trouvons que l'erreur statistique de la nouvelle méthode est sigma(lambda_gamma)^stat<10%, ce qui est deux fois plus petit qu'en utilisant seulement les distributions angulaires simples.Nous discutons également de la comparaison avec les autres méthodes de mesure de la polarisation en utilisant les processus tels que B--> K* e^+ e^-, Bd--> K* gamma et Bs--> phi gamma, pour la détermination du rapport des coefficients de Wilson C7gamma^‘eff/C7gamma^eff. Nous montrons un exemple de contraintes possibles sur C7gamma^‘eff/C7gamma^eff dans plusieurs scénarios de modèles supersymétriques. / Recently the radiative B-decay to strange axial-vector mesons, B--> K1(1270) gamma, was observed with a rather large branching ratio. This process is particularly interesting as the subsequent K1-decay into its three-body final state allows us to determine the polarization of the photon, which is mostly left(right)-handed for Bbar(B) in the Standard Model while various new physics models predict additional right(left)-handed components. In this thesis, a new method is proposed to determine the polarization, exploiting the full Dalitz plot distribution, which seems to reduce significantly the statistical errors on the polarization parameter lambda_gamma measurement.This polarization measurement requires, however a detailed knowledge of the K1--> K pi pi strong interaction decays, namely, the complex pattern of the various partial wave amplitudes into several possible quasi-two-body channels as well as their relative phases. A number of experiments have been done to extract all these information while there remain various problems in the previous studies. In this thesis, we investigate the details of these problems. As a theoretical tool, we use the 3P0 quark-pair-creation model in order to improve our understanding of strong K1 decays.Finally we try to estimate some theoretical uncertainties: in particular, the one coming from the uncertainty on the K1 mixing angle, and the effect of a possible ``off-set'' phase in strong decay S-waves. According to our estimations, the systematic errors are found to be of the order of sigma(lambda_gamma)^th<20%. On the other hand, we discuss the sensitivity of the future experiments, namely the SuperB factories and LHCb, to lambda_gamma. Naively estimating the annual signal yields, we found the statistical error of the new method to be sigma(lambda_gamma)^stat<10% which turns out to be reduced by a factor 2 with respect to using the simple angular distribution.We also discuss a comparison to the other methods of the polarization measurement using processes, such as B--> K* e^+ e^-, Bd--> K* gamma and Bs--> phi gamma, for the determination of the ratio of the Wilson coefficients C7gamma^‘eff/C7gamma^eff. We show an example of the potential constraints on C7gamma^‘eff/C7gamma^eff. in several scenarios of supersymmetric models.

Le travail présenté dans cette thèse concerne l’étude des désintégrations en trois corps sans quark charmé des mésons beaux neutres, dont l’état final contient un K0S. Ce travail de recherche s’est réalisé dans le cadre de l’expérience LHCb au LHC, en analysant un échantillon d’événements de 3 fb−1 collecté dans le Run I du LHC. L’analyse d’amplitude de la désintégration B0→K0Sπ+π− représente la partie principale de ce travail de thèse. La mesure des amplitudes est effectuée au moyen d’une étude du plan de Dalitz de la désintégration intégrée dans le temps sans étiquetage de la saveur de la particule belle. Nous avons mesuré les rapports d’embranchements relatives des désintégrations quasi-deux-corps à partir de cette analyse de Dalitz. Egalement, nous avons mesuré l’asymétrie CP directe des désintégrations quasi-deux-corps B0→K*+(892)π−, B0→K0*+(1430)π−, B0→K2*+(1430)π− et B0→f0(980)K0S. Nous avons observé pour la première fois l’asymétrie CP directe dans la désintégration B0→K*+(892)π− avec une signifiance supérieure à cinq déviations standard. Cette mesure est en accord avec la moyenne mondiale, avec une précision améliorée. / Studies of charmless three-body decays of the neutral B mesons with a K0S in the final state are presented in this thesis. The analyses are performed with the full statistics recorded by the LHCb spectrometer during the Run I of the LHC. The amplitude analysis of the decay B0→K0Sπ+π− represents the main part of this thesis analysis. A time-integrated untagged Dalitz-Plot analysis of the decay is performed. The fit fractions of the quasi-two-body decays are obtained. Likewise, the direct CP asymmetries of the quasi-two-body decays B0→K*+(892)π−, B0→K0*+(1430)π−, B0→K2*+(1430)π− and B0→f0(980)K0S are obtained. The largest sensitivity is obtained for ACP (B0→K*+(892)π−). This measurement is the first observation of the CP asymmetry with a significance larger then five standard deviations. The measurement is in agreement with the world average, with an improved precision.