This dissertation documents a study of very rare B-meson decays at the LHCb experiment, using data taken during the first experiment run of the Large Hadron Collider (LHC) and during the second experiment run until September 2016. The LHCb experiment was designed to test the Standard Model of particle physics and to search for New Physics effects that go beyond the scope of the Standard Model through the decay of b hadrons produced in high energy proton-proton collisions at the LHC. The measurements described in this dissertation are made using data samples of proton-proton collisions with integrated luminosities of 1.0, 2.0 and 1.4fb⁻¹, collected at centre-of-mass energies of 7, 8 and 13 TeV, respectively. All results are consistent with the predictions of the Standard Model.

Ce travail de thèse porte sur l’identification des désintégrations sans charme de mésons beaux neutres en trois corps dont un π0 (B0 d,s → h+h′−π0) en analysant l’échantillon de données de 1.0 fb−1 collecté en 2011 par l’expérience LHCb au LHC. Ces modes sont sensibles aux paramètres de la matrice CKM et permettent de tester certaines prédictions du Modèle Standard liées à la violation de CP. Plusieurs d’entre eux, tels que B0 s → K−π+π0 et B0 s → K+K−π0, n’ont pas été observés précédemment. Il s’agit de la première analyse avec des π0 énergétiques dans LHCb. Pour évaluer les performances du détecteur relatives au π0, des désintégrations D∗+ → D0(→ K−π+π0)π+ ont été sélectionnées. Un échantillon de pions neutres relativement pur et de grande statistique a ainsi pu être extrait. Il est utilisé pour étudier leur étalonnage en énergie ainsi que l’efficacité de l’outil de séparation π0/γ de l’expérience. Les désintégrations radiatives constituent en effet le bruit de fond le plus dangereux pour l’étude des modes B0 d,s → h+h′−π0. Pour sélectionner les événements B0 d,s → h+h′−π0, un algorithme dédié a été mis en place au niveau du système de déclenchement. Il complète les sélections en ligne standards et permet d’augmenter significativement l’efficacité. Sur les événements enregistrés, les bruits de fond évidents, issus principalement de désintégrations de mésons charmés, sont rejetés en appliquant des critères simples. L’échantillon est alors purifié davantage en utilisant une analyse multivariée. Enfin, les informations des détecteurs Cherenkov permettent de séparer les états finals π+π−π0, K±π∓π0 et K+K−π0. Un ajustement simultané des spectres de masse reconstruite du méson beau dans les trois sous-échantillons est utilisé pour extraire les nombres d’événements de signal. Il tient compte des différents bruits de fond restants ainsi que des migrations du signal d’un sous-échantillon à l’autre. Les contributions des modes B0 → π+π−π0, B0 → K+π−π0 et B0 s → K+K−π0 sont clairement établies. Il s’agit de la première observation du mode de désintégration B0 s → K+K−π0. / This thesis work is about the identification of charmless three-body decays of neutral B mesons with a π0 in the final state (B0d,s → h+h′−π0) through the analysis of a 1.0 fb−1 data sample collected in 2011 by the LHCb experiment at the LHC. Those modes are sensitive to CKM parameters and allow to test Standard Model predictions related to CP violation. Some of them, such as B0 s → K−π+π0 and B0 s → K+K−π0, have not been observed previously. This is the first analysis with energetic π0 in LHCb. To evaluate the detector performance for π0, D∗+ → D0(→ K−π+π0)π+ decays have been selected. This provides a clean and high statistics sample of neutral pions used to study their energy calibration as well as the effectiveness of the π0/γ separation tool of the experiment. Radiative decays are indeed the most dangerous backgrounds for the study of B0 d,s → h+h′−π0 modes. To select B0 d,s → h+h′−π0 events, a dedicated trigger algorithm has been implemented. It complements the standard online selections and significantly improves the efficiency. Offline, obvious backgrounds, mainly from charm decays, are rejected applying simple criteria. The sample is then further purified using a multivariate classifier. At last, information from the ring imaging Cherenkov detectors allows to separate π+π−π0, K±π∓π0 and K+K−π0 final states. A simultaneous fit of the reconstructed B mass spectra in the three subsamples is used to extract the signal yields. It accounts for the different backgrounds remaining as well as for the signal crossfeeds from one subsample to the other. The B0 → π+π−π0, B0 → K+π−π0 and B0 s → K+K−π0 contributions are clearly established. This is the first observation of the B0 s → K+K−π0 decay mode.

L'expérience LHCb a été conçue pour étudier la physique des saveurs, dont entre autre la violation de CP, sur le collisioneur proton-proton LHC.La première phase de fonctionnement du LHC a durée de 2011 à 2012, ce qui a permis à LHCb de collecter $3.19~mathrm{fb}^{-1}$ de données à une énergie dans le centre de masse des collisions de $sqrt{s} = 7~TeV$ et $sqrt{s} = 8~TeV$.L'analyse présentée dans cette thèse est basée sur l'ensemble des données collectées par LHCb lors de la première phase de fonctionnement (2011-2012).Le mécanisme de Cabibbo-Kobayashi-Maskawa (CKM) est le mécanisme décrivant la violation de CP dans le cadre du Modèle Standard.Les expériences de la décennie précédente, dédiées à la physique des saveurs, BaBar et Belle, ont permis de démontrer le fonctionnement du mécanisme CKM et de démontrer qu'il est majoritairement Standard.`A présent LHCb a pour objectif de mesurer avec précision les paramètres de ce mécanisme, ce qui constitue des points de références du Modèle Standard, pour en parallèle rechercher de manière indirecte de la Nouvelle Physique en recherchant des déviations à ces points de références du Modèle Standard.Les travaux réalisés lors de cette thèse s'inscrivent dans le cadre du premier axe de recherche: réaliser des mesures de précision des paramètres du mécanisme CKM pour contraindre le Modèle Standard.Dans cette thèse nous réalisons la mesure la plus précise à l'heure actuelle du rapport d'embranchement de la désintégration ${B^0tobar{D}^0K^+K^-}$, la première observation des modes ${B^0_stobar{D}^0K^+K^-}$ et ${B^0_stobar{D}^{*0}phi}$ avec mesure de la polarisation de ce dernier, la confirmation de la mesure du rapport d'embranchement de la désintégration ${B^0_stobar{D}^0phi}$, ainsi que des limites supérieures sur le rapport d'embranchement de la désintégration ${B^0tobar{D}^0phi}$ et sur l'angle de mélange des mésons ${omega - phi}$.L'observation de ces modes ${B^0_{(s)}tobar{D}^0K^+K^-}$ et sous modes ${B^0_{(s)}tobar{D}^{(*)0}phi }$ permet de préparer les futures analyses de Dalitz de ces modes qui contribueront, en les combinant avec les autres méthodes, à améliorer la précision sur la mesure de la phase complexe $gamma$ du mécanisme CKM. / The LHCb experiment has been designed to study flavor physics, notably CP violation, on the LHC proton-proton collider.The first LHC run goes from 2011 to 2012, during what LHCb saved $3.19~mathrm{fb}^{-1}$ of data with a collision centre-of-mass energy at ${sqrt{s} = 7~TeV}$ and ${sqrt{s} = 8~TeV}$.The analysis presented in this thesis is based on a data sample corresponding to the full first run of the LHC (2011-2012).The Cabibbo-Kobayashi-Maskawa (CKM) mechanism describes CP violation in the Standard Model.In the previous decade, two dedicated experiments to flavor physics, BaBar and Belle, proved that the CKM mechanism is at work and dominated by Standard effects.Now LHCb aim is to improve precision on measurements of CKM parameters, in order to serves as the Standard Model reference points, to make in parallel indirect search of New Physics looking for deviations from the Standard Model reference points.Accurate measurements of CKM parameters through different processes provide sensitivity to new physics effects, by testing the global consistency of the Standard Model.This thesis is included inside the first LHCb aim: to improve CKM parameters measurements to constrain the Standard Model.This thesis reports the most precise measurement to date of the branching fraction of ${B^0tobar{D}^0K^+K^-}$ decay, the first observation of the decays ${B^0_stobar{D}^0K^+K^-}$ and ${B^0_stobar{D}^{*0}phi}$ with a polarization measurement for the second one, confirmation of the branching fraction measurement of ${B^0_stobar{D}^0phi}$, and upper limits on branching fraction of ${B^0tobar{D}^0phi}$ decay and on ${omega - phi}$ mixing angle.The observation of ${B^0_{(s)}tobar{D}^0K^+K^-}$ and ${B^0_{(s)}tobar{D}^{(*)0}phi }$ decays prepare the Dalitz analysis for these channels which will be used, combined with other methodes, to improve measurement on the $gamma$ complex-phase of the CKM mechanism.