Les désintégrations charmées rares interviennent principalement via des courants neutres changeant la saveur (FCNC). Le Modèle Standard (SM) n'autorise les courants qu'au niveau des boucles. Dans les désintégrations du charme, les FCNC sont sujets à une très efficace suppression de GIM. Des processus très rares sont donc à considérer. Ils sont d'excellents outils pour la recherche Nouvelle Physique (NP) au-delà du SM. Les particules de NP pourraient devenir détectables en écartant des observables telles que des rapports de branchement et des asymétries CP et angulaires prévisions de le SM. Le sujet principal de cette thèse est la mesure du rapport de branchement D0->K-π+ρ/ω(->µ+µ-). Il sera précieux en particulier en tant que mode de normalisation lors de l'étude de toutes les désintégrations D0 -> h-h’+ µ+µ- : D0 -> K-π+µ+µ-, D0 -> π+π-µ+µ-, D0 -> K+K-µ+µ- et D0 -> K+π-µ+µ-. En utilisant 2/fb de données collectées par LHCb en 2012, nous mesurons: B(D0 -> K-π+ ρ/ω (->µ+µ-)) = (4.37± 0.12(stat.) ±0.53(syst.)) ×10^-6. C'est la toute première mesure de ce mode. Nous avons également étudié la sensibilité qu'attendra LHCb dans les modes D0 -> h-h’+ µ+µ- pour la mesure de rapport des branchements totaux et partiels, et pour celle d'asymétries, avec les échantillons de données qui seront collectés d'ici 10 ans. Par ailleurs, nous avons déterminé les incertitudes systématiques touchant les recherches de désintégrations à trois corps, D+(s) -> π+µ+µ- et D+(s) -> π-µ+µ+, effectués par LHCb dans les données recueillies en 2011 (1/fb). Enfin, les tests effectués sue les prototypes des cartes d'électronique embarquée qui assureront la lecture des calorimètres de l'expérience le LHCb mise à jour sont présenté dans cette thèse. / Rare charm decays proceed mostly through the c -> u Flavor Changing Neutral Current (FCNC), which is possible only at loop level in the Standard Model (SM). In charmed decays, FCNCs are subject to a very efficient GIM suppression, leading to very rare processes. Consequently, rare charm decays are good tools to probe to New Physics (NP) beyond the SM. NP particles could become detectable by causing observables such as branching ratios and CP or angular asymmetries to deviate from the SM predictions. The main subject of this thesis is the measurement of the branching ratio of the D0 -> K-π+ ρ/ω (->µ+µ-) mode. It will be precious in the future, in particular as a normalization mode in the study of all: D0 -> h-h’+ µ+µ- decays D0 -> K-π+µ+µ-, D0 -> π+π-µ+µ-, D0 -> K+K-µ+µ- and D0 -> K+π-µ+µ-. Using 2/fb of 2012 LHCb data we find: B(D0 -> K-π+ ρ/ω (->µ+µ-)) = (4.37± 0.12(stat.) ±0.53(syst.)) ×10^-6. This is the first measurement of this mode. We also determined sensitivities to total and partial branching fractions and asymmetries in D0 -> h-h’+ µ+µ- decays with future LHCb datasets. In addition, the systematic uncertainties affecting the searches for the 3-body decays, D+(s) -> π+µ+µ- and D+(s) -> π-µ+µ+, carried out by LHCb based on the data collected in 2011 (1/fb). Finally, the results of the tests of front-end electronic board for the Upgrade of LHCb are presented.

Le mélange des quarks est décrit dans le modèle standard de la physique des particules par le mécanisme de Cabibbo-Kobayashi-Maskawa (CKM). À ce jour, l'angle gamma du triangle d'unitarité est un des paramètres de ce mécanisme mesuré avec la moins bonne précision. La mesure de cet angle sert de référence pour le modèle standard, puisqu'elle peut être réalisée sans contribution significative de nouvelle physique. La précision actuelle de la meilleure mesure directe de gamma est d'environ 10°, alors que les ajustements globaux des paramètres CKM, potentiellement sujets à une contribution de nouvelle physique, déterminent cet angle à quelques degrés près. Par conséquent, une mesure directe précise de cette quantité est nécessaire pour contraindre d'avantage le triangle d'unitarité de la matrice CKM et ainsi tester la cohérence de ce modèle. Cette thèse présente une mesure de gamma par une analyse de Dalitz du canal B0->DK*0, avec une désintégration du méson D en K0Spipi. Elle est basée sur les 3 fb⁻¹ de données enregistrés par LHCb pendant le Run I du LHC, à une énergie de collision proton-proton dans le centre de masse de 7 et 8 TeV. Ce canal est sensible à gamma par l'interférence entre les transitions b->u et b->c. La mesure des observables de violation de CP réalisée est x- = -0.09 ^{+0.13}_{-0.13} ± 0.09 ± 0.01 , x+ = -0.10 ^{+0.27}_{-0.26} ± 0.06 ± 0.01 , y- = 0.23 ^{+0.15}_{-0.16} ± 0.04 ± 0.01 , y+ = -0.74 ^{+0.23}_{-0.26} ± 0.07 ± 0.01 , où le première incertitude est statistique, la deuxième est l'incertitude systématique expérimentale et la troisième est l'incertitude systématique venant du modèle de Dalitz. Une interprétation fréquentiste de ces observables donne rB0 = 0.39 ± 0.13 , deltaB0 = ( 186^{+24}_{-23} )° , gamma = ( 77^{+23}_{-24})° , où rB0 est le module du rapport des amplitudes des désintégrations supprimées et favorisées et deltaB0 la différence de phase forte entre ces deux désintégrations. Par ailleurs, un travail sur l'optimisation de la reconstruction des photons pour la mise à niveau du détecteur LHCb est aussi présenté. Lors du Run III du LHC, la luminosité instantanée reçue par LHCb sera augmentée d'un facteur cinq, générant un plus grand recouvrement entre les cascades se développant dans le calorimètre électromagnétique. L'étude montre que l'effet de ce recouvrement entre les gerbes est limité en réduisant la taille des clusters utilisés pour la détection des photons, tout en évitant une diminution significative de l'énergie reconstruite. Avec des corrections adaptées, la nouvelle reconstruction développée améliore la résolution en masse de 7 à 12%, suivant la région du calorimètre considérée. / Quark mixing is described in the standard model of particle physics with the Cabibbo-Kobayashi-Maskawa mecanism. The angle gamma of the unitarity triangle is one of the parameters of this mecanism that is still determined with a large uncertainty. It can be measured without significant contribution of new physics, making it a standard model key measurement. The current precision of the best direct measurement of gamma is approximately 10°, whereas the global fits of the CKM parameters determine this angle up to a few degrees. Therefore precise measurement of this quantity is needed to further constrain the Unitarity Triangle of the CKM matrix, and check the consistency of the theory. This thesis reports a measurement of gamma with a Dalitz analysis of the B0->DK*0 channel where the D meson decays into K0Spipi, based on the 3 fb⁻¹ of proton-proton collision data collected by LHCb during the LHC Run I, at the centre-of-mass energy of 7 and 8 TeV. This channel is sensitive to gamma through the interference between the b->u and b->c transitions. The CP violation observables are measured to be x- = -0.09 ^{+0.13}_{-0.13} ± 0.09 ± 0.01 , x+ = -0.10 ^{+0.27}_{-0.26} ± 0.06 ± 0.01 , y- = 0.23 ^{+0.15}_{-0.16} ± 0.04 ± 0.01 , y+ = -0.74 ^{+0.23}_{-0.26} ± 0.07 ± 0.01 , where the first uncertainty is statistical, the second is the experimental systematic uncertainty and the third is the systematic uncertainty due to the Dalitz model. A frequentist interpretation of these observables leads to rB0 = 0.39±0.13 , deltaB0 = ( 186^{+24}_{-23} )°, gamma = ( 77^{+23}_{-24} )° , where rB0 is the magnitude of the ratio between the suppressed and favoured decays and deltaB0 the strong phase difference between these two decays. In addition, the work performed on the optimisation of the photon reconstruction for the upgraded LHCb detector is reported. During LHC Run III, the LHCb instantaneous luminosity will be increased by a factor five, implying a larger shower overlap in the electromagnetic calorimeter. The study shows that reducing the cluster size used in the photon reconstruction limits the effect of the overlap between the showers, without inducing a significant energy leakage. With some dedicated corrections, the new cluster reconstruction improves the Bs->Phi gamma mass resolution by 7 to 12%, depending on the calorimeter region.