La notion de symétrie de jauge est au coeur de notre compréhension de l'interaction électrofaible et permet d'expliquer l'ensemble des observations expérimentales actuelles. Pourtant, l'incompatibilité intrinsèque entre l'invariance de jauge et la masse des particules nécessite d'introduire une nouvelle particule, le boson de Higgs, toujours non observée à ce jour. Cette thèse présente l'analyse de 7.3/fb de collisions protons-antiprotons à sqrt{s} = 1.96 TeV enregistrées par le détecteur D0 au Tevatron en vue de la recherche du boson de Higgs dans l'état final mu+tau. Cette analyse vient compléter les canaux principaux dimuons, électron-muon et diélectrons en exploitant également la désintégration H -> WW -> lvlv, majoritaire dans la fenêtre de masse accessible au Tevatron. L'état final contenant un lepton tau, leur identification parmi les jets a été améliorée d'environ 15% grâce au développement de plusieurs idées : l'ajustement des paramètres du réseau de neurones d'identification, la prise en compte de certaines dépendances cinématiques des performances de l'algorithme, l'exploitation du temps de vie du lepton tau et une étude exhaustive visant à inclure la mesure du détecteur de pieds de gerbe dans le processus d'identification. Dans un second temps, la recherche du boson de Higgs dans l'état final mu+tau étant dominée par le bruit de fond W+jets (où un jet est faussement identifié comme un lepton tau), une méthode a été élaborée pour obtenir une modélisation convenable de ce bruit de fond, non fournie par la simulation par défaut. Cette méthode est basée, entre autres, sur l'étude de la corrélation de charge entre le muon et le candidat tau qui permet de mesurer ce bruit de fond dans les données en excluant la région du signal. Ensuite, l'exploitation des cinématiques et/ou topologies différentes du signal et du bruit de fond a permis d'optimiser cette recherche atteignant alors une sensibilité attendue (observée) de 7.8 (6.6) fois le Modèle Standard pour une masse de 165 GeV/c2. Enfin, l'interprétation de l'analyse dans un scénario à quatre familles de fermions a été effectuée. Pour la première fois, cette analyse est incluse dans les combinaisons D0 et Tevatron présentées à Moriond EW et EPS 2011.

This thesis is concerned with experimental investigations of properties of the top quark and processes involving this particle. In the first part of the thesis, the first determination of the electric charge of the top quark is presented. The measurement was made using top quark pair events produced in proton-antiproton collisions recorded by the D0 detector at the Fermilab Tevatron. It is based on the reconstruction of the charge of the top quarks decay products from the dominant decay to a W boson and a b-quark. The method uses a jet charge algorithm, calibrated with data, to discriminate between b- and antib-quark jets. A constrained kinematic fit is also performed to resolve the ambiguities of the pairing of the top quark decay products and to extract the top quark electric charge. The result is in good agreement with the Standard Model top quark electric charge of 2e/3 and an upper limit of 0.8 at 90\% confidence level on the fraction of exotic quarks with charge 4e/3 in the data sample is obtained. The second part of the thesis concerns the estimation of the top quark pair background to searches for new physics, such as supersymmetry, with the ATLAS  experiment at the CERN Large Hadron Collider. These searches will require a robust estimation of standard model backgrounds in order to make any claims of discovery or to exclude models of new physics. For searches with a final state signature characterized by two isolated charged leptons, multiple jets and large missing transverse energy the largest source of background is expected to be top quark pairs with leptonic decay of the two W bosons from the top quarks in the event. A data-driven method to estimate this contribution based on full kinematic reconstruction of the top quark pair events is studied using simulated proton-proton collisions. It is shown that the method is capable of estimating the top quark pair background to within 12% using data corresponding to approximately 1fb-1. The systematic uncertainty is of the order of 20% and, depending on the model, the contamination of signal events can potentially be large. / QC 20100730