L'hypothèse d'une quatrième famille de fermions –les particules de matière décrites au sein du Modèle Standard (MS) de la physique des particules– est un des plus simples modèles de nouvelle physique encore non exclu et accessible au démarrage du LHC – le plus puissant collisionneur hadronique au monde depuis 2009. Cette thèse s'intéresse à la production d'une paire de quarks t' se désintégrant chacun via Wb. La recherche se focalise sur le domaine des très hautes masses, où la production peut être distinguée de la production de bruit de fond d'une paire de quark top en exploitant la cinématique des produits de désintégration des collisions p-p produites au centre du détecteur ATLAS. Nous présentons une stratégie originale exploitant la collimation des produits de la désintégration des bosons W de grande impulsion transverse, permettant leur reconstruction explicite. L'analyse s'appuie sur un travail de mise en oeuvre des algorithmes d'identification des jets résultants de la fragmentation des quarks de saveur b. L'étiquetage-b permet à l'expérience ATLAS d'améliorer la (re)découverte du MS, et la sensibilité à la nouvelle physique. Il sera ainsi d'une grande importance pour les futures années d'opération du LHC, raison pour laquelle nous présentons une étude de prospective de ses performances attendues avec l'extension du détecteur à pixels d'ATLAS dénommée IBL. Notre recherche de quark t' a permis d'établir une limite inférieure à la masse du quark t' de 656 GeV à partir des 4.7 fb^−1 de données 7 TeV collectées en 2011, ce qui est la meilleure limite à ce jour en recherche directe, avec également une interprétation dans le cadre du modèle de quarks dits vecteurs. / The hypothesis of a fourth generation of fermions – the matter particles described in the Standard Model (SM) of particle physics – is one of the simplest model of new physics still not excluded and accessible at the start of the Large Hadron Collider (LHC) – the world most powerful hadron collider since 2009. We search for the pair production of up-type t' quarks decaying to a W boson and a b-quark. The search is optimized for the high quark mass regime, for which the production can be distinguished from the top background by exploiting kinematic features of the decay products arising from the proton-proton collisions occurring at the center of the ATLAS detector. We present a novel search strategy reconstructing explicitly very high-pT W bosons from their collimated decay products. The analysis benefits from the commissioning of algorithms intended to identify jets stemming from the fragmentation of b-quarks. These algorithms are based on the precise reconstruction of the trajectory of charged particles, vertices of primary interaction and secondary vertices in jets. The b-tagging ability allows for ATLAS to improve the (re)discovery of the SM, and the sensibility to new physics. It will hence play an important role in the future of the LHC, the reason why we study the expected performance with an upgrade of the ATLAS pixel detector, called IBL and currently under construction. Our search of t' quark, using 4.7 fb^−1 of the 7 TeV data collected in 2011, has resulted in the world most stringent limit, excluding t' masses below 656 GeV, with also an interpretation in the framework of vector-like quarks.

La découverte en 2012 de la dernière particule élémentaire prédite par le Modèle Standard, le boson de Higgs, a ouvert une nouvelle ère en physique des particules. L’un des objectifs est désormais de sonder les couplages du boson de Higgs aux autres particules afin de confirmer la validité du modèle. Le travail de cette thèse a porté dans un premier temps sur l’identification de jets issus de quark b dès le système de déclenchement. L’objectif est de permettre de sélectionner un millier d’événements parmi les quarante millions produits chaque seconde au LHC en identifiant des objets présents dans l’état final de processus de physique intéressants tels que la production associée d’un boson de Higgs se désintégrant en paire de quark b avec un boson Z se désintégrant en neutrinos non détectés. Dans un second temps, l’étude du couplage du boson de Higgs au quark top, particule la plus massive au sein du Modèle Standard a été réalisée. Après l’étude d’un bruit de fond important de la production associée d’un boson de Higgs et d’une paire de quarks top, une nouvelle méthode a été utilisée pour améliorer la discrimination entre le signal et les principaux bruits de fond. Cette analyse a conduit à la première évidence expérimentale du couplage entre le boson de Higgs et le quark top. / The discovery in 2012 of the last elementary particle predicted by the Standard Model, the Higgs boson, has opened a new era in particle physics. One of the objectives now is to probe the coupling of the Higgs boson to other particles in order to confirm the validity of the model. The work of this thesis focused initially on the identification of jets coming from b quark at trigger level. The goal is to allow for the selection of one thousand events among the forty million produced every second at the LHC, by identifiying objects present in the final states of interesting physics processes such as the associated production of a Higgs boson decaying in a pair of b quark with a Z boson decaying into undetected neutrinos. The work then moved to the study of the coupling of the Higgs boson to the quark top, most massive particle in the Standard Model. After a study of one of the important background of the associated production of the Higgs boson and a top quark pair, a new method called matrix element method has been used to improve the discrimination between signal and background. This analysis has led to the first experimental evidence of coupling between the Higgs boson and the top quark.

Une recherche du boson de Higgs du Modèle Standard produit en association avec un boson W ou Z et se désintégrant en une paire quark-antiquark b a été effectuée avec le détecteur ATLAS. Les données de collisions proton-proton utilisées ont été accumulées durant le Run 2 du Grand Collisionneur de Hadrons du CERN à une énergie dans le centre de masse de 13 TeV, et correspondent à une luminosité intégrée de 79.8 fb⁻¹. Trois canaux contenant zéro, un ou deux leptons chargés (électrons ou muons) sont considérés, correspondant à chacune des désintégrations leptoniques d'un boson W ou Z: Z->vv, W->lv et Z->ll. Pour un boson de Higgs de masse 125 GeV, un excès d'événements par rapport aux bruits de fonds des autres processus du Modèle Standard est observé avec un niveau de signification statistique de 4.9 déviations standard, à comparer à 4.3 attendues. Le rapport du nombre d'événements observé au nombre attendu est mesuré être 1.16 +0.27/-0.25 = 1.16 +/-0.16(stat) +0.21/-0.19(syst). Ce résultat est combiné avec d'autres d'ATLAS sur la recherche du boson de Higgs se désintégrant dans le mode bbbar, utilisant des données du Run 1 et du Run 2. Le niveau de signification mesuré (attendu) pour ce mode de désintégraion est de 5.4 (5.5) déviations standard, ce qui en constitue la première observation directe. De plus, une combinaison des résultats du Run 2 sur la recherche de la production associée du boson de Higgs et d'un boson W ou Z conduit à un niveau de signification observé (attendu) de 5.3 (4.8) déviations standard, et donc à la première observation de ce mode de production. / A search for the Standard Model Higgs boson produced in association with a W or Z boson, and decaying to a bb pair has been performed with ATLAS detector. The data were collected in proton-proton collisions during Run 2 of the Large Hadron Collider at a centre-of-mass energy of 13 TeV, and correspond to an integrated luminosity of 79.8 fb⁻¹. Three channels containing zero, one and two charged leptons (electrons or muons) have been considered to target each of the leptonic decays of the W or Z boson, Z->vv, W->lv et Z->ll, referred to as as the 0-lepton, 1-lepton and 2-lepton channels, respectively. For a Higgs boson mass of 125 GeV, an excess of events over the expected background from other Standard Model processes is found with an observed significance of 4.9 standard deviations, compared to an expectation of 4.3 standard deviations. The ratio of the measured signal events to the Standard Model expectation equal 1.16 +0.27/-0.25 = 1.16 +/-0.16(stat) +0.21/-0.19(syst). The result is also combined with the other results from the searches for the Higgs boson in the bb 18 decay mode in Run 1 and Run 2, the combination yields an observed (expected) significance of 5.4 (5.5) 20 standard deviations, and therefore provides a direct observation of the Higgs boson decay into a bb pair. In addition, a combination of Run 2 results searching for the Higgs boson produced in association with a W or Z boson yields an observed (expected) significance of 5.3 (4.8) standard deviations, and therefore provides a direct observation of Higgs boson being produced in association with a W or Z boson.

L'hypothèse d'une quatrième famille de fermions - les particules de matière décrites au sein du Modèle Standard (MS) de la physique des particules - est un des plus simples modèles de nouvelle physique encore non exclu et accessible au démarrage du Large Hadron Collider (LHC) - le plus puissant collisionneur hadronique au monde depuis 2009. Cette thèse s'intéresse à la production d'une paire de quarks t' se désintégrant chacun en un boson W et un quark b. La recherche se focalise sur le domaine des très hautes masses, où la production peut être distinguée de la production de bruit de fond d'une paire de quark top en exploitant la cinématique des produits de désintégration des collisions proton-proton produites au centre du détecteur ATLAS. Nous présentons une stratégie originale exploitant en particulier la collimation des produits de la désintégration des bosons W de très grande impulsion transverse, permettant leur reconstruction explicite. L'analyse s'appuie sur un travail de mise en oeuvre des algorithmes d'identification des jets résultants de la fragmentation des quarks de saveur b. Ces algorithmes se basent sur la reconstruction très précise de la trajectoire des particules chargées, des vertex d'interactions primaires et des vertex de désintégrations secondaires présents au sein des jets. L'étiquetage-b permet à l'expérience ATLAS d'améliorer la (re)découverte du MS, ainsi que la sensibilité à la nouvelle physique. Il sera ainsi d'une grande importance pour les futures années d'opération du LHC, raison pour laquelle nous présentons une étude de prospective de ses performances attendues avec l'extension du détecteur à pixels d'ATLAS - détecteur clé de l'étiquetage-b - dénommée IBL et actuellement en construction. Notre recherche de quark t' quant à elle a permis d'établir une limite inférieure à la masse du quark t' de 656 GeV à partir des 4.7 fb^−1 de données 7 TeV collectées en 2011, ce qui est la meilleure limite à ce jour en recherche directe, avec également une interprétation dans le cadre du modèle de quarks dits 'vecteurs'.