Les travaux présentés dans cette thèse ciblent la recherche de nouvelle physique au-delà du Modèle Standard dans le cadre des modèles composites, lesquels font intervenir des secteurs fortement couplés à l'échelle du TeV comprenant des particules exotiques. Leur existence peut être testée auprès du collisionneur proton-proton LHC situé au CERN, grâce au détecteur ATLAS. La production d'un quark lourd, comme le T5/3, prédit dans ces modèles, peut être déduite d'une section efficace anormalement élevée d'une signature spécifique. Certains états finaux, comme celui étudié dans cette thèse impliquant 2 leptons de même signe, étant très rares, possèdent une excellente sensibilité. Les recherches des processus de création du T5/3 au LHC en utilisant les données d'ATLAS à 8 et 13 TeV sont présentées. Un léger excès a été observé à 8 TeV. Des résultats préliminaires de l'analyse à 13 TeV sont présentés et ne montrent pas d'excès. Les limites inférieures en masse sur cette particule hypothétique sont de 745 GeV à 8 TeV et de 990 GeV à 13 TeV. Les modèles composites prévoient aussi l'existence de bosons lourds comme par exemple un Z' topophile qui ne se couplerait qu'aux quarks top et dont la production en association d'une paire tt donnerait un état final similaire aux événements à 4 quarks top. Une étude phénoménologique sur le potentiel de découverte de ces processus exotiques (Z' et théorie effective) ou standard (tttt) à 13 et 14 TeV est effectuée et donne les luminosités minimales nécessaires pour pouvoir observer des déviations au Modèle Standard. Une étude instrumentale d'une nouvelle carte de déclenchement de niveau 1 du calorimètre électromagnétique est aussi décrite en prévision de la phase d'Upgrade du détecteur. / The work of this thesis focuses on the search for new physics beyond the Standard Model in the compositeness framework, which postulates strongly coupled sectors at the TeV-scale consisting of exotic particles. Their existence can be tested at the CERN proton-proton collider, the LHC, using the ATLAS detector. The production of an heavy quark, such as the T5/3 predicted in those models, can be inferred from an enhancement of the cross-section of a given signature. Some final states, such as the one studied in this thesis involving 2 same-sign leptons, are very rare and have an excellent sensitivity. Searches for T5/3 production at the LHC using 8 and 13 TeV ATLAS data are presented. A small excess is seen at 8 TeV. Preliminary results of the 13 TeV analysis are presented and do not show any excess. The inferior limits put on the T5/3 mass is 745 GeV at 8 TeV and 990 GeV at 13 TeV. Composite models include also heavy bosons such as top-philic Z' coupled only to the top quark whose production in association to a top quark pair gives a final state similar to those from 4 tops events. A phenomenological study on the discovery potential of those exotic (Z' and effective theory) or standard (tttt) processes at 13 and 14 TeV is done and gives the minimal luminosities needed to observe deviations from the Standard Model. An instrumental study for the conception of the new LTDB card, part of the electromagnetic calorimeter's level 1 trigger system is described in the context of the ATLAS upgrade program.

(...) Le travail de recherche exposé dans cette thèse a été réalisé en utilisant les données collectées par le détecteur ATLAS auprès du LHC. Le LHC est l'accélérateur de particules le plus grand et le plus puissant jamais construit. Il est constitué d'un double anneau de stockage de protons. Environ 10000 physiciens et ingénieurs du monde entier participent à cette expérience en développant de nouvelles techniques et approches pour identifier les événements intéressants cachés dans l'environnement complexe produit dans des collisions proton-proton. Les premières collisions proton-proton ont eu lieu à la fin de l'année 2009 à une énergie de 900~GeV dans le système du centre de masse. Le 19 Mars 2010, le LHC a battu un record en augmentant l'énergie des faisceaux à 3.5 TeV, et les premières collisions à 7 TeV ont été enregistrées le 30 Mars 2010. L'énergie par faisceau pour l'ensemble de 2011 était de 3.5 TeV, et 4 TeV en 2012. Un an d'arrêt technique est prévu en 2013 avant de parvenir à l'énergie nominale de collision de 14 TeV. Quatre expériences se partagent les quatre points de croisement des faisceaux du grand anneau du LHC. Une d'entre elles, ATLAS, est un détecteur généraliste avec un vaste programme de physique. ATLAS est constitué d'un détecteur interne de traces dans un champ magnétique de 2 T, offrant une couverture jusqu'à |η|<2.5, un système calorimétrique allant jusqu'à |η|<4.9, un spectromètre à muons dans un champ magnétique toroïdal et un système de déclenchement composé de trois niveaux. Tous les sous-systèmes ont d'excellentes performances en termes d'efficacité et de résolution. Cette thèse comprend trois travaux interconnectés. En premier lieu, elle décrit les résultats de la recherche de nouvelles résonances qui se désintègrent en paires tt en utilisant les premiers 2.05 fb-1 de données collectées par le détecteur ATLAS en 2011. Dans une deuxième partie, en connection avec cette recherche, des études de performance de Jet Vertex Fraction (JVF) en utilisant des événements tt sont également présentées. JVF est une variable qui peut être utilisée pour réduire les effets d'empilement afin d'améliorer la précision et la sensibilité des analyses de physique à haute luminosité. Finalement, les performances de la calibration Globale Séquentielle des jets, sa validation sur des données réelles et l'évaluation de l'incertitude systématique qui lui est associée seront aussi discutées. La détermination précise de l'échelle en énergie des jets (JES: acronyme de Jet Energy Scale) ainsi que l'obtention d'une résolution optimale sont extrêmement importantes pour de nombreuses analyses de physique au LHC. Cela est vrai en particulier pour la recherche de nouvelles résonances tt en raison de la présence de jets dans l'état final. Les résultats sont présentés dans l'ordre dans lequel ils ont été réalisés au cours de cette thèse. (...) / (...) The studies presented in this thesis were performed using data collected by the ATLAS detector at the LHC. The LHC is the largest and highest energy particle accelerator ever built. Around 10000 physicists and engineers around the world are taking part in this experience by developing new techniques and approaches to identify the interesting physics buried in the complex environment produced in the LHC pp collisions. The LHC produced its first pp collisions on November 23, 2009 at the injection energy of 450 GeV. On March 19, 2010 the LHC broke a record by raising the beam energy to 3.5 TeV, and the first pp collisions at 7 TeV were recorded on March 30, 2010. The beam energy for the whole 2011 year was 3.5 TeV per beam, while in 2012 the beam energy is 4 TeV. At the beginning of 2013 the LHC will go into a long shutdown to prepare for higher energy collisions starting in 2014. At the four collision points of the LHC, detectors have been placed to study the high-energy collisions. One of these detectors, ATLAS, a general purpose detector with an extensive initial physics program. The ATLAS detector consists of a tracking system in a 2 T solenoid field, providing coverage up to a pseudo-rapidity of |η|<2.5, sampling electromagnetic and hadronic calorimeters up to |η|<4.9, muon chambers in a toroidal magnetic field and a trigger system consisting of three levels of event selection. So far, the ATLAS sub-detectors have shown an excellent performance in terms of efficiency and resolution. This thesis contains three different analyses interconnected. The main one concerns the results of the search for new resonances that decay to top-quark pairs using the first 2.05 fb-1 of data collected by the ATLAS detector in 2011. Secondly and related to this search, performance studies of the Jet Vertex Fraction (JVF) in top-quark pairs topologies are presented too. JVF is a variable that can be used to reduce the pile-up effects to improve the precision and sensitivity of physics analyses at high luminosities. Finally, results regarding the performance, validation in data and associated systematic uncertainty derivation of the Global Sequential (GS) jet calibration are discussed. The determination of the jet energy scale and the achievement of the optimal jet performance is of key importance to many LHC physics analyses, specially to the main analysis of this thesis due to the presence of jets in the final state. The results are presented in order that they were performed during the thesis.

ATLAS, LHC, quark b, quark top, étiquetage des jets issus de quark b, calibration des algorithmes d'étiquetage des jets issus de quark b, quarks top-antitop, section efficace, section efficace différentielle des paires top-antitop, masse du top, rapidité du top, nouvelle physique.

L'hypothèse d'une quatrième famille de fermions - les particules de matière décrites au sein du Modèle Standard (MS) de la physique des particules - est un des plus simples modèles de nouvelle physique encore non exclu et accessible au démarrage du Large Hadron Collider (LHC) - le plus puissant collisionneur hadronique au monde depuis 2009. Cette thèse s'intéresse à la production d'une paire de quarks t' se désintégrant chacun en un boson W et un quark b. La recherche se focalise sur le domaine des très hautes masses, où la production peut être distinguée de la production de bruit de fond d'une paire de quark top en exploitant la cinématique des produits de désintégration des collisions proton-proton produites au centre du détecteur ATLAS. Nous présentons une stratégie originale exploitant en particulier la collimation des produits de la désintégration des bosons W de très grande impulsion transverse, permettant leur reconstruction explicite. L'analyse s'appuie sur un travail de mise en oeuvre des algorithmes d'identification des jets résultants de la fragmentation des quarks de saveur b. Ces algorithmes se basent sur la reconstruction très précise de la trajectoire des particules chargées, des vertex d'interactions primaires et des vertex de désintégrations secondaires présents au sein des jets. L'étiquetage-b permet à l'expérience ATLAS d'améliorer la (re)découverte du MS, ainsi que la sensibilité à la nouvelle physique. Il sera ainsi d'une grande importance pour les futures années d'opération du LHC, raison pour laquelle nous présentons une étude de prospective de ses performances attendues avec l'extension du détecteur à pixels d'ATLAS - détecteur clé de l'étiquetage-b - dénommée IBL et actuellement en construction. Notre recherche de quark t' quant à elle a permis d'établir une limite inférieure à la masse du quark t' de 656 GeV à partir des 4.7 fb^−1 de données 7 TeV collectées en 2011, ce qui est la meilleure limite à ce jour en recherche directe, avec également une interprétation dans le cadre du modèle de quarks dits 'vecteurs'.

Le travail de recherche réalisé au cours de cette thèse s’inscrit dans le contexte de l’expérience ATLAS, l’une des quatre grandes expériences auprès du collisionneur LHC. Il fut principalement dédié à la recherche de nouveaux bosons de jauge lourds chargés, appelé W' et prédits par de nombreuses extensions du Modèle Standard de la physique des particules. Ce manuscrit présente une recherche du boson W' se désintégrant en un quark top et un quark beau à travers une approche de couplage effectif, dans des états finals de désintégrations leptoniques du quark top. Cette recherche fut réalisée avec 20.3 fb−1 de données de collision proton-proton, produits par le LHC à une énergie dans le centre de masse de 8 TeV et collectées par le détecteur ATLAS en 2012. Plusieurs scénarios d’études sont envisagés où le boson W' se couple soit à des fermions de chiralité gauche (W'L) soit de chiralité droite (W'R). Une technique d’analyse multivariée utilisant des arbres de décision boostés (BDT) est utilisée afin de mettre évidence un excès de processus de signal dans les données enregistrées. Aucun excès n’est observé au-delà des incertitudes expérimentales pour la statistique de données analysées jusque-là. Une analyse statistique est réalisée afin d’extraire des limites d’exclusion sur la masse et la section efficace de production de la particule. Des masses inférieures à 1.92, 1.80 et 1.70 TeV furent exclues respectivement pour des bosons W'R et W'L, en tenant compte ou non d’effets d’interférence. Les limites d’exclusion sur les sections efficaces de production sont réinterprétées en matière de limite d’exclusion sur le couplage effectif g'/g de la particule. Les limites d’exclusion les plus basses observées sur le rapport g'/g, respectivement de 0.20 et 0.16 pour les recherches de bosons W'R et W'L, furent obtenues pour une masse de boson W'R/L de 0.75 TeV. Une recherche de bosons de Higgs chargés se désintégrant en un quark top et un quark beau est également présentée dans ce manuscrit. Cette dernière repose sur une approche de couplage effectif décrivant un modèle à deux doublets de Higgs de type II. Cette analyse réutilise l’infrastructure développée pour la recherche du boson W' est complétée d’études phénoménologiques liées au calcul de la section efficace de ce processus ainsi que sur la caractérisation des effets de largeur de la résonance recherchée. Les premiers résultats obtenus sur la limite d’exclusion sur la section efficace de production pp → H+→ tb montrent toutefois que cette analyse ne semble pas être en mesure d’exclure un signal de boson H+ pour l’ensemble des scénarios théoriques considérés, compte tenu des faibles sections efficaces de production prédites. En parallèle de ces activités, des développements ont été réalisés pour la simulation rapide du système de calorimétrie FastCaloSim du détecteur ATLAS afin de pallier ses limitations. En particulier, un nouveau modèle de paramétrisation et de simulation rapide de la réponse en énergie du système de calorimétrie est présenté dans ce manuscrit. Ce modèle, toujours en développement, montre des résultats très encourageant pour la simulation d’événements à pion unique et permet de réduire considérablement l’empreinte mémoire de la paramétrisation en comparaison avec des versions précédentes de FastCaloSim, tout en permettant aux futures reparamétrisations d’être plus rapides et automatisées. / The research work carried out during this Ph.D thesis has been performed in the context of the ATLAS experiment, one of the four major LHC experiments, and was primarily dedicated to the search for a new chaged heavy gauge boson, called W' and predicted by many extensions of the Standard Model of particle physics. This manuscript presents a search for W' boson decaying into a top and a bottom quark through an effective coupling approach, in the lepton plus jets final states. This search is performed with 20.3 fb−1 of proton-proton collision data, produced by the LHC with a center-of-mass energy of 8 TeV and collected by the ATLAS detector in 2012. Several scenarios are considered where the W boson can couple to left-handed (W'L) or right-handed (W'R) fermions. A multivariate techniques based on boosted decision trees is used to search for an excess of W signal process in the recorded data. No excess is observed beyond the experimental uncertainties for the data analysed so far. A statistical analysis is performed in order to extract exclusion limits on the mass and the production cross section of the particle. Masses below 1.92, 1.80 and 1.70 TeV are excluded, respectively for W'R and W'L bosons taking into account or not interference effects. These exclusion limits on the production cross section are also reinterpreted in terms of exclusion limits on the effective coupling g'/g of the particle. The lowest exclusion limits observed on the ratio g'/g are equal to 0.20 and 0.16, respectively, for W'R and W'L searches, and are obtained for a W'R/L mass of 0.75 TeV. A search for charged Higgs boson decaying into a top and a bottom quark is presented in this manuscript. This search is based on an effective coupling approach describing a type II Two Doublet Higgs Model. It reuses the analysis infrastructure developed for the W' search and is completed by phenomenological studies related to the production cross section calculation for the process and the characterisation of the resonance width effects affecting the analysis. Preliminary results on the excluded cross section limits pp → H+→ tb show that the analysis is not able to exclude a signal a H+ boson for all theoretical scenarios considered, due to low production cross sections predicted. In parallel of these activities, several developments have been performed on the fast simulation of the ATLAS calorimeter system in order to overcome its limitations. In particular, a new parametrisation and fast simulation model for the energy response of the calorimeter is presented in this manuscript. This model, still under development, shows encouraging results for simulated single pion event and allows to reduce considerably the memory footprint of the parametrisation compared to previous versions of FastCaloSim, while enabling future reparametrisations to be faster and automated.