Cette thèse aborde quelques scénarios de nouvelle physique, ainsi que leurs manifestations dans le secteur des leptons.Le fait que les neutrinos soient massifs est un des problèmes non élucidés par le Modèle Standard. Une des solutions possibles est le mécanisme de seesaw, qui fait intervenir de nouveaux états lourds dont la désintégration viole le nombre leptonique. À cause de ce dernier point, ces états peuvent jouer un rôle clé dans la leptogenèse, un des scénarios susceptibles d'expliquer l'origine de l'asymétrie observée entre matière et antimatière dans l'univers. Nous étudions ici la leptogenèse avec un triplet scalaire et nous intéressons tout particulièrement l'impact des effets de saveur.Dans un second temps, nous considérons des théories supersymétriques. Nous étudions un modèle où le partenaire fermionique d'un pseudo-boson de Goldstone joue le rôle d'un neutrino stérile, qui pourrait expliquer certaines anomalies expérimentales. Enfin, pour être viable, la supersymétrie doit être brisée dans un secteur caché, et cette brisure doit ensuite être transmise aux champs de la théorie à basse énergie. Un des scénarios les plus élégants pour cela est la médiation de jauge. Malheureusement, celle-ci peine à reproduire la masse du boson de Higgs mesurée au LHC. Nous nous intéressons ici à des extensions susceptibles de réhabiliter ce scénario tout en le reliant mécanisme de seesaw. / This thesis addresses some scenarios of new physics as well as their consequences on the lepton sector. The fact that neutrinos are massive is one of the problems left unsolved by the Standard Model. One of the possible solutions is the seesaw mechanism, that involves new heavy states whose decay violates lepton number. Because of this, these states can participate in leptogenesis, one of the scenarios that could explain the origin of the asymmetry between matter and antimatter in our universe. Here, we study leptogenesis with a scalar triplet and consider especially the impact of flavour effects. After that, we turn to supersymmetric models. We consider a model in which the fermionic partner of a pseudo-Goldstone boson, associated to a symmetry broken at high energy, plays the role of a sterile neutrino, that could explain some experimental anomalies. Finally, to be viable, supersymmetry should be broken in a hidden sector, and this breaking should be transmitted to the fields of the low energy theory. One of the most elegant scenarios for this is gauge mediation. Unfortunately, it cannot easily reproduce the mass of the Higgs boson measured at LHC. We study here extensions that could rehabilitate this scenario and relate it to the seesaw mechanism.

Le mécanisme de génération de masses des neutrinos, la nature de la matière noire et l’origine de l’asymétrie baryonique de l’Univers sont les trois questions les plus pressantes dans la physique moderne des astroparticules, qui exigent l’introduction d’une nouvelle physique au-delà du Modèle Standard. Dans cette thèse, nous nous concentrons sur ces trois questions en fournissant une solution possible en termes d'une extension minimale du Modèle Standard, constituée par l’ajout d'un ensemble de fermions stériles au contenu des champs de la théorie. Les fermions stériles sont des champs qui sont singlets de jauge et qui peuvent interagir avec les neutrinos actifs à travers des termes de mélange. Nous nous concentrons sur le mécanisme dit de l’Inverse Seesaw (ISS), qui est caractérisé par une faible échelle de la nouvelle physique (de l’ordre TeV ou inférieure) et qui peut être testé dans les installations expérimentales actuelles et futures.
Nous présentons l'analyse qui permet d’identifier les réalisations minimales de ce mécanisme et l'étude phénoménologique pour prendre en compte la masses des neutrinos légers et pour imposer toutes les contraintes expérimentales pertinentes au modèle, ainsi que les signatures expérimentales attendues. Nous montrons la viabilité de l’hypothèse que les neutrinos stériles constituent la matière noire, et les caractéristiques de cette solution dans le mécanisme minimale de l’ISS. La possibilité d’expliquer avec succès l'asymétrie baryonique à travers un processus de leptogenèse dans une réalisation testable du mécanisme est aussi adressée.
Il est important de chercher des manifestations des fermions stériles dans les expériences de laboratoire. Nous abordons ce point en faisant des prévisions sur les rapports des branchement attendus pour les désintégrations des bosons vectoriels qui violent le saveur leptonique, qui peuvent être véhiculés par les fermions stériles. Nous étudions aussi l'impact des fermions stériles sur les fits globaux des données de précision électrofaible. / The neutrino mass generation mechanism, the nature of dark matter and the origin of the baryon asymmetry of the Universe are three compelling questions that cannot be accounted for in the Standard Model of particle physics. In this thesis we focus on all these issues by providing a possible solution in terms of a minimal extension of the Standard Model, consisting in the addition of a set of sterile fermions to the field content of the theory. Sterile fermions are gauge singlet fields, that can interact via mixing with the active neutrinos. We focus on the Inverse Seesaw mechanism, which is characterised by a low (TeV or lower) new physics scale and that can be tested in current and future experimental facilities. We present the model building analysis that points towards the minimal realisations of the mechanism, and the phenomenological study in order to accommodate light neutrino masses and to impose all the relevant experimental constraints in the model, as well as the expected experimental signatures. We show the viability of the sterile neutrino hypothesis as dark matter component, together with the characteristic features of this scenario in the minimal Inverse Seesaw mechanism. The possibility of successfully accounting for the baryon asymmetry in a testable realisation of the leptogenesis mechanism is also addressed.On the other side it is important to look for manifestations of sterile fermions in laboratory experiments. We address this point by making predictions for the expected rates of rare lepton number violating decays of vector bosons, that can be mediated by sterile fermions, as well as by studying the impact of sterile fermions on global fit of electroweak precision data.