Le mécanisme de génération de masses des neutrinos, la nature de la matière noire et l’origine de l’asymétrie baryonique de l’Univers sont les trois questions les plus pressantes dans la physique moderne des astroparticules, qui exigent l’introduction d’une nouvelle physique au-delà du Modèle Standard. Dans cette thèse, nous nous concentrons sur ces trois questions en fournissant une solution possible en termes d'une extension minimale du Modèle Standard, constituée par l’ajout d'un ensemble de fermions stériles au contenu des champs de la théorie. Les fermions stériles sont des champs qui sont singlets de jauge et qui peuvent interagir avec les neutrinos actifs à travers des termes de mélange. Nous nous concentrons sur le mécanisme dit de l’Inverse Seesaw (ISS), qui est caractérisé par une faible échelle de la nouvelle physique (de l’ordre TeV ou inférieure) et qui peut être testé dans les installations expérimentales actuelles et futures.
Nous présentons l'analyse qui permet d’identifier les réalisations minimales de ce mécanisme et l'étude phénoménologique pour prendre en compte la masses des neutrinos légers et pour imposer toutes les contraintes expérimentales pertinentes au modèle, ainsi que les signatures expérimentales attendues. Nous montrons la viabilité de l’hypothèse que les neutrinos stériles constituent la matière noire, et les caractéristiques de cette solution dans le mécanisme minimale de l’ISS. La possibilité d’expliquer avec succès l'asymétrie baryonique à travers un processus de leptogenèse dans une réalisation testable du mécanisme est aussi adressée.
Il est important de chercher des manifestations des fermions stériles dans les expériences de laboratoire. Nous abordons ce point en faisant des prévisions sur les rapports des branchement attendus pour les désintégrations des bosons vectoriels qui violent le saveur leptonique, qui peuvent être véhiculés par les fermions stériles. Nous étudions aussi l'impact des fermions stériles sur les fits globaux des données de précision électrofaible. / The neutrino mass generation mechanism, the nature of dark matter and the origin of the baryon asymmetry of the Universe are three compelling questions that cannot be accounted for in the Standard Model of particle physics. In this thesis we focus on all these issues by providing a possible solution in terms of a minimal extension of the Standard Model, consisting in the addition of a set of sterile fermions to the field content of the theory. Sterile fermions are gauge singlet fields, that can interact via mixing with the active neutrinos. We focus on the Inverse Seesaw mechanism, which is characterised by a low (TeV or lower) new physics scale and that can be tested in current and future experimental facilities. We present the model building analysis that points towards the minimal realisations of the mechanism, and the phenomenological study in order to accommodate light neutrino masses and to impose all the relevant experimental constraints in the model, as well as the expected experimental signatures. We show the viability of the sterile neutrino hypothesis as dark matter component, together with the characteristic features of this scenario in the minimal Inverse Seesaw mechanism. The possibility of successfully accounting for the baryon asymmetry in a testable realisation of the leptogenesis mechanism is also addressed.On the other side it is important to look for manifestations of sterile fermions in laboratory experiments. We address this point by making predictions for the expected rates of rare lepton number violating decays of vector bosons, that can be mediated by sterile fermions, as well as by studying the impact of sterile fermions on global fit of electroweak precision data.