La thèse présentée est composée de divers projets que j’ai réalisés au cours de la phasede construction du démonstrateur SuperNEMO pendant la période 2015-2018.L’expérience SuperNEMO, située dans le laboratoire souterrain LSM, est conçue pourrechercher 0nbb de 82Se. Sa technologie, qui tire parti du suivi des particules, est uniquedans le domaine des expériences de double désintégration bêta. La reconstruction de latopologie des événements est un outil puissant pour la suppression de fond naturel.Une partie de la thèse est consacrée à un travail expérimental. J’ai participé à la préparationde modules optiques, partie intégrante du calorimètre SuperNEMO. Les résultats de lapréparation et des tests de 520 modules optiques sont présentés dans la thèse. En outre, jeprésente les résultats de la cartographie complète des sources 207Bi effectuée à l’aide de pixeldétecteurs. Je présente également des mesures précises de leurs activités pour lesquellesj’ai utilisé des détecteurs HPGe. Ces sources 207Bi seront utilisées pour l’étalonnage ducalorimètre. L’étude a joué un rôle clé dans le choix des 42 sources qui participeront àl’étalonnage du démonstrateur.Une autre partie de la thèse contient des projets axés sur les simulations de Monte Carlo.Dans un premier temps, j’ai étudié la précision de reconstruction de vertex réalisable parun algorithme de reconstruction développé pour l’expérience SuperNEMO. La précision estévaluée à l’aide de différentes méthodes statistiques dans diverses conditions (champ magnétique,énergie des électrons, angles d’émission, etc.). Les facteurs influençant la précision,en fonction des résultats obtenus, sont discutés.En 2018, j’ai également effectué les simulations du blindage contre les neutrons. Différentsmatériaux de blindage d’épaisseurs différentes ont été (dans la simulation) exposés àun spectre de neutrons réaliste provenant du LSM et les flux situés derrière le blindage ont étéestimés. Il a été démontré que les parties du détecteur en fer devraient capturer la grande majoritédes neutrons passant le blindage. Je discute également un problème de simulation desrayonnements gamma de désexcitation après capture de neutrons thermiques, apparaissantdans les logiciels standard. Je propose un nouveau générateur étendu capable de résoudre leproblème et de démontrer le concept dans un exemple analytiquement résolu.Avec le standard 0nbb, SuperNEMO sera capable de rechercher des modes plus exotiquesde la décroissance. Dans cette thèse, je présente les limites de demi-vie possibles queSuperNEMO peut atteindre pour 0nbb avec l’émission d’un ou deux Majorons. L’étudeest réalisée en fonction de l’activité de contamination interne par les isotopes 208Tl et 214Bi.La période de mesure après laquelle SuperNEMO devrait pouvoir améliorer les limites dedemi-vie de NEMO-3 (au cas où la décroissance ne serait pas observée) est estimée. / Presented thesis is composed of variety of projects which I performed within theconstruction phase of SuperNEMO demonstrator during the period 2015-2018.SuperNEMO experiment, located at underground laboratory LSM, is designed to searchfor 0nbb of 82Se. Its technology, which takes advantage of particle tracking, is unique inthe field of double beta decay experiments. Event topology reconstruction is powerful toolfor suppression of naturally-occurring background radiation.Part of the thesis is dedicated to experimental work. I took part in assembly and testingof optical modules - the integral part of SuperNEMO calorimeter. Results of tests afterassembly of 520 optical modules are presented in the thesis. Furthermore, I present resultsof complete mapping of 207Bi sources performed using pixel detectors. I also present precisemeasurements of their activities for which I used HPGe detectors. These 207Bi sources willbe used for calibration of the calorimeter. Study played a key role in choice of 42 sourceswhich were installed in the demonstrator and will take part in calibration of the demonstrator.Another part of the thesis contains projects focused on Monte Carlo simulations. In firstof them, I studied a vertex reconstruction precision achievable by reconstruction algorithmdeveloped for SuperNEMO experiment. Precision is evaluated using different statisticalmethods in variety of different conditions (magnetic field, energy of electrons, angles ofemission, etc.). Factors influencing the precision, based on the achieved results are discussed.In 2018, I also performed simulations of neutron shielding. Variety of shielding materialswith different thicknesses were (in the simulation) exposed to realistic neutron spectrumfrom LSM and the fluxes behind the shielding were estimated. It was shown that the partsof the detector made of Iron should be expected to capture vast majority of neutrons passingthe shielding. I also discuss a problem with simulation of deexcitation gamma radiation,emitted after thermal neutron capture, which arises in standard software packages. I proposednew extended generator capable to resolve the problem and demonstrate the conceptin analytically solvable example.Along with standard 0nbb, SuperNEMO will be capable of searching for more exoticmodes of the decay. In the thesis, I present possible half-life limits achievable by SuperNEMOfor 0nbb with emission of one or two Majorons. The study is performed asa function of activity of internal contamination from 208Tl and 214Bi isotopes. Measurementperiod after which SuperNEMO should be able to improve half-life limits of NEMO-3 (incase the decay would not be observed) are estimated. / Predkladaná dizertaˇcná práca je zložená z projektov rôzneho charakteru, na ktorýchsom pracoval vo fáze výstavby SuperNEMO demonštrátora v období rokov 2015-2018.Experiment SuperNEMO, umiestnený v podzemnom laboratóriu LSM, je zameraný nahl’adanie 0nbb v 82Se. Experiment je založený na technológii rekonštrukcie dráh elektrónovvznikajúcich v rozpade. Tento prístup je jedineˇcný v oblasti 0nbb experimentov.Rekonštrukcia topológie udalostí je silným nástrojom na potlaˇcenie pozad’ovej aktivity vyskytujúcejsa v laboratóriu, ako aj v konštrukˇcných materiáloch detektora.Cˇ ast’ práce je venovaná experimentálnym úlohám. Zúcˇastnil som sa na konštrukciioptických modulov - súˇcasti hlavného kalorimetra. Práca obsahuje výsledky prípravy atestovania 520 optických modulov, a takisto výsledky kompletného mapovania kalibraˇcných207Bi zdrojov vykonaného za pomoci pixelových detektorov. V tejto ˇcasti sú odprezentovanéaj výsledky merania ich aktivít za pomoci HPGe detektorov. Štúdia zohrávala kl’úˇcovúúlohu pri výbere 42 zdrojov, ktoré boli nainštalované do prvého SuperNEMO modulu, dodemonštrátora, a budú použité na jeho energetickú kalibráciu.ˇ Dalšiu ˇcast’ práce tvoria úlohy zamerané na Monte Carlo simulácie. Prvým z nich,je štúdia presnosti rekonštrukcie vertexu dvojitého beta rozpadu. Rozpadové vertexy súrekonštruované tzv. CAT (Cellular Automaton Tracker) algoritmom vyvinutým pre experimentSuperNEMO. V štúdii sú porovnávané viaceré spôsoby definovania presnosti rekonštrukcie.Presnost’ je skúmaná v závislosti na magnetickom poli v detektore, energii elektrónov,uhlov ich emisie atd’. Na základe výsledkov sú v štúdii pomenované faktory, ktoré ovplyvˇnujú presnost’ rekonštrukcie vertexov dvojitého beta rozpadu.V roku 2018 som takisto vypracoval štúdie neutrónového tienenia. Oˇcakávané toky neutrónovza tienením boli odhadnuté pomocou Monte Carlo simulácie. Kvalita odtienenia neutrónovz realistickéh pozad’ového spektra, nameraného v LSM, bola skúmana pre tri rôznemateriály rôznych hrúbok. Výsledky ukázali, že neutrónový tok prechádzajúci tienenímbude primárne zachytávaný na komponentoch detektora zhotoveného zo železa. V rámcištúdie neutrónového tienenia je takisto diskutovaný problém simulácie deexcitaˇcných gamakaskád, produkovaných jadrami, po záchyte termálnych neutrónov. Štandardné simulaˇcnésoftvérové balíˇcky využívajú generátory gama kaskád nepostaˇcujúce pre potreby štúdie.Navrhol som nový generátor, ktorý je schopný tieto problémy vyriešit’. Funkˇcnost’ generátorabola preukázaná na príklade jednoduchého systému.Okrem štandardného 0nbb je SuperNEMO experiment schopný hl’adat’ aj jeho exotickejšieverzie. V práci sa nachádzajú odhady limitov ˇcasu polpremeny 0nbb s emisiou jednéhoalebo dvoch Majorónov, dosiahnutel’né SuperNEMO demonštrátorom. Tieto limity sú študovanév závislosti na aktivite izotopov 208Tl a 214Bi, ktoré kontaminujú zdrojovú 82Se fóliu.Bola odhadnuá doba merania, za ktorú bude SuperNEMO schopný vylepšit’ limity ˇcasu polpremeny,pre dva spomenuté rozpadové módy, dosiahnutých experimentom NEMO-3.

L'expérience NEMO3 était dédiée à la recherche de la désintégration ββ0ν à l'aide de diverses sources d'isotopes de désintégration double bêta (principalement ¹ººMo, ⁸²Se, ¹¹⁶Cd et ¹³ºTe pour un total d'environ 10 kg). Le détecteur était localisé dans le Laboratoire souterrain de Modane, à mi-parcours du tunnel du Fréjus. Cette expérience a permis de démontrer que la technologie "tracko-calo" est très compétitive et a de plus offert de nouveaux résultats pour la recherche des désintégrations ββ2ν et ββ0ν. Par ailleurs, elle a ouvert la voie pour son successeur SuperNEMO, dont le but est d'atteindre 100 kg de ⁸²Se (pour une sensibilité de 10²⁶ années). Le but principal de cette thèse a été de mesurer le temps de demi-vie des désintégrations ββ2ν et ββ0ν du ¹ººMo vers les états excités 0₁⁺ du ¹ººRu à l'aide des données totales de NEMO3, avec de nouvelles méthodes d'analyse et un développement du programme d'analyse de la collaboration. Les résultats obtenus pour la désintégration ββ2ν du ¹ººMo vers l'état fondamental (gs) et excité (0₁⁺) du ¹ººRu sont T1/2(ββ2ν,gs)=(7,05±0,01(stat)±0,54(syst)).10¹⁸ ans et T1/2(ββ2ν,0₁⁺)=(6,15±1,1(stat)±0,78)).10²º ans. Ces résultats sont compatibles avec les résultats publiés par la collaboration. Quant à la désintégration ββ0ν(0₁⁺), ce travail permet d’obtenir un temps de demi-vie de T1/2(ββ0ν, 0₁⁺)>2,6.10²³ ans, améliorant significativement les derniers résultats publiés. De plus ces méthodes ont aussi permis de présenter un nouveau modèle de bruit de fond de l'expérience, plus exhaustif. Le second but de ce travail a été de mesurer les erreurs systématiques du calorimètre de NEMO3 dues, entre autres, à la longueur d'onde des systèmes d’étalonnage du détecteur. Ce travail a été réalisé notamment à l'aide d'un banc de test basé sur des DEL. Ce banc a aussi permis de contribuer au développement du calorimètre de SuperNEMO, particulièrement au travers de mesures de linéarité et de caractéristiques temporelles des PM destinés au démonstrateur de l'expérience. / The NEMO3 experiment was researching the ββ0ν decay by using various sources of double beta decay isotopes (mainly ¹ººMo, ⁸²Se, ¹¹⁶Cd and ¹³⁰Te for about 10 kg in total). The detector was located in the “Laboratoire Souterrain de Modane”, in the halfway point of the Frejus tunnel. This experiment demonstrated that the "tracko-calo" technology is really competitive and, in addition, it gives new results for the ββ2ν and the ββ0ν decay research. Moreover it opened a new way for its successor SuperNEMO, which aim is to reach a mass of 100 kg of ⁸²Se (for a sensitivity of 10²⁶ years). The main goal of the thesis is to measure the ββ2ν and ββ0ν decay of the ¹ººMo to the excited state 0₁⁺ of the ¹ººRu thanks to the whole NEMO3 data, with new original methods of analysis and through the development of the collaboration analysis software. The results obtained for the ground states (gs) and excited states ββ2ν of the ¹ººMo are T1/2(ββ2ν,gs)=(7,05±0,01(stat)±0,54(syst)).10¹⁸ years and T1/2(ββ2ν, 0₁⁺)=(6,15±1,1(stat)±0,78)).10²º years. Those results are compatibles with the last published ones by the collaboration. For the ββ0ν(0₁⁺), this work gave a half-life time of T1/2 (ββ0ν, 0₁⁺)>2,6.10²³ years, improving significantly the last published results. Furthermore those methods also allowed to present a new and more exhaustive background noise model for this experiment. The second point of this work was to measure the systematics errors of the NEMO3 calorimeter, among others, due to the wavelength of the NEMO3 calibration systems. This work was done using a new test bench based on LED. This bench also allowed to contribute to the development of the SuperNEMO calorimeter, especially in the time characteristic and the energy linearity measurement of the PMT intended to the demonstrator of the experiments.

In experiments looking for rare events, like neutrinoless double beta decay (DBD0v) and dark matter search (DM), one of the main issues is to increase the experimental sensitivity through the material selection and production. In the specific the background contribution coming from the materials used for the detector realization has to be minimized. Moreover the net reduction of the background produced by the bulk part of the apparatus has raised concerns about the background contribution coming from the surfaces. Many procedures and techniques were developed during the last years in order to remove and to minimize the presence of possible contaminants on detector surfaces. To succeed in this strategy a big effort was put in defining all possible mechanisms that lead to surface contaminations, as well as specific cleaning procedures, which are able to reduce and control the surface radioactivity. The presence in air and gases of possible radioactive elements that can stick on the detector surfaces can lead to a recontamination process that will vanish all the applied cleaning procedures. Here is presented and analyzed the contribution to the background of rare events experiments like CUORE (DBD0v) and EDELWEISS (DM) produced by an exposure of their detector components to a big activity of 222Rn, radioactive daughter isotope from the 238U chain.

SuperNEMO est un projet de détecteur de nouvelle génération pour la recherche de la décroissance double bêta sans émission de neutrinos. La technique expérimental déployée est dans la lignée du son prédécesseur NEMO3, combinant un trajectographe et un calorimètre, afin d'identifier non seulement les électrons des décroissances double bêta, mais également pour mesurer l'ensemble des composantes de bruit de fond du détecteur. Le projet vise ainsi une sensibilité de 10^26 ans sur la période du 82Se, ce qui permettrait de sonder une masse effective du neutrino de 50 meV. Pour atteindre cette sensibilité, le projet prévoit notamment de mettre en place un calorimètre composé d'un millier de compteur à scintillation de basse radioactivité, dont la résolution en énergie serait meilleure que 8 % FWHM pour des électrons de 1 MeV.Ce travail de thèse apporte une contribution importante dans les travaux de Recherche et Développements pour améliorer les performances des scintillateurs et photomultiplicateurs, et pour réduire leur radioactivité, avec notamment la conception d'un nouveau photomultiplicateur en collaboration avec Photonis.

L’expérience SuperNEMO cherche à observer la double désintégration beta sans émission de neutrinos, uniquement possible si le neutrino est une particule de Majorana. Le premier module, aussi appelé démonstrateur, est en cours de construction au Laboratoire Souterrain de Modane. Sa capacité à détecter les particules individuelles en plus d’en mesurer l’énergie en fait un détecteur unique. Le démonstrateur peut contenir 7 kg de ⁸²Se sous forme de fines feuilles source. Ces feuilles source sont entourées par une chambre à fils, permettant ainsi la reconstruction en 3 dimensions des traces de particules chargées. Un calorimètre segmenté, composé de scintillateurs plastiques couplés à des photomultiplicateurs, assure quant à lui la mesure de l’énergie de chaque particule. De plus, la chambre à fils peut être soumise à un champ magnétique afin d’identifier la charge des particules. SuperNEMO est donc capable d’effectuer la reconstruction complète de la cinématique d’un événement ainsi que d’identifier la nature des particules impliquées dans ce dernier : électrons, positrons, particules α ou encore particules γ. En pratique, la reconstruction des particules repose sur divers algorithmes implémentés dans un logiciel de simulation et de reconstruction développé par et pour la collaboration SuperNEMO. La reconstruction des particules γ est particulièrement délicate puisque ces particules ne laissent pas de traces dans la chambre à fils et sont seulement détectées par le calorimètre, parfois même plusieurs fois. Différentes approches ont été explorées durant cette thèse. Ce travail a abouti à la création d’un nouvel algorithme permettant à la fois d’optimiser l’efficacité de reconstruction des particules γ mais aussi d’améliorer la reconstruction de leurs énergies. D'autres programmes assurant l’identification des particules et l’opération des mesures topologiques pertinentes à chaque événement ont aussi été développés. La valeur du champ magnétique a été optimisée pour la recherche de la désintégration 0νββ à l’aide de simulations Monte-Carlo. Les performances des blindages magnétiques ainsi que leur influence sur le champ magnétique ont été évaluées via des mesures effectuées grâce à des bobines magnétiques à échelle réduite. Le démonstrateur SuperNEMO est capable de mesurer ses propres contaminations en bruits de fond grâce à des canaux d’analyse dédiés. À l’issue d’une première prise de données de 2,5 ans, les activités visées pour les principaux bruits de fond devraient être connues précisément. En outre, la demi-vie du processus 2νββ pour le ⁸²Se devrait être mesurée avec une incertitude totale de 0,3 %.À la différence d’autres expériences double beta se basant uniquement sur la somme en énergie des deux électrons, SuperNEMO a accès à la totalité de la cinématique d’un événement et donc à de plus nombreuses informations topologiques. Une analyse multivariée reposant sur des arbres de décision boostés permet ainsi une amélioration d’au moins 10 % de la sensibilité pour la recherche de la désintégration 0νββ. Après 2,5 ans, et si aucun excès d'événements 0νββ n'est observé, le démonstrateur pourra établir une limite inférieure sur la demi-vie du processus 0νββ : T > 5.85 10²⁴ ans, équivalant à une limite supérieure sur la masse effective du neutrino mββ < 0.2 − 0.55 eV. En extrapolant ce résultat à une exposition de 500 kg.an, ces mêmes limites deviendraient T > 10²⁶ ans et mββ < 40 − 110 meV. / SuperNEMO is an experiment looking for the neutrinoless double beta decay in an effort to unveil the Majorana nature of the neutrino. The first module, called the demonstrator, is under construction and commissioning in the Laboratoire Souterrain de Modane. Its unique design combines tracking and calorimetry techniques. The demonstrator can study 7 kg of ⁸²Se, shaped in thin source foils. These source foils are surrounded by a wire chamber, thus allowing a 3-dimensional reconstruction of the charged particles tracks. The individual particles energies are then measured by a segmented calorimeter, composed of plastic scintillators coupled with photomultipliers. A magnetic field can be applied to the tracking volume in order to identify the charge of the particles. SuperNEMO is thus able to perform a full reconstruction of the events kinematics and to identify the nature of the particles involved: electrons, positrons, α particles or γ particles. In practice, the particle and event reconstruction relies on a variety of algorithms, implemented in the dedicated SuperNEMO simulation and reconstruction software. The γ reconstruction is particularly challenging since γ particles do not leave tracks in the wire chamber and are only detected by the calorimeter, sometimes multiple times. Several γ reconstruction approaches were explored during this thesis. This work lead to the creation of a new algorithm optimizing the γ reconstruction efficiency and improving the γ energy reconstruction. Other programs allowing the particle identification and performing the topological measurements relevant to an event were also developed. The value of the magnetic field was optimized for the 0νββ decay search, based on Monte-Carlo simulations. The magnetic shieldings performances and their impact on the shape of the magnetic field were estimated with measurements performed on small scale magnetic coils. The SuperNEMO demonstrator is able to measure its own background contamination thanks to dedicated analysis channels. At the end of the first 2.5 years data taking phase, the main backgrounds target activities should be measured accurately. The ⁸²Se 2νββ half-life should be known with a 0.3 % total uncertainty. Unlike other double beta decay experiments relying solely on the two electrons energy sum, SuperNEMO has access to the full events kinematics and thus to more topological information. A multivariate analysis based on Boosted Decision Trees was shown to guarantee at least a 10 % increase of the sensitivity of the 0νββ decay search. After 2.5 years, and if no excess of 0νββ events is observed, the SuperNEMO demonstrator should be able to set a limit on the 0νββ half-life of T > 5.85 10²⁴ y, translating into a limit on the effective Majorana neutrino mass mββ < 0.2 − 0.55 eV. Extrapolating this result to the full-scale SuperNEMO experiment, i.e. 500 kg.y, the sensitivity would be raised to T > 10²⁶ y or mββ < 40 − 110 meV.

The GERDA experiment searches for the neutrinoless double beta (0𝜈𝛽𝛽) decay of Ge-76. The observation of this decay would prove the Majorana character of the neutrino, i.e. that it is its own antiparticle. This would clarify the question which neutrino mass ordering is realized in nature and give a hint of the effective Majorana neutrino mass. Furthermore, the existence of the 0𝜈𝛽𝛽 decay would imply the violation of lepton number conservation which is a key feature in some theories explaining the asymmetry of matter and antimatter in the universe. The effective Majorana neutrino mass is connected with the half life of the 0𝜈𝛽𝛽 decay via a nuclear matrix element (NME), which is predicted by various theoretical models that are afflicted by large uncertainties. The accuracy of the different NMEs and their internal model assumptions can be increased by considering experimental investigations. While the NMEs for the 0𝜈𝛽𝛽 decay and the neutrino accompanied double beta (2𝜈𝛽𝛽) decay are numerically different, they rely on similar model assumptions. Thus, experimental constraints can be given by the 2𝜈𝛽𝛽 decay into the ground state, which has been already measured by GERDA with unprecedented precision for Ge-76, but also by the investigation of the 2𝜈𝛽𝛽 decay into excited states, which has not yet been observed for Ge-76. GERDA operates enriched germanium detectors in liquid argon (LAr) which serves as an additional background veto using the scintillation light that is created when energy is deposited in LAr. The signal signature of the decay into excited states can be enhanced with the application of the LAr veto, however, for that the efficiency of the LAr veto needs to be determined. One of the key parameters of the LAr efficiency is the attenuation of the scintillation light in LAr, which is dependent on the impurity composition and concentration in LAr. Therefore, the attenuation length of the scintillation light in LAr has been measured in GERDA with a dedicated setup in the course of this work. The analysis of the acquired data required intense computer simulations in order to describe the background for the measurement sufficiently. This also involved the measurement of the steel reflectivity in the visible and the UV region, where LAr scintillates. Therewith, the search for excited states has been performed in this work for the data accumulated in GERDA Phase I, Phase II and Phase II+ including the LAr veto for the latter two data sets. New limits have been set on the investigated excited states decay modes and some of the corresponding theoretical half life predictions could be disfavored, i.e. the underlying NMEs models can be constrained. The successor experiment LEGEND will continue searching for the 0𝜈𝛽𝛽 decay of Ge-76 using more germanium detectors together with an improved LAr veto. The investigation of the decay of Ge-76 into excited states will also be further pursued in LEGEND.

The GERDA experiment is searching for the neutrinoless double beta (0vbb) decay of Ge-76. By that, it tries to answer two long standing questions about the neutrino: 'How large is the neutrino mass?' and 'Is the neutrino either Dirac or Majorana particle?'. Additionally, an observation would imply that lepton number is not conserved, which is an important puzzle piece for theories explaining the asymmetry between matter and anti-matter in the universe. The effective Majorana electron neutrino mass can be extracted from the half-life of the 0vbb -decay. However, during that conversion large uncertainties are added through nuclear matrix elements, that are calculated by a variety of theoretical models. Experimental input is required to constrain such models and their parameters to improve the reliability of the calculations. Additional input can be obtained by comparing the model predictions for the two neutrino double beta (2vbb) decay to the ground state, but also for decay modes to excited states of the daughter nuclide with measurements. The latter decay modes have not yet been observed in the case of Ge-76. The event signature of transitions to excited states is enhanced by de-excitation gamma-rays. The GERDA experiment employs an array of bare germanium semi-conductor detectors in a liquid argon cryostat. This array is suited to search for excited state transition in the 2vbb and 0vbb -decay modes using data with coincident energy depositions in multiple detectors. This work presents the preparation and characterisation of this data set, which includes the evaluation and correction of crosstalk between detector channels, the determination of the energy resolution of the detectors and the modelling of background. In an analysis combining 22 kgyr of Phase I data with the first 35 kgyr of Phase II data of GERDA, no signal has been observed for 2/0vbb -decays of Ge-76 to the energetically lowest three excited states in Se-76. New limits have been set for the two neutrino decay modes at T1/2(2v)(0+g.s. to 0+1) > 3.1x10^23 yr, T1/2(2v)(0+g.s. to 2+1) > 3.4x10^23 yr T1/2(2v)(0+g.s. to 2+2) > 2.5x10^23 yr with 90% credibility using a Bayesian approach, improving upon the limits obtained in Phase I. The corresponding sensitivities are 3.6x10^23 yr, 6.7x10^23 yr and 3.7x10^23 yr, respectively. First limits are set for the neutrinoless decay modes in the order of (10^24-10^25) yr. Reaching the desired Phase II exposure of 100 kgyr, the sensitivities will increase by up to 50%.

The search for the neutrinoless double beta (0nbb) decay is one of the most active fields in modern particle physics. This process is not allowed within the Standard Model and its observation would imply lepton number violation and would lead to the Majorana nature of neutrinos. The experimentally observed quantity is the half-life of the decay, which can be connected to the effective Majorana neutrino mass via nuclear matrix elements. The latter can only be determined theoretically and are currently affected by large uncertainties. To reduce these uncertainties one can investigate the well established two-neutrino double beta (2nbb) decay into the ground and excited states of the daughter isotope. These similar processes are allowed within the Standard Model. In this dissertation, the search for 2nbb decays into excited states is performed in Pd-110, Pd-102 and Ge-76. Three gamma spectroscopy setups at the Felsenkeller (Germany), HADES (Belgium) and LNGS (Italy) underground laboratories are used to search for the transitions in Pd-110 and Pd-102. No signal is observed leading to lower half-live bounds (90% C.I.) of 2.9e20 yr, 3.9e20 yr and 2.9e20 yr for the 0/2nbb 2p1, 0p1 and 2p2 transitions in Pd-110 and 7.9e18 yr, 9.2e18 yr and 1.5e19 yr for the 0/2nbb 2p1, 0p1 and 2p2 transitions in Pd-102, respectively. This is a factor of 1.3 to 3 improvement compared to previous limits. The data of Phase I (Nov 2011 - May 2013) of the 0nbb decay experiment GERDA at LNGS is used to search for excited state transitions in Ge-76. The analysis is based on coincidences between two detectors and finds no signal. Lower half-life limits (90 % C.L.) of 1.6e23 yr, 3.7e23 yr and 2.3e23 yr are obtained for the 2nbb 2p1, 0p1 and 2p2 transitions, respectively. These limits are more than two orders of magnitude larger than previous ones and could exclude many old matrix element calculations. In addition to the excited state searches, important measurements and improvements for GERDA Phase II upgrades are performed within this dissertation. 30 new BEGe detectors are characterized for their surface and active volume properties which is an essential ingredient for all future physics analyses in GERDA. These precision measurements reduce the systematic uncertainty of the active volume to a subdominant level. In extension to this, a new model for simulating pulse shapes of n+ electrode surface events is developed. With this model it is demonstrated that the dominant background of K-42 on the detector surfaces can be suppressed by a factor of 145 with an A/E pulse shape cut in Phase II. A further suppression of background is obtained by a liquid argon scintillation light veto. With newly developed Monte Carlo simulations, including the optical scintillation photons, it is demonstrated that Tl-208 in the detectors holders can be suppressed by a factor of 134. K-42 homogeneously distributed in the LAr can be suppressed with this veto in combination with pulse shape cuts by a factor of 170 for BEGe detectors. The characterization measurements and the developed simulation tools presented within this dissertation will help to enhance the sensitivity for all 0/2nbb decay modes and will allow to construct an improved background model in GERDA Phase II. / Die Suche nach dem neutrinolosen Doppelbetazerfall (0nbb) ist eines der aktivsten Felder der modernen Teilchenphysik. Der Zerfall setzt die Verletzung der Leptonenzahl voraus und hätte die Majorananatur des Neutrinos zur Folge. Die durch eine Beobachtung bestimmbare Halbwertszeit des Zerfalls ermöglicht, über ein nukleares Matrixelement, Zugang zur effektiven Majorananeutrinomasse. Die größten Unsicherheiten gehen dabei auf das Matrixelement zurück, welches nur durch verschiedene, teilweise stark voneinander abweichende theoretische Modelle zugänglich ist. Eine Möglichkeit diese Unsicherheiten zu reduzieren bieten genaue Studien des im Standardmodel erlaubten neutrinobegleiteten Doppelbetazerfalls (2nbb) in angeregte Zustände des Tochterkerns. In dieser Dissertation wird der 2nbb-Zerfall der Nuklide Pd-110, Pd-102 und Ge-76 in angeregte Zustände untersucht. Die Untersuchungen von Pd-110 und Pd-102 wurden in drei umfangreichen Gammaspektroskopie-Experimenten in den Untergrundlaboren Felsenkeller (Deutschland), HADES (Belgien) und LNGS (Italien) durchgefürt. Es wurde kein Signal beobachtet und damit die weltweit besten unteren Grenzen für die Halbwertszeit dieser Zerfälle festgesetzt: 2,9e20 yr, 3,9e20 yr und 2,9e20 yr für die 0/2nbb 2p1, 0p1 und 2p2 Übergänge in Pd-110 and 7,9e18 yr, 9,2e18 yr und 1,5e19 yr für die 0/2nbb 2p1, 0p1 und 2p2 Übergänge in Pd-102 (90% C.I.). Dies ist eine 1,3 bis 3-fache Verbesserung gegenüber den vorher bekannten Grenzen. Die Untersuchung des 2nbb-Zerfalls in Ge-76 basiert auf Daten aus Phase I (Nov. 2011 - Mai 2013) des 0nbb-Zerfall Experiments GERDA. Mit der auf koinzidenten Ereignissen basierten Analyse konnte kein Signal beobachtet werden und folgende untere Grenzen für die Halbwertszeit der 2nbb 2p1, 0p1 und 2p2 Übergänge wurden festgelegt: 1,6e23 yr, 3,7e23 yr und 2,3e23 (90% C.L.). Diese 100-fache Verbesserung gegenüber den bisher bekannten Grenzen widerlegt eine Vielzahl älterer, zur Verfügung stehender Matrixelemente. Zusätzlich wurden im Rahmen dieser Dissertation für die Erweiterungen des GERDA Experiments zur Phase II wichtige Messungen durchgeführt und Verbesserungen entwickelt. 30 neu produzierte BEGe Detektoren wurden hinsichtlich ihrer Oberflächeneigenschaften sowie ihrer aktiven Volumina charakterisiert. Diese Präzisisionsmessungen sind für alle zukünftigen Analysen in GERDA notwendig und erlauben die entsprechenden systematischen Unsicherheiten auf ein subdominantes Niveau zu reduzieren. Erweiternd wurde ein neues Model zur Beschreibung der n+ Elektrode entwickelt, welches erstmals erlaubt die Pulsform von Oberflächeninteraktionen zu simulieren. Mithilfe dieses Models konnte demonstriert werden, dass der in Oberflächeninteraktionen begründete und in GERDA dominante Messuntergrund von K-42 auf der Detektoroberfläche durch Pulsformanalyse um das 145-fache unterdrückt werden kann. Eine weitere Untergrundreduzierung wird durch ein Flüssigargon Szintillationsveto erreicht. Im Rahmen dieser Arbeit wurden vorhandene Monte Carlo Simulationen um den Transport von optischen Photonen erweitert und die 134-fache Unterdrückung des Tl-208 Untergrundes demonstriert. Die Ergebnisse dieser Arbeit helfen eine deutliche Sensitivitätsverbesserung für die zuküntige Suche nach dem 0/2nbb-Zerfall zu erzielen und erlauben die Erstellung eines präziseren Untergrundmodels in GERDA Phase II.

Pas de résumé en français / In experiments looking for rare events, like neutrinoless double beta decay (DBD0v) and dark matter search (DM), one of the main issues is to increase the experimental sensitivity through the material selection and production. In the specific the background contribution coming from the materials used for the detector realization has to be minimized. Moreover the net reduction of the background produced by the bulk part of the apparatus has raised concerns about the background contribution coming from the surfaces. Many procedures and techniques were developed during the last years in order to remove and to minimize the presence of possible contaminants on detector surfaces. To succeed in this strategy a big effort was put in defining all possible mechanisms that lead to surface contaminations, as well as specific cleaning procedures, which are able to reduce and control the surface radioactivity. The presence in air and gases of possible radioactive elements that can stick on the detector surfaces can lead to a recontamination process that will vanish all the applied cleaning procedures. Here is presented and analyzed the contribution to the background of rare events experiments like CUORE (DBD0v) and EDELWEISS (DM) produced by an exposure of their detector components to a big activity of 222Rn, radioactive daughter isotope from the 238U chain

Nesta tese, realizamos dois tipos de estudos fenomenológicos através de uma análise detalhada de alguns experimentos terrestres atuais e futuros. No primeiro, estudamos dois mecanismos exóticos de conversão de sabor: descoerência quântica e interações não padrão do neutrino com a matéria. Para descoerência, vinculamos o parâmetro de descoerência bem como testamos como distinguir a solução de descoerência pura do mecanismo padrão de oscilação no contexto de duas gerações. No caso das interações não padrão, assumimos que esta é subdominante frente ao mecanismo de oscilação padrão, e encontramos os possíveis limites que poderão ser obtidos para essas interações utilizando uma fábrica de neutrinos futura. No segundo tipo de estudo, determinamos os parâmetros de oscilação solares pela análise combinada dos dados dos neutrinos solares e de KamLAND, e estimamos a precisão nos parâmetros de mistura atmosféricos que poderá ser atingida pelos experimentos de LongBaseLine futuros MINOS, ICARUS e OPERA. Por fim, investigamos a possibilidade dos experimentos futuros do duplo decaimento sem neutrinos de determinar os parâmetros de não oscilação. / In this thesis, we have done two kind of phenomenological studies through a detailed analysis of present and future terrestrial experiments. In the first study, we analyze two exotic mechanisms of flavour conversion: quantum decoherence and non-standard neutrino-matter interactions. In the case of decoherence, we impose constraints on the decoherence parameter and test how to distinguish between the pure decoherence solution and the standard neutrino ascillation mechanism in the contexto f two neutrino generations. For non-standard interactions, assuming it as a sub-leading process compared to the standard oscillation, we find the possible limits that can be achieved on the strength of these interactions using a future neutrino factory. In the second part of the study, we determine the solar oscillation parameters using a combined analysis of solar neutrino and KamLAND data, and estimate the precision on the atmospheric mixing parameters by that can be accomplished by the LongBaseline experiments MINOS, ICARUS and OPERA. Finally, we investigate the capability of future neutrinoless Double beta decay experiments to determine the non-oscillation parameters.