Les collisions d'ions lourds ultra-relativistes ont pour objectif l'étude d'un état de matière en interaction forte dans des conditions extrêmes de densité d'énergie et température, le plasma de quarks et gluons (QGP). Les saveurs lourdes (charme et beauté) sont produites principalement lors de processus durs aux premiers instants de la collision et participent aux différentes étapes de la collision. Par conséquent, la mesure des saveurs lourdes ouvertes devrait permettre d'extraire des informations importantes concernant le système créé aux premiers instants de la collision. L'étude des collisions proton-proton (pp) fournit la référence indispensable pour la mesure des saveurs lourdes dans les systèmes lourds. Cette thèse est dédiée à l'étude de la production des muons de décroissance des hadrons charmés et beaux aux rapidités avant (2.5 < y < 4) dans les collisions pp sqrt (s) = 5.02 TeV, Pb-Pb à sqrt (sNN) = 2.76 et 5.02 TeV et Xe-Xe à sqrt (sNN) = 5.44 TeV enregistrées avec le détecteur ALICE au CERN-LHC. La mesure des sections efficaces différentielles de production des muons de décroissance des hadrons charmés et beaux dans les collisions pp à sqrt (s) = 5.02 TeV couvre un grand domaine en impulsion transverse de 2 à 20 GeV/c et ont une meilleure précision par rapport aux résultats publiés à sqrt (s) = 2.76 et 7 TeV. Les résultats sont en bon accord avec les calculs perturbatifs de QCD. Une importante suppression de la production des muons de décroissance des hadrons charmés et beaux est observée dans les collisions centrales (0-10%) Pb-Pb à sqrt (sNN) = 2.76 et 5.02 TeV. Cette suppression est attribuée au milieu dense et chaud formé dans ces collisions. L'influence de la taille du système est étudiée avec le système Xe-Xe à sqrt (sNN) = 5.44 TeV. La suppression est similaire à celle mesurée dans les collisions Pb-Pb. Les résultats obtenus dans les collisions Pb-Pb et Xe-Xe apportent des contraintes fortes aux paramètres des modèles. / The study of ultra-relativistic heavy-ion collisions aims at investigating a state of strongly-interacting matter at high energy density and temperature, the Quark-Gluon Plasma (QGP). Heavy quarks (charm and beauty) are predominantly produced in initial hard scattering processes during the early stage of the collisions and experience the full evolution of the medium. Therefore, the measurement of open heavy flavours should provide essential information on the QGP properties. Similar measurements in small systems are also essential for a comprehensible understanding of the QGP properties. The study of open heavy flavours in proton-proton (pp) collisions provides the mandatory reference for measurements in heavy-ion collisions. This thesis presents measurements of the production of muons from heavy-flavour hadron decays at forward rapidity (2.5 < y < 4) in pp collisions at sqrt (s) = 5.02 TeV, Pb-Pb collisions at sqrt (sNN) = 2.76 and 5.02 TeV and Xe-Xe collisions at sqrt (sNN) = 5.44 TeV collected with the ALICE detector at the CERN-LHC. The differential production cross sections of muons from heavy-flavour hadron decays in pp collisions at sqrt (s) = 5.02 TeV are obtained in a wide transverse momentum interval, 2 < pT < 20 GeV/c, and with an improved precision compared to the previously published measurements at sqrt (s) = 2.76 and 7 TeV. The measurements are described within uncertainties by predictions based on perturbative QCD. A strong suppression of the yield of muons from heavy-flavour decays is observed in the 10% most central Pb-Pb collisions at both sqrt (sNN) = 2.76 and 5.02 TeV. This suppression is due to final-state effects induced by the hot and dense medium. The suppression in Xe-Xe collisions is similar to that observed with Pb-Pb collisions. The comparison in the two colliding systems provides insight in the path-length dependence of medium-induced parton energy loss. The results constrain model calculations.

Les collisions d'ions lourds ultra-relativistes ont pour objectif principal l'étude des propriétés de la matière nucléaire soumise à des conditions extrêmes et de température de densité d'énergie. Les calculs de la ChromoDynamique Quantique (QCD) prédisent dans ces conditions une nouvelle phase de la matière dans laquelle on assisterait au déconfinement des constituants des hadrons en un plasma de quarks et gluons (QGP). Les saveurs lourdes (charme et beauté) sont produites lors de processus durs aux premieres instants de la collision puis traversent le milieu produit durant la collision. Par conséquent, la mesure des quarkonia et des saveurs lourdes ouvertes devrait être particulièrement intéressante pour l'étude des propriétés du système créé aux premiers instants de la collision. On s'attend à ce que les saveurs lourdes ouvertes présentent des sensibilités à la densité d'énergie via les mécanismes de perte d'énergie des quarks lourds dans le milieu et que les quarkonia soient sensibles à la température initiale du système via leur dissociation par écrantage de couleur. La mesure du flot des saveurs lourdes devrait apporter des informations concernant le degré de thermalisation des quarks lourds dans le milieu nucléaire. De plus, l'observable viscosité/entropie pourrait être obtenue en combinant les mesures du facteur de modification nucléaire et de flot. En conséquence, l'étude de la production des quqrkonia et saveurs lourdes ouvertes est un domaine de recherche intensément étudié au niveau experimental et théorique. Les mesures effectuées au SPS et RHIC ont permis de mettre en évidence plusieurs caractéristiques du milieu produit mais ont aussi laissé plusieurs questions sans réponse. Avec une énergie par paire de nucléon de 15 fois supérieure à celle du RHIC, le LHC entré en fonctionnement fin 2009, a ouvert une nouvelle ère pour l'étude des propriétés du QGP. Un des plus importants aspects de ce domaine en énergie est l'abondante production de quarks lourds utilisés pour la première fois comme sonde de haute statistique du milieu. Le LHC délivra les premières collisions pp à √s = 0.9 TeV en octobre 2009 et a atteint l'énergie de √s = 7 TeV en mars 2010. Un run pp à √s = 2.76 TeV a eu lieu en mars 2011 pendant une durée limitée. Les runs Pb-Pb à √sNN = 2.76 TeV ont eu lieu fin 2010 et 2011. ALICE (A Large Ion Collider Experiment) est l'expérience dédiée à l'étude des collisions d'ions lourds au LHC. ALICE enregiste aussi des collisions pp afin de tester les calculs perturbatifs de QCD dans la région des faibles valeurs de x-Bjorken et de fournir la référence indispensable pour l'étude des collisions noyau-noyau et p-noyau. ALICE enregistrera aussi, début 2013, des collisions p-Pb/Pb-p afin d'étudier les effets nucléaires froids. Les quarkonia et saveurs lourdes ouvertes sont mesurés dans ALICE suivant leur mode de désintégration (di)-muonique, (di)-electronique et hadronique. Cette thèse concerne l'étude des saveurs lourdes ouvertes dans les collisions pp et Pb-Pb avec les muons simples mesurés aux rapidités avant avec le spectromètre à muons d'ALICE. Le document est structuré comme suit. Le premier chapitre est une introduction à la physique des collisions d'ions lourds et du diagramme de phase de la matière nucléaire. Le deuxième chapitre présente les objectifs de l'étude des saveurs lourdes ouvertes dans les collisions proton-proton, proton-noyau et noyau-noyau. Un intérêt particulier est porté au domaine en énergie du LHC. Le troisième chapitre est une description du détecteur ALICE et du spectromètre à muons. Le quatrième chapitre présente les systèmes "online" et "offline". Le cinquième chapitre est un résumé des performances du spectromètre à muons pour la mesure des saveurs lourdes ouvertes dans les collisions pp au moyen des muons simples et dimuons. Les chapitres 6 à 9 concernent l'analyse de données. (...) / Résumé indisponible