Les collisions d'ions lourds ultra-relativistes ont pour objectif principal l'étude des propriétés de la matière nucléaire soumise à des conditions extrêmes et de température de densité d'énergie. Les calculs de la ChromoDynamique Quantique (QCD) prédisent dans ces conditions une nouvelle phase de la matière dans laquelle on assisterait au déconfinement des constituants des hadrons en un plasma de quarks et gluons (QGP). Les saveurs lourdes (charme et beauté) sont produites lors de processus durs aux premieres instants de la collision puis traversent le milieu produit durant la collision. Par conséquent, la mesure des quarkonia et des saveurs lourdes ouvertes devrait être particulièrement intéressante pour l'étude des propriétés du système créé aux premiers instants de la collision. On s'attend à ce que les saveurs lourdes ouvertes présentent des sensibilités à la densité d'énergie via les mécanismes de perte d'énergie des quarks lourds dans le milieu et que les quarkonia soient sensibles à la température initiale du système via leur dissociation par écrantage de couleur. La mesure du flot des saveurs lourdes devrait apporter des informations concernant le degré de thermalisation des quarks lourds dans le milieu nucléaire. De plus, l'observable viscosité/entropie pourrait être obtenue en combinant les mesures du facteur de modification nucléaire et de flot. En conséquence, l'étude de la production des quqrkonia et saveurs lourdes ouvertes est un domaine de recherche intensément étudié au niveau experimental et théorique. Les mesures effectuées au SPS et RHIC ont permis de mettre en évidence plusieurs caractéristiques du milieu produit mais ont aussi laissé plusieurs questions sans réponse. Avec une énergie par paire de nucléon de 15 fois supérieure à celle du RHIC, le LHC entré en fonctionnement fin 2009, a ouvert une nouvelle ère pour l'étude des propriétés du QGP. Un des plus importants aspects de ce domaine en énergie est l'abondante production de quarks lourds utilisés pour la première fois comme sonde de haute statistique du milieu. Le LHC délivra les premières collisions pp à √s = 0.9 TeV en octobre 2009 et a atteint l'énergie de √s = 7 TeV en mars 2010. Un run pp à √s = 2.76 TeV a eu lieu en mars 2011 pendant une durée limitée. Les runs Pb-Pb à √sNN = 2.76 TeV ont eu lieu fin 2010 et 2011. ALICE (A Large Ion Collider Experiment) est l'expérience dédiée à l'étude des collisions d'ions lourds au LHC. ALICE enregiste aussi des collisions pp afin de tester les calculs perturbatifs de QCD dans la région des faibles valeurs de x-Bjorken et de fournir la référence indispensable pour l'étude des collisions noyau-noyau et p-noyau. ALICE enregistrera aussi, début 2013, des collisions p-Pb/Pb-p afin d'étudier les effets nucléaires froids. Les quarkonia et saveurs lourdes ouvertes sont mesurés dans ALICE suivant leur mode de désintégration (di)-muonique, (di)-electronique et hadronique. Cette thèse concerne l'étude des saveurs lourdes ouvertes dans les collisions pp et Pb-Pb avec les muons simples mesurés aux rapidités avant avec le spectromètre à muons d'ALICE. Le document est structuré comme suit. Le premier chapitre est une introduction à la physique des collisions d'ions lourds et du diagramme de phase de la matière nucléaire. Le deuxième chapitre présente les objectifs de l'étude des saveurs lourdes ouvertes dans les collisions proton-proton, proton-noyau et noyau-noyau. Un intérêt particulier est porté au domaine en énergie du LHC. Le troisième chapitre est une description du détecteur ALICE et du spectromètre à muons. Le quatrième chapitre présente les systèmes "online" et "offline". Le cinquième chapitre est un résumé des performances du spectromètre à muons pour la mesure des saveurs lourdes ouvertes dans les collisions pp au moyen des muons simples et dimuons. Les chapitres 6 à 9 concernent l'analyse de données. (...) / Résumé indisponible