Un des objectifs principaux de l'expérience PHENIX est l'étude de la matière nucléaire soumise à des conditions extrêmes de température et de densité d'énergie. Dans les collisions ultra-relativistes Au+Au à 200 GeV par paires de nucléon, il serait possible de former un état de la matière pour lequel les quarks et les gluons ne seraient plus liés au sein des nucléons mais pourraient évoluer de façon quasi-libre sur des distances plus grandes que la taille caractéristique de ces derniers. Cet état est dénommé le Plasma de Quarks et de Gluons (QGP). L'étude de la production du J/psi, particule lourde formée d'une paire de quarks charme (c et c_bar), est une des sondes initialement proposée pour étudier le QGP. Une suppression de la production du $\jpsi$ était en effet attendue en présence d'un QGP, en raison de l'écrantage du potentiel de liaison entre les quarks charme le constituant par la présence du milieu dense coloré environnant. De nombreuses mesures du $\jpsi$ ont eu lieu depuis au SPS (CERN) et à RHIC (BNL). Elles ont permis de mettre en évidence non seulement l'existence d'une telle suppression, mais également la présence de mécanismes supplémentaires, rendant plus difficile l'interprétation des résultats correspondants. L'expérience PHENIX est la seule des quatre expériences de RHIC capable de mesurer le J\psi à rapidité positive via sa désintégration en deux muons. En 2007 des collisions Au+Au à une énergie par paire de nucléons dans le centre de masse \sqrt{s_{NN}}=200 GeV ont été réalisées à BNL, ce qui a permis d'augmenter d'un facteur quatre la statistique disponible pour l'étude du $\jpsi$ par rapport aux résultats publiés précédemment. Cette augmentation, ajoutée à la mise en oeuvre de nouveaux détecteurs dans PHENIX, a permis de préciser les mesures précédentes, et de mesurer des observables jusqu'alors inaccessibles telles que l'asymétrie azimutale de la production du J\psi, une grandeur qui devrait permettre de distinguer certains des mécanismes de cette production. Ce manuscrit présente la compréhension actuelle de la production de quarkonia et l'utilisation de cette sonde dans l'étude du QGP. En particulier, la mesure du flot elliptique peut contraindre notre connaissance du milieu formé. L'analyse conduisant à la première mesure de l'anisotropie azimutale du $\jpsi$ à rapidité positive dans les collisions Au+Au à 200~GeV par paire de nucléons est détaillée. Cette mesure devrait permettre de préciser le mécanisme de production du méson, en particulier en ce qui concerne la part de recombinaison des quarks $c$ en $\jpsi$.

Les collisions d'ions lourds relativistes permettent d'étudier la production du plasma de quarks et de gluons (QGP), état dans lequel serait la matière hadronique au-delà d'une température de l'ordre de 200~MeV. Le $J/\psi$, état lié~$c\bar{c}$, est une des sondes utilisées pour observer le QGP. Son taux de production peut être modifié par divers effets en compétition: les effets nucléaires froids et ceux attendus en cas de production du QGP. Une suppression anormale du $J/\psi$ (au-delà des effets froids) a déjà été vue par l'expérience NA50 (SPS) dans les collisions Pb~+~Pb les plus centrales. L'expérience PHENIX (RHIC) poursuit cette étude à une énergie environ dix fois plus élevée. Nous avons étudié la production du $J/\psi\to\mu^+\mu^-$ dans les collisions Cu~+~Cu effectuées en 2005 à une énergie de 200~GeV par paire de nucléons. Les résultats obtenus apportent des informations importantes sur les effets froids: ils permettent d'améliorer de manière significative la précision obtenue dans les collisions à petit nombre de nucléons participants, où le QGP ne peut être produit. Ils confirment la similitude des suppressions déjà observées au RHIC dans les collisions Au~+~Au et au SPS; ce constat restant à corroborer par des mesures plus précises des effets froids au RHIC. Les résultats combinés Au~+~Au et Cu~+~Cu mettent aujourd'hui en défaut la plupart des modèles théoriques, et pourraient favoriser l'hypothèse d'une production ! secondaire du $J/\psi$ dans le milieu (recombinaison).

Un des objectifs principaux de l'expérience PHENIX est l'étude de la matière nucléaire soumise à des conditions extrêmes de température et de densité d'énergie. Dans les collisions ultra-relativistes Au+Au à 200~GeV par paires de nucléon, il serait possible de former un état de la matière pour lequel les quarks et les gluons ne seraient plus liés au sein des nucléons mais pourraient évoluer de façon quasi-libre sur des distances plus grandes que la taille caractéristique de ces derniers. Cet état est dénommé le Plasma de Quarks et de Gluons (QGP).<br /><br />L'étude de la production du $\jpsi$, particule lourde formée d'une paire de quarks charme ($c \bar c$), est une des sondes initialement proposée pour étudier le QGP. Une suppression de la production du $\jpsi$ était en effet attendue en présence d'un QGP, en raison de l'écrantage du potentiel de liaison entre les quarks charme le constituant par la présence du milieu dense coloré environnant. De nombreuses mesures du $\jpsi$ ont eu lieu depuis au SPS (CERN) et à RHIC (BNL). Elles ont permis de mettre en évidence non seulement l'existence d'une telle suppression, mais également la présence de mécanismes supplémentaires, rendant plus difficile l'interprétation des résultats correspondants.<br /><br />L'expérience PHENIX est la seule des quatre expériences de RHIC capable de mesurer le $\jpsi$ à rapidité positive via sa désintégration en deux muons. En 2007 des collisions Au+Au à une énergie par paire de nucléons dans le centre de masse $\sqrt{s_{NN}}=200$~GeV ont été réalisées à BNL, ce qui a permis d'augmenter d'un facteur quatre la statistique disponible pour l'étude du $\jpsi$ par rapport aux résultats publiés précédemment. Cette augmentation, ajoutée à la mise en oeuvre de nouveaux détecteurs dans PHENIX, a permis de préciser les mesures précédentes, et de mesurer des observables jusqu'alors inaccessibles telles que l'asymétrie azimutale de la production du $\jpsi$.<br /><br />Ce manuscrit présente la compréhension actuelle de la production de quarkonia et l'utilisation de cette sonde dans l'étude du QGP. L'analyse conduisant à la première mesure de l'anisotropie azimutale du $\jpsi$ à rapidité positive dans les collisions Au+Au à 200~GeV par paire de nucléons est détaillée. Cette mesure devrait permettre de préciser le mécanisme de production du méson, en particulier en ce qui concerne la part de recombinaison des quarks $c$ en $\jpsi$.

La QCD sur réseau prévoit, à potentiel chimique baryonique mu_B nul ou proche de zéro, une transition de la matière de type "crossover" d'un gaz de hadrons vers le Plasma de Quarks et Gluons. Les collisions d'ions lourds ont été proposées pour le recréer et l'étudier en laboratoire. Aussi, les collisions Au+Au, d+Au à sqrt(s_(NN))= 200 GeV et Au+Au à 62.4GeV délivrées au RHIC ont été sondées par la mesure des Xi- et Xi+ dans l'expérience STAR. L'évolution des taux de production avec la taille et l'énergie du système renseigne sur les propriétés chimiques de la collision et est interprétée dans le cadre de modèles hadroniques et statistiques. Le facteur de modification nucléaire R_(CP) des Xi révèle : (1) une dépendance mésons/baryons pour 2 < p_T < 5GeV/c bien reproduite par des modèles de coalescence/recombinaison de quarks, (2) la formation d'une matière dense signée par la suppression de R_(CP) à p_T > 3GeV/c, (3) une forte interaction entre constituants suggérant l'existence de phénomènes collectifs. Le flot des $\Xi$ et plus généralement des particules multiétranges est intéressant pour sonder les premiers instants de la collision aux possibles degrés de liberté partoniques. Il est étudié et commenté dans ce mémoire de thèse.