Ce travail de thèse se consacre à l'étude théorique et expérimentale de la génération de corrélations quantiques dans le régime des variables continues par mélange à 4 ondes dans une vapeur atomique. Deux approches théoriques complémentaires sont développées. D'une part, nous étudions le mélange à 4 ondes sous le point de vue de l'optique non-linéaire "classique" afin d'obtenir les équations d'évolution d'un amplificateur idéal pour un milieu de susceptibilité diélectrique chi(3). D'autre part, nous présentons un modèle microscopique à 4 niveaux en double-Lambda permettant de calculer le coefficient chi(3) pour une vapeur atomique en présence de laser, et ainsi obtenir théoriquement les spectres de bruit en intensité des grandeurs observées. La mise en oeuvre expérimentale de ce processus sur la raie D1 du rubidium 85 est ensuite détaillée. Nous présentons notamment un taux de compression sous la limite quantique standard de -9.2dB, ainsi qu'un régime original permettant la génération de corrélations quantiques sans amplification. L'ensemble de ces résultats a des applications très importantes dans le domaine de l'optique quantique multimode. Citons par exemple l'imagerie quantique ou les mémoires quantiques multimodes.