Au cours de ma thèse, j'ai travaillé à la construction de l'expérience Fermix, consacrée à l'étude d'un mélange de fermions (6Li-40K) à très basses températures où les effets quantiques sont prédominants. Nous présentons ici deux résultats principaux. Premièrement, nous avons développé une nouvelle méthode de refroidissement sub-Doppler qui tire parti de l'existence d'états noirs dans la raie optique D1. Cette mélasse grise permet d'atteindre une densité de l'espace des phases de 10^-4, la valeur la plus élevée rapportée dans la littérature pour le refroidissement laser simultané des deux espèces. Grâce à cette étape, nous avons pu réaliser un gaz fortement dégénéré de 3x10^5 atomes de 40K, répartis dans deux états de spins, à une température de 62 nK, soit 17% de la température de Fermi. D'autre part, nous introduisons une transformation canonique pour montrer l'équivalence formelle entre le comportement de particules ultra-relativistes sans interactions (particules de Weyl) dans un potentiel harmonique et celui de fermions froids confinés dans un piège quadrupolaire. Nous étudions expérimentalement, numériquement et théoriquement la relaxation de tels systèmes vers un état stationnaire, non-Botlzmanien, caractérisé par des températures effectives fortement anisotropes. Cette analogie permet également d'interpréter des propriétés caractéristiques des particules relativistes. Ainsi, nous montrons que le paradoxe de Klein est analogue aux pertes Majorana. Pour finir, nous proposons une étude théorique des interactions médiées à longue distance par un système en dimensions mixtes. / During my PhD, I contributed to the design and construction of the Fermix experiment, dedicated to the study of a 6Li-40K fermionic mixture at ultra low temperatures. Our main results are twofold. First, we developed a new sub-Doppler laser cooling scheme, taking advantage of the existence of dark states in the D1 line of alkali atoms. This so-called \emph{grey molasses} allows for a phase space density up to $10^{-4}$, the highest value reported for the simultaneous laser cooling of those two species. The improvement due to this cooling step enabled the production of a quantum degenerate 40K gas in a dipole trap, with 3x10^5 atoms in two spin states at 62 nK, corresponding to 17% of the Fermi temperature. Second, introducing a canonical mapping, we showed that non-interacting ultra-relativistic particles (Weyl fermions) in a harmonic trap can be simulated by cold fermions confined in a quadrupole potential. We study experimentally, numerically and theoretically the relaxation of these systems towards a steady state which can not be described by a Boltzman distribution, but rather presents strongly anisotropic effective temperatures. This analogy also allows us to translate fundamental properties of relativistic particles in the language of cold atoms. In particular, we demonstrate that the Klein paradox is equivalent to Majorana losses.Finally, we present a theoretical study of the long range interactions between particles confined in two 2D layers immersed in a 3D atomic cloud.