Cette thèse concerne la production et le contrôle d'hologrammes de haute qualité par un modulateur de phase à cristaux liquides (SLM) et l'utilisation de ces hologrammes pour la manipulation d'atomes froids. Ces hologrammes utilisés pour mettre en forme des faisceaux lasers et créer des potentiels dipolaires doivent être de bonne qualité. Or le SLM a des défauts qui peuvent les dégrader. Pour mesurer ces défauts nous avons développé une méthode reposant sur la mesure par polarimétrie de la biréfringence du SLM. La cartographie de biréfringence permet de mesurer l'hologramme en temps réel sans perturber l'expérience en cours. C'est donc une mesure in-situ. Une fois mesurés les défauts sont corrigés par une rétroaction sur la consigne donnée au SLM. Pour le démontrer nous avons créé un défaut artificiel avec un pointeur laser et nous l'avons réduit à λ/7 soit une amélioration de 42 %. Ensuite avec l'objectif d'appliquer des potentiels produit par un SLM aux atomes froids, j'ai dessiné, conçu puis réalisé en partie une expérience basée sur un jet d'atomes froids de rubidium issu d'un MOT-2D. Dans le chapitre correspondant je présente une étude de la faisabilité d'une expérience de guidage du jet d'atomes froids par un mode de Laguerre Gauss désaccordé vers le bleu de la transition. Nous avons montré que dans un tel guide le chauffage par émission spontanée est plus faible que dans un guide gaussien usuel désaccordé vers le rouge de la transition. De plus en réduisant la divergence naturelle du jet issu du MOT-2D nous devrions augmenter le flux d'atomes et améliorer l'efficacité de chargement d'un MOT-3D par un MOT-2D. / This thesis reports on the production and monitoring of high quality holograms generated by a liquid crystal spatial light modulator (SLM), and the application of these holograms to cold atoms manipulation. In order to produce accurate optical potentials by shaping a laser beam we need high quality holograms. Nevertheless SLMs suffer from defects which limit the quality. To measure defects we have developed a method based on polarimetry to get the birefringence map of the SLM. Birefringence mapping is suitable to monitor the hologram without disturbing the on-going experiment. It's an in-situ measurement. After the measurement, defects are corrected by a feedback on the input hologram. As a proof we created an artificial defect with a laser pointer and reduced it to λ/7 which corresponds to a 42% improvement. Our second goal is to apply SLM-shaped potentials to cold atoms, so I designed and did part of an experiment based on a cold atom beam provided by a rubidium 2D-MOT. In the corresponding chapter I've studied the feasibility of guiding the cold atom beam with a blue-detuned Laguerre-Gaussian beam. We showed that in such a guide the spontaneous emission is lower than in the usual red detuned gaussian guide case. Furthermore by reducing the cold atom beam divergence we expect to enhance the atomic flux and improve the loading efficiency of a 3D-MOT from a 2D-MOT.

Cette thèse se concentre sur des aspects multiorbitales des systèmes fermioniques fortement corrélés. En particulier, sur l'existence d'une différentiation orbitale dans laquelle la coexistence de caractère itinérant et localisé peut être associée à différentes orbitales. Cette problématique est examinée dans le contexte des atomes froids et des matériaux, offrant un pont entre les deux communautés.Dans la première partie de la thèse, nous donnons un aperçu du problème des corrélations fortes dans les matériaux, et nous introduisons le concept de 'transition de Mott sélective en orbitales'. Nous fournissons également les principaux outils pour comprendre comment les matériaux peuvent être simulés avec des atomes froids, et nous présentons des résultats importants liés à la transition métal-isolant de Mott. Les aspects techniques, basées sur la théorie du champ moyen dynamique sont également discutés, et la solution de deux principaux modèles de systèmes fermioniques fortement corrélés, à savoir le modèle d'Hubbard (HM) et le modèle de Falicov-Kimball (FKM), sont passés en revue.Ensuite, nous étudions en détail la physique de deux espèces fermioniques en interaction forte avec des masses différentes dans un réseau optique. Nous établissons les différentes phases (avec et sans ordre à longue portée) en termes de la force des interactions (U), du rapport des masses et de la température (T), et aussi nous discutons les variables thermodynamiques, qui sont pertinentes pour les expériences d'atomes froids. Nous montrons que dans la phase métallique (U inférieure à une valeur critique) et avec un certain degré de différence de masses, un 'crossover' apparaît entre un état métallique du type de liquide de Fermi à basse T, et un état avec différentiation orbital à haute T, où les fermions lourds se localisent tandis que les fermions légers restent itinérant. Par conséquent, nous proposons ce modèle minimal pour étudier la physique des systèmes qui présentent une différentiation orbitale avec des expériences d'atomes froids.Basé sur les propriétés du modèle étudié, nous proposons la 'chromatographie entropique' comme une nouvelle méthode pour refroidir des atomes fermioniques dans les réseaux optiques. Nous discutons son efficacité et ses limites, et fournissons quelques idées afin de les surmonter.Dans la dernière partie de la thèse, nous généralisons le modèle précédent aux matériaux corrélés à plusieurs bandes qui permet d'afficher la différentiation orbitale. Nous montrons que l'état de Mott sélectif en orbital peut être stable sous les distorsions du réseau, modélisées par une hybridation locale entre les orbitales. Cependant, l'état de Mott est caractérisé par un pseudo-gap, où les fluctuations de charge sont brusquement réduites, mais l'état reste compressible. En relation au modèle précédent, nous discutons le 'crossover' entre l'état métallique et l'état sélectif induit par des effets température, nous comparons nos résultats avec les expériences de photoémission, et nous prédisons ce qui se passerait dans les matériaux qui présentent une hybridation locale entre les bandes. / This thesis focuses on multiorbital aspects of strongly correlated fermionic systems. In particular, it focuses on the existence of orbital differentiation in which coexistence of itinerant and localized character can be associated to different orbitals. This subject is discussed in the context of cold atoms and materials, providing a bridge between both communities.In the first part of the thesis, we give an insight into the problem of strong correlations in materials, and we introduce the concept of 'orbital-selective Mott transition'. We also provide the main tools to understand how materials can be simulated with cold atoms experiments, and we present important related results in the context of the metal-Mott insulator transition. The technical aspects, based on dynamical mean-field theory are also discussed, and the solution of two key models of strongly correlated fermionic systems, i.e., the Hubbard model (HM) and the Falicov-Kimball model (FKM), are reviewed.Then we study in detail the physics of two interacting fermionic species with different masses in an optical lattice. We establish the different phases (with and without long-range order) in terms of the interactions strength (U), mass ratio and temperature (T), and also discuss the thermodynamic variables, which are relevant in cold atoms experiments. We show that in the metallic phase (U below a critical value) and for some degree of mass imbalance, a crossover appears between a Fermi-liquid metallic state at low T, and an 'orbital-selective' state at higher T, where the heavy fermions effectively localize while the light species remain itinerant. Hence, we propose this minimal model for addressing orbital-selective physics with cold atoms experiments.Based on the properties of the studied model, we propose the 'entropic chromatography' as a new method for cooling fermionic atoms in optical lattices. We discuss its efficiency and limitations, and provide some ideas in order to overcome them.In the last part of the thesis we generalize the previous model to a model relevant for multiband correlated materials that can display orbital differentiation. We show that the orbital-selective Mott state can be stable under lattice distortions modeled by local hybridization between the orbitals. However, the Mott state is characterized by a pseudogap, where charge fluctuations abruptly reduce, but the state remains compressible. In connection with the previous model, we discuss the temperature-induced orbital-selective crossover in this problem, we compare our results with photoemission experiments, and predict what would happen in materials that display local hybridization between the bands.

Dans ce mémoire, nous présentons l'étude d'un senseur inertiel à ondes de matière embarqué dans un avion effectuant des vols paraboliques.Une source laser bi-fréquence robuste et compacte permettant de refroidir et d'interroger simultanément des atomes de 87Rb et 39K a été développée. Elle est basée sur des lasers télécom asservis sur un peigne de fréquences optique et doublés en fréquence. L'utilisation de composants optiques fibrés permet de rendre le système intrinsèquement résistant aux vibrations et aux fluctuations thermiques. Le dispositif a été validé en vol par l'obtention d'un double piège magnéto-optique.Nous avons utilisé la source laser pour faire fonctionner un interféromètre à atomes froids de 87Rb dans l'avion. Un accéléromètre mécanique auxiliaire permet d'augmenter la dynamique du capteur atomique et d'enregistrer des franges d'interférences malgré le niveau élevé des fluctuations d'accélération. Le senseur hybride ainsi réalisé a une résolution de 4.10-3 m.s-2.Hz-1/2, environ 100 fois plus faible que le niveau des vibrations dans l'avion.Dans la perspective de réaliser un test du principe d'équivalence en microgravité avec des atomes froids, nous étudions enfin de manière théorique le fonctionnement d'un interféromètre différentiel et nous intéressons à l'influence de certains effets systématiques. / In this thesis, we report on the study of a matter-wave inertial sensor, operated in an airplane carrying out parabolic flights.We have developped a compact and robust dual-wavelength laser source to cool and interrogate 87Rb and 39K atoms. It is based on frequency-doubled telecom lasers locked on a femtosecond optical frequency comb. The use of fibered optical components makes the setup intrinsically immune to vibrations and thermal fluctuations. The laser source was validated in flight by obtaining a double-species magneto-optical trap.We have used the source to carry out airborne measurements with an atom interferometer operating with cold 87Rb atoms. An auxiliary mechanical accelerometer makes it possible to increase the atomic sensor's dynamic range, and to record interference fringes despite the high level of acceleration fluctuations. This hybrid sensor has a resolution of 4.10-3 m.s-2.Hz-1/2, which is approximately 100 times lower than the typical vibration level in the plane.In the perspective of testing the equivalence principle with cold atoms in microgravity, we finally theoretically study the operation of a differential interferometer and investigate the influence of some systematic effects.

Cette thèse présente une étude expérimentale des modifications des propriétés de diffusion résonante de la lumière par des nuages mésoscopiques de rubidium 87 froids dont la densité peut être variée. pour des densités de l’ordre de 1014 atomes/cm3, les distances entre certains atomes deviennent bien plus petites que la longueur d’onde du rayonnement à résonance avec la transition d2 (780 nm) du rubidium 87. l’ampleur des interactions dipôle-dipôle entre ces diffuseurs empêche alors de les considérer comme étant indépendants les uns des autres: on parle de diffusion collective. les méthodes employées pour produire les échantillons étudiés s’appuient sur des techniques de refroidissement (ralentisseur zeeman et piège magnéto-optique) et de piégeage (pinces optiques) d’atomes neutres permettant d’obtenir des ensembles d’atomes froids (environ 100 µK) allant d’exactement un à plusieurs centaines d’entre eux. les observations réalisées portent sur la lumière diffusée par ces atomes, collectée grâce à un système optique de grande ouverture numérique. l’étude consiste dans un premier temps en la caractérisation la diffusion résonante de lumière par un unique atome. elle aboutit notamment à la mesure du retard dans la diffusion par un atome d’un paquet d’ondes lumineuses, appelé délai de wigner, dans des conditions proches d’une expérience de pensée. dans un second temps, cette étude porte sur les propriétés de diffusion collective de lumière par des ensembles denses d’atomes. elle rapporte en particuliers une mesure de la suppression de l’excitation des nano-nuages en fonction de leur densité. / This thesis reports an experimental study of the modifications of the near-resonant light scattering properties of mesoscopic cold clouds of rubidium 87 which densities are tunable. for densities of the order of 1014 atoms/cm3, inter-atomic distances can be smaller than the wavelength of the radiation at resonance with the d2 line (780 nm) of rubidium 87. the magnitude of the dipole-dipole interactions between the scatters is such that they can no longer be considered as independent of each other: a phenomenon called collective scattering. the methods used to produce the studied samples are based on cooling (zeeman slower and magneto-optical trap) and trapping (optical tweezers) techniques for neutral atoms. they allow obtaining cold (100 µK) atomic ensembles containing from exactly one to several hundreds of atoms. the observations performed are based on the light scattered by these atoms which is collected thanks to a high numerical aperture optical system. in a first step, this study consists in characterizing the near-resonant light scattering by a single atom. it leads to the measurement of the delay in the scattering by an atom of a wave packet of light, called wigner delay, in conditions close to those of a gedanken experiment. in a second step, this study deals with the collective scattering of light by dense atomic ensembles. it especially reports a measurement of the suppression of the excitation of the nano-clouds versus their densities.

Dans cette thèse, nous décrivons une approche jusqu’à maintenant inexplorée dans le développement des interféromètres atomiques; la rétroaction des états atomiques au cours de leur évolution. Le long de cet objectif, nous présentons des nouvelles techniques expérimentales, comme la condensation de Bose-Einstein tout-optique d’atomes de rubidium-87 à l’aide d’une cavité optique, une nouvelle technique de stabilisation de laser décalage de fréquence serrodyne et le développement de la spectroscopie par modulation de fréquence comme un outil non-destructif pour mesurer des différences de population atomique. Cette détection non destructive est combinée à la rétroaction, soit directement sur les atomes avec un rayonnement micro-onde soit sur l’oscillateur à micro-ondes. De cette manière, nous montrons que les états quantiques atomiques peuvent être protégés contre la décohérence d’un bruit collectif. Grâce à cette méthode, nous développons des protocoles de rétroaction dédiés pour améliorer les interféromètres atomiques, et démontrons expérimentalement l’un d’entre eux dans le cas d’une horloge atomique. Nous montrons que le temps d’interrogation dans les interféromètres atomiques peut être prolongé, ce qui est prometteur pour augmenter la sensibilité des senseurs atomiques. / In this thesis, we describe an until now unexplored approach in the operation of atomic interferometers; the feedback control of the atomic states during their evolution. Towards this goal, we present several novel experimental techniques, such as the all-optical Bose-Einstein condensation of rubidium-87 in a cavity enhanced dipole trap, a new laser stabilization technique based on serrodyne frequency shifting and the development of frequency modulation spectroscopy as a minimal destructive tool for the measurement of atomic population differences. This nondestructive detection is combined with feedback, either directly on the atoms with microwave radiation or on the microwave oscillator. In this way, we show that atomic quantum states can be protected against decoherence from collective noise. We develop dedicated feedback protocols to use this method to improve atomic interferometers, and experimentally demonstrate one such protocol in an atomic clock. We show that the interrogation time in atomic interferometers can be prolonged, which holds promise for increasing the sensitivity of atomic sensors.

Lorsque l’on place des atomes suffisamment proches les uns des autres, l’interaction dipôle-dipôle résonante entre les atomes modifie leurs propriétés. Les atomes se comportent alors de manière collective. Ces effets collectifs se produisent lorsque les distances interparticulaires sont de l’ordre de l/(2Pi), où l est la longueur d’onde de la transition atomique. La densité atomique est alors de l’ordre de 10^14 at/cm^3. Afin de créer des échantillons d’atomes froids présentant des densités aussi élevées, nous avons mis en place plusieurs méthodes de chargement de nos pinces optiques de taille micrométrique. L’une d’elles utilise un processus d’évaporation forcée qui amène les atomes proches de la dégénérescence quantique. En utilisant des nuages denses contenant quelques centaines d’atomes à des densités spatiales élevées, et en étudiant les modifications de la diffusion de la lumière qui en résultent, nous avons pu mettre en évidence des effets collectifs entre les atomes. Nous avons par ailleurs mesuré le retard de Wigner associé à la diffusion élastique de la lumière par un atome unique de rubidium. Nous avons mesuré un retard proche de la valeur théorique, c’est-à-dire deux fois la durée de vie de la transition atomique (52 ns). / When several atoms are placed close to each other, the resonant dipole-dipole interactionbetween atoms modifies the atomic properties and atoms behave collectively. These collective effects occur for interatomic distances on the order of l/(2Pi) where l is the wavelength of the atomic transition. The atomic density is then on the order of 10^14 at/cm^3. To create such cold atomic samples, we load optical tweezers with a microscopic size according to several loading schemes. One of them uses forced evaporative cooling and brings the atoms close to quantum degeneracy. We have used dense clouds containing a few hundred atoms with a high spatial density to demonstrate collective effects between the atoms. In particular, we have studied how these effects modify the scattering of light by the cloud. Besides, we have also measured for the first time the time-delay associated to the elastic scattering of light by a single rubidium atom, the so-called Wigner delay. We have shown that this delay is close to the theoretical prediction of twice the lifetime of the atomic transition (52 ns).

Cette thèse décrit le travail accompli au cours des trois dernières années sur la nouvelle expérience d’Hélium métastable de l'Institut d'Optique à Palaiseau.Le premier chapitre décrit une étude visant à améliorer à la fois l'efficacité et la précision du système de détection par galettes à micro-canaux (MCP). Nous avons fait des mesures avec des galettes recouvertes d'une couche d'or sur la face avant, obtenant un accroissement de l'efficacité de détection mais également une réduction de la précision. L'ajout d'une tension intermédiaires entre les deux galettes empilées a au contraire améliorer à la fois l'efficacité et la précision des MCP, en l’absence d’une couche d’or.Le deuxième chapitre est consacré à la construction de l'appareil expérimental pour le refroidissement et le piégeage d’atomes. L’excitation de l'état fondamental de l’Hélium à l'état métastable est décrite, ainsi que la collimation et le refroidissement ultérieur par Zeeman lent du faisceau atomique chaud résultant. Le faisceau ralenti est alors capturé dans un piège magnéto-optique (PMO), dans lequel nous avons capturé 8x108 atomes.Dans le troisième chapitre une étude originale du refroidissement Doppler tridimensionnel dans un PMO et une mélasse désaccordée vers le rouge de la transition atomique est discutée. L’atome d’Hélium métastable est unique et ses propriétés ont permis une telle étude. En effet, les faibles densités atomiques impliquent qu’il n'y a pas de diffusion multiple de photons d’une part, et la faible masse et la faible largeur de la transition 23S1 -> 23P2 rend inefficace les processus de refroidissement sous la limite Doppler. Ces conditions nous ont permis d’observer pour la première fois à trois dimensions un gaz refroidit dans le régime Doppler.Le quatrième chapitre présente une étude sur les collisions dans un piège magnéto-optique d’Hélium métastable. Les collisions Penning induites par la lumière, en particulier à des intensités élevées et à des fréquences proches de la fréquence de transition, sont responsables de pertes élevées d’atomes piégés. Nous mesurons le coefficient de taux associé à ces pertes, Ksp = 2,8 ± 0,4 x 10-7cm3/ s. / This thesis describes the work done over the past three and a half years on the new metastable helium experiment at the Institut d'Optique in Palaiseau. In the first chapter it describes a study to improve both the efficiency and the accuracy of the Microchannel Plate (MCP) detection system. We have experimented with adding a gold layer on the top of the input plate, something that we have found increases the efficiency but also decreases the accuracy. The addition of a voltage between the two stacked plates has been shown to both raise the efficiency and improve the accuracy in non-coated MCPs.The second chapter is devoted to the construction of the experimental apparatus. Here the excitation of ground state helium to its metastable state is described, as well as the subsequent collimation and cooling by Zeeman slower of the resulting hot atomic beam. The slowed beam is then captured in a Magneto-Optical Trap, in which we have captured 8x108 atoms.In the third chapter an original study on three-dimensional Doppler cooling in a red-detuned molasses and in the Magneto-Optical trap is presented. The metastable helium system is unique as there is no multiple scattering of photons and there are no sub-Doppler effects. This allows for a never before seen experimental realisation of pure Doppler cooling theory. The fourth chapter describes a study on collisions in a magneto-optical trap of metastable helium. Light-induced Penning collisions are responsible for high trap losses at high intensities and at frequencies close to the transition frequency. We measure the constant rate coefficient to Ksp = 2.8 ± 0.4 x 10-7cm3/s.

Cette thèse a pour objet l’étude des effets de cohérence de la propagation d’ondes en milieu désordonné, à l’aide d’atomes ultrafroids. Ces systèmes permettent un contrôle précis de paramètres clés, tels que la dimensionnalité, les interactions, la vitesse initiale des atomes et le potentiel externe. Utilisant cette flexibilité, il a été possible de réaliser des expériences en régime fortement et faiblement localisé. La première expérience traite de l’expansion d’un condensat, dont une fraction maximale de 20% est localisée, permettant ainsi l’observation de la localisation d’Anderson en 3D. Lors de la seconde expérience, les atomes ont été envoyés dans un désordre quasi 2D avec une vitesse initiale bien définie. Il a été possible d’observer la distribution en impulsions des atomes, et ainsi de mesurer le temps de libre parcours moyen et le temps de transport. La rétrodiffusion cohérente s’est clairement manifestée sous la forme d’un pic dans la direction opposée à la direction initiale. L’amplitude et la largeur de ce pic ont été étudiées, et les résultats sont en accord avec la théorie. Microscopiquement, la rétrodiffusion cohérente a pour origine l’interférence constructive entre chemins à diffusions multiples symétriques par renversement du temps (symétrie T). Cette symétrie de la propagation d’ondes a été ensuite manipulée. Un déphasage précis a été introduit grace à un pulse de gradient de champ magnétique, qui détruit la symétrie T ainsi que la rétrodiffusion cohérente, sauf pour un bref instant : une résurgence du pic est alors observée. Ce nouvel effet démontre explicitement le rôle de la cohérence et de la symétrie T dans la localisation faible. / In this manuscript the coherence effects of wave propagation in disordered potentials is studied. Our experiment uses ultracold atoms as a probe, a system allowing for a very good control over parameters such as the dimensionality, interactions, initial velocity of the atoms, and the potential landscape. Exploiting this flexibility we were able to perform experiments in the strongly and the weakly localized regime. In the former the 3D expansion of a BEC was monitored in real space, resulting in the observation of 3D Anderson localization with a maximum localized fraction of about 20%. In the latter the atoms were launched into a quasi-2D disorder with a well defined initial velocity. Monitoring the momentum space distribution the mean scattering time and the transport time can be directly measured, and coherent backscattering (CBS) is clearly visible as a peak in the backwards direction. In a first set of experiments the evolution of the CBS amplitude and width were recorded and found to be in good agreement with theory. Microscopically, CBS stems from the constructive interference of time-reversed multiply scattered paths. In a second set of CBS experiments we manipulated the time-reversal symmetry (TRS) of the wave propagation. A surgical dephasing was introduced via a shortly pulsed gradient field, which brakes TRS and suppresses CBS except for a brief moment, when a revival of CBS is observed. This novel effect showcases explicitly the role of coherence and TRS in Coherent Backscattering and weak localization.

La thèse traite de la dynamique d'un Condensat de Bose Einstein (CBE) dans un réseau optique modulé en phase et en amplitude. Dans un premier temps, je présente le dispositif expérimental permettant d'obtenir le CBE ainsi que le réseau optique, et décris les différents contrôles de la phase et de l'amplitude que nous avons mis en place. La première expérience que nous avons effectuée repose sur le changement brusque de la phase du réseau permettant de déplacer celui-ci de quelques dizaines de nm. Cette expérience nous a permis de mettre au point une méthode de calibration de la profondeur du potentiel périodique se basant sur la mesure de la période de la micro-oscillation de la chaîne de condensats induite par le déplacement soudain du potentiel. Il existe ainsi une bijection entre profondeur et période de l'oscillation faisant de cette dernière une candidate idéale comme méthode de calibration. Cette oscillation présente également de l'effet tunnel entre puits du réseau. Nous avons pu mesurer le temps tunnel i.e. le retard entre un paquet d'atomes ayant traversé une barrière de potentiel par effet tunnel et un paquet d'atomes ayant continué son oscillation. La dernière partie de ce manuscrit présente une étude de la dynamique du condensat dans un réseau dont la phase ou l'amplitude sont modulées sinusoïdalement. Nous avons étudié trois régimes de fréquences de modulation présentant des comportements très différents. Les régimes de fréquences sont définies par rapport à la fréquence résonante entre la bande fondamentale du réseau et la première bande excitée. Pour la modulation à basse fréquence, le taux tunnel intersite est renormalisé et peut atteindre des valeurs effectives négatives. Ce phénomène engendre une instabilité dynamique qui est à l'origine d'une transition de phase quantique. Nous avons effectué une étude théorique, numérique et expérimentale qui nous a permis de déterminer le rôle des fluctuations quantiques et thermiques dans la cinétique de cette transition. Pour le régime de modulation haute fréquence, la profondeur du potentiel du réseau est renormalisée par une fonction de Bessel. Nous nous sommes servis de cet effet pour placer les atomes dans une situation très loin de l'équilibre avec un grand contrôle. Enfin, en nous plaçant dans le régime où la fréquence de modulation est de l'ordre de la fréquence résonante entre la bande fondamentale du réseau et la première bande excitée, nous induisons des transitions interbandes. Nos données révèlent les règles de sélection qui sont différentes pour la modulation de phase et d'amplitude, et le rôle des interactions dans les excitations résonantes. / The subject of this thesis is the study of the dynamics of a Bose Einstein condensate in a phase and amplitude modulated optical lattice. First, I present the experimental setup allowing us to produce the BEC as well as the optical lattice. I describe the different means of control on the phase and on the amplitude of the lattice that we implemented. The first experiment we performed is based on the sudden shift of the phase of the lattice that induces a displacement of a few tenth of nm. This experiment allowed us to develop a new method to calibrate the depth of the lattice using the period of the micro-oscillation of the BEC chain triggered by the phase shift. There is a bijection between the depth of the lattice and the oscillation period giving the period the ideal profile to be a calibration method. The dynamic of the oscillation shows tunnel effect between adjacent wells of the lattice. We have been able to measure directly the tunneling time which is the delay between an atoms packet which passed through a potential barrier by tunnel effect and a packet of atoms which continued its oscillation. The last part of the manuscript presents a study of the dynamics of the BEC inside a lattice which phase or amplitude is modulated with a sine function. We study three ranges of modulation frequencies showing different behaviors. The frequency is compared with the resonant frequency between the fundamental band of the lattice band structure and the first excited band. When we modulate with low frequencies the phase of the lattice, the tunnel rate between adjacent wells is renormalized. This yields a dynamical instability which triggers a quantum phase transition. We performed a theoretical study, a numerical study and an experimental study that allowed us to define the role of quantum and thermal fluctuations in the system on the kinetics of this transition. For the high modulation frequency regime, the potential depth is renormalized with a Bessel function. We used this effect to put the atoms in a far-out of equilibrium position in a well- controlled manner. Lastly, by choosing the modulation frequency to be of the order of the resonant frequency between the fundamental band and the first excited band, we induce interband transitions. Our data reveal the selection rules which are different for phase and amplitude modulation, and the role of two-body interactions in the excitation process.

La réalisation expérimentale de la condensation de Bose-Einstein (BEC) a ouvert un nouveau champ d'investigation très fertile dans l'étude des atomes froids. En particulier, la possibilité de synthétiser des gaz de fermions piégés dans des réseaux optiques représente un développement de la plus haute importance pour la physique de la matière condensée. Ceci ouvre notamment sur la perspective d'étudier des phases quantiques exotiques stabilisées dans des systèmes d'électrons fortement corrélés.Récemment, les gaz atomiques d'alcalino-terreux ou d'ytterbium ont suscité un vif intérêt et ont été refroidis jusqu'à la dégénérescence quantique. La structure atomique particulière de ces systèmes leur confère de très hauts degrés de symétrie, grâce au découplage entre le spin nucléaire et le moment angulaire électronique. Une physique exotique conduisant à de multiple applications peut résulter de ces systèmes de hautes symétries qui ne peut être sondée que par les solides bases de la matière condensée.Dans cette thèse, on se propose d'étudier les propriétés physiques de basse énergie d'un gaz de fermions de type alcalino-terreux, piégé dans un réseau optique à une dimension. À une dimension, il est possible d'analyser les effets des interactions de manière non-perturbative par des approches de théorie des champs comme la bosonisation ou la théorie des champs conformes, et numériquement par le groupe de renormalisation de la matrice densité (DMRG). L'ensemble de ces outils sera notamment utilisé pour déterminer le diagramme de phase des gaz de fermions d'alcalino-terreux ou d'ytterbium à une dimension. / Experimental realization of Bose-Einstein condensate (BEC) opened a new and rich field of investigation for the study of the cold atoms. In particular, the possibility of creating trapped fermionic gases in optical lattices represent one of the most important development for the condensed matter physics. This open the outlook of studying exotic and stabilized quantum phases in strongly correlated systems of electrons.Recently, alkline-earth or ytterbuim atomic gases have given rise to great interest and have been cooled down up to quantum degenaracy. The specific atomic structure of these systems confer them very high degrees of symetry, thanks to the decoupling beetwin the nuclear spin and the electronic angular momentum. An exotic physics which is only probe thanks to the strong fundament of the condensed matter.In this thesis, we propose to study the physical properties at low energy of a alkaline-earth-like fermionic gas, trapped in a one dimensional optical lattice. In one dimension, we are able to analyse effects of interactions in a non-pertubative way with conformal field theory or bosonization, and numerically with Density Matrix Renormalization Group (DMRG) approach. All of these tools will be used to provide the phase diagram of these alkaline-earth-like fermionic gases in one dimension.