La force de Casimir, du nom du physicien qui prédit en 1948 l'existence de cette force attractive dans la configuration idéale de deux miroirs parfaits, plans et parallèles, est d'origine purement quantique. Elle résulte de l'existence des fluctuations quantiques de point zéro du champ électromagnétique et joue un rôle prépondérant dans le fonctionnement des nanosystèmes mécaniques en cours de développement et qui pourraient dans les années futures révolutionner l'industrie de la microélectronique. Pourtant, les effets correctifs liés à la conductivité des surfaces ou à l'empilement diélectrique des couches commencent seulement à être étudiés. L'objet du travail expérimental développé durant cette thèse a été la réalisation d'un appareil de mesure de forces faibles entre deux surfaces de tailles micrométriques en vue de l'étude de la force de Casimir. Nous avons adapté la technique mise au point au cours de la thèse de G. Jourdan à un environnement cryogénique afin d'atteindre les sensibilités en force requises pour l'étude de surfaces complexes. Ce manuscrit décrit ce nouvel appareil et ses performances. Nous avons ainsi étudié l'amortissement visqueux de notre sonde de force (un microlevier AFM avec une sphère collée à son extrêmité) engendré par le confinement du fluide environnant. A 4 K, nous avons mis en évidence des effets opto-mécaniques induits par le bruit laser. Enfin, nos premiers tests entre deux surfaces d'or de faible rugosité nous ont amenés à lutter contre une force parasite. Nous avons déterminé l'origine de cette force et réussi à la contrer. La force de Casimir entre une sphère en or et un échantillon de silicium a alors pu être mesurée.

L'étude des fluctuations dans les milieux confinés constitue un domaine de recherche très récent, que ce soit du point de vue théorique ou expérimental. Afin d'analyser le rôle du confinement sur les propriétés des fluctuations de densité dans un mélange binaire, nous avons développé un système de mesure d'une grande sensibilité, où l'intensité des fluctuations et leur longueur de corrélation peuvent être amplifiées. L'idée consiste à travailler proche du point critique d'une transition de phase de démixion d'un mélange binaire. En effet, la longueur de corrélation augmente exponentiellement lorsqu'on s'approche de la température Tc du point critique de démixion.Nous avons développé un montage permettant de confiner le mélange entre un échantillon plan et une sphère colloïdale attachée à l'extrémité d'un levier de Microscope à Force Atomique (AFM). D'après les prédictions de Fisher et De Gennes, un effet intéressant émerge lorsque la longueur de corrélation est comparable avec la taille du confinement: les deux surfaces vont soit s'attirer, soit se repousser suivant les préférences d'adsorption des composants du mélange pour chacune des surfaces. On nomme cet effet l'effet Casimir critique, en référence à la force de Casimir électrodynamique qui résulte du confinement des fluctuations quantiques du champ électromagnétique.Durant cette thèse, nous avons mesuré la force de Casimir électrodynamique avec le système de mesure que nous avons développé, d'abord dans une atmosphère d'azote puis dans l'éthanol. Ces mesures prouvent que notre appareil de mesure est assez sensible pour mesurer des forces très faibles de l'ordre de la dizaine de pN. Les forces mesurées sont comparées à la théorie de Lifshitz, où les effets de conductivité finie des surfaces sont considérées. / The study of density fluctuations inside confined liquid systems has received the attention of recent theoretical and experimental papers. In order to analyze the role of confinement on the statistical properties of fluctuations, we developed a highly sensitive system where the intensity of fluctuations, as well as their spatial correlation length can be simply tuned. The idea will be to enhance the role of fluctuations working close to the critical temperature Tc of a second order phase transition in a binary mixture. Indeed, the correlation length dramatically increases when one approaches the critical demixion point.The confinement is obtained by using a sphere-plane geometry with a colloidal particle attached to the cantilever of an Atomic Force Microscope (AFM). When the correlation length is comparable with the distance of confinement, Fisher and De Gennes predicted the existence of an interesting effect: the two surfaces will be submitted to either an attracting or a repelling force, depending on boundary conditions. This effect is called the critical Casimir force in reference to the quantum Casimir force resulting from the confinement of quantum fluctuations of the electromagnetic field.During this thesis, we measured the quantum Casimir force between the sphere and the plate, first in a nitrogen atmosphere and then in ethanol, showing that the developed instrument is sufficiently sensible to measure very weak force, of the same order of magnitude or even weaker than the critical Casimir force. Measurements are compared to Lifshitz theory, taking into account the finite conductivity of surfaces.

Les deux principales prédictions de la théorie quantique des champs en espace-temps courbe, à savoir la radiation de Hawking et la production de paires de particules ayant lieu dans un espace-temps non stationnaire, n'ont jamais été testé expérimentalement et impliquent toutes deux des processus à ultra haute énergie. En conséquence, de telles prédictions doivent être considérées prudemment. En utilisant l'analogie avec des systèmes de matière condensée mise en avant par Unruh, leur analogue pourrait être testé en laboratoire. Par ailleurs, dispersion et dissipation sont toujours présentes dans de tels systèmes, ce qui régularise la théorie à courte distances. Lors d'expériences destinées à tester les prédictions citées ci-dessus, le bruit thermique modifiera le résultat. En effet, il existe une compétition entre l'émission stimulée dudit bruit thermique et l'émission spontanée issue du vide quantique. Afin de mesurer la radiation de Hawking analogue et de l'analogue des productions de paires (souvent appelé effet Casimir dynamique), il est alors nécessaire de calculer les conséquence de la dispersion et de la dissipation, ainsi que d'identifier des observables permettant de certifier que l'amission spontanée a eu lieu. Dans cette thèse, nous analyserons d'abord les effets de la dispersion et de la dissipation à la fois sur la radiation de Hawking et sur la production de paires de particules. Afin d'obtenir des résultats explicites, nous travaillerons avec l'espace-temps de de Sitter. Les symétries de la théorie nous permettront d'obtenir des résultats exacts. Ceux-ci seront alors appliqués aux trous noirs grâce aux ressemblances entre la région proche du trou noir et l'espace de de Sitter. Afin d’introduire de la dissipation, nous considérerons un modèle exactement soluble permettant de modéliser n'importe quel taux de dissipation. Dans un tel modèle, le champ est couplé de manière linéaire à un environnement contenant un ensemble dense de degrés de liberté. Dans un tel contexte, nous étudierons l'intrication des particules produites. Ensuite, nous considérerons des systèmes de matière condensée spécifiques, à savoir les condensats de Bose et les polaritons. Nous analyserons les effets de la dissipation sur l'intrication de l’effet Casimir dynamique. Enfin, nous étudieront de manière générique l'intrication de la radiation de Hawking en présence de dispersion pour des systèmes analogues. / The two main predictions of quantum field theory in curved space-time, namely Hawking radiation and cosmological pair production, have not been directly tested and involve ultra high energy configurations. As a consequence, they should be considered with caution. Using the analogy with condensed matter systems put forward by Unruh, their analogue versions could be tested in the lab. Moreover, the high energy behavior of these systems is known and involved dispersion and dissipation, which regulate the theory at short distances. When considering experiments which aim to test the above predictions, the thermal noise will contaminate the outcome. Indeed, there will be a competition between the stimulated emission from thermal noise and the spontaneous emission out of vacuum. In order to measure the quantum analogue Hawking radiation, or the analogue pair production also called dynamical Casimir effect, one should thus compute the consequences of ultraviolet dispersion and dissipation, and identify observables able to establish that the spontaneous emission took place. In this thesis, we first analyze the effects of dispersion and dissipation on both Hawking radiation and pair particle production. To get explicit results, we work in the context of de Sitter space. Using the extended symmetries of the theory in such a background, exact results are obtained. These are then transposed to the context of black holes using the correspondence between de Sitter space and the black hole near horizon region. To introduce dissipation, we consider an exactly solvable model producing any decay rate. In such a model, the field is linearly coupled to an environment containing a dense set of degrees of freedom. We also study the quantum entanglement of the particles so produced. In a second part, we consider explicit condensed matter systems, namely Bose Einstein condensates and exciton-polariton systems. We analyze the effects of dissipation on entanglement produced by the dynamical Casimir effect. As a final step, we study the entanglement of Hawking radiation in the presence of dispersion for a generic analogue system.

Depuis plusieurs décennies un intérêt est né pour combiner deux systèmes quantiques pour former unsystème hybride quantique (SHQ) aux qualités qu’il serait impossible d’atteindre avec un seul des deuxsous-constituants. Parmi les systèmes quantiques, les atomes froids se distinguent par leur fort découplagede l’environnement, permettant un contrôle précis de leurs propriétés intrinsèques. En outre, les simulateursquantiques réalisés en piégeant des atomes froids dans des réseaux optiques présentent des propriétéscontrôlables (échelle d’énergie, géométrie,...) qui permettent d’étudier de nouveaux régimes intéressants enphysique de la matière condensée. Dans cette quête de phases quantiques exotiques (e.g., antiferromagnétisme),la réduction de l’entropie thermique est un défi crucial. Le prix à payer pour atteindre de si faiblestempérature et entropie est un long temps de thermalisation qui limite la réalisation expérimentale. La réductionde la période du réseau est une solution prometteuse pour augmenter la dynamique du système.Les SHQs avec des atomes froids offrent de riches perspectives mais requiert d’interfacer des systèmes quantiquesdans des états différents (solide/gaz) à des distances très proches, ce qui reste un défi expérimental.Le projet AUFRONS, dans lequel s’inscrit cette thèse, vise à refroidir un gaz d’atomes froids jusqu’aurégime de dégénérescence quantique puis de transporter et piéger ce nuage en champ proche d’une nanostructure.L’idée est d’obtenir un gaz d’atomes froids piégé dans un réseau bidimensionnel aux dimensionssublongueur d’onde, à quelques dizaines de nm de la structure. Un des objectifs est d’étudier les interactionsau sein du réseau mais également le couplage des atomes avec les modes de surface.Le travail réalisé durant cette thèse se décompose en une partie expérimentale et une partie théorique.Dans la première nous présentons le refroidissement d’atomes de 87Rb jusqu’au régime de dégénérescencequantique. La seconde partie est consacrée aux simulations théoriques d’une nouvelle méthode que nousavons implémentée pour piéger et manipuler des atomes froids à moins de 100 nm d’une nanostructure.Cette méthode, qui tire profit de la résonance plasmonique et des forces du vide (effet Casimir-Polder),permet de créer des potentiels sublongueur d’onde aux paramètres contrôlables. Nous détaillons ainsi lescalculs des forces optiques et des forces du vide que nous appliquons au cas d’un atome de 87Rb en champproche d’une nanostructure 1D. / An interest for hybrid quantum systems (HSQs) has been growing up for the last decades. This object combines two quantum systems in order to take advantage of both systems’ qualities, not available withonly one. Among these quantum systems, ultracold atoms distinguish themselves by their strong decoupling from environment which enables an excellent control of their intrinsic properties. Optical lattice quantum simulators with tunable properties (energy scale, geometry,...) allows one to investigate new regimes incondensed matter physics. In this quest for exotic quantum phases (e.g., antiferromagnetism), the reduction of thermal entropy is a crucial challenge. The price to pay for such low temperature and entropy is a longthermalization time that will ultimately limit the experimental realization. Miniaturization of lattice spacingis a promising solution to speed up the dynamics. Engineering cold atom hybrids offers promising perspectives but requires us to interface quantum systems in different states of matter at very short distances, which still remains an experimental challenge.This thesis is part of the AUFRONS project, which aims at cooling down an atomic gas until the quantum degeneracy regime then transport and trap this cloud in the near field of a nanostructure. The idea is to trapcold atoms in a two-dimensional subwavelength lattice, at a few tenth of nm away from the surface. One goal is to study atom-atom interactions within the lattice but also atom-surface modes coupling.The work realized during this thesis splits into an experimental part and a theoretical part. In the firstone, we present the cooling of 87Rb atoms until the quantum degeneracy regime. The second part is dedicated to theoretical simulations of a new trapping method we have implemented to trap and manipulate cold atoms below 100 nm from structures. This method takes advantage of plasmonic resonance and vacuum forces (Casimir-Polder effect). It allows one to create subwavelength potentials with controllable parameters.We detail the calculations of optical and vacuum forces to apply them to an atom of 87Rb in the vicinity of a 1D nanostructure.