Ever since the discovery of van der Waals materials, the condensed matter community has developed a wide spectrum of techniques to probe various phases in these fascinating materials. Among these phases, correlated phenomena are of great importance to physicists, and recent progress on moiré heterostructures offers a highly flexible and tunable platform to study them. It has been established in previous works that twisted WSe₂, a type of semiconductor in the van der Waals family, has great potential in hosting a large number of correlated phases and phase transitions. However, it is believed that commensurability plays a critical role in the stability of correlations. In this thesis, we demonstrate correlated physics in twisted WSe₂ beyond commensurate fillings, as well as their magnetic field dependence, via electric transport measurements. At modest magnetic fields, a Stoner-like instability in the system near van Hove singularities causes a reconstruction of the Fermi surface. On the other hand, at extremely high magnetic fields, the system exhibits reentrant insulating behaviors that are possibly due to the presence of strong excitonic interactions. Furthermore, correlated topological states are observed away from half-filling in the imbalanced excitonic metallic regime. This wide range of tunability once again proves moiré heterostructures as a promising platform to simulate quantum correlation effects on a lattice.

The question posed in this work is how one would model and predict the rotational spectrum of open-shell open-shell van der Waals complexes. There are two secondary questions that arise: the nature of radical-radical interactions in such systems and the modelling of the large amplitude motion of the constituent molecules. Four different systems were studied in this work, each providing part of the answer to the main question. Starting with the large amplitude motion, there are two theoretical approaches that may be adopted: to either model the whole complex as a semi-rigid molecule, or to perform quantum dynamical calculations. We recorded and analysed the rotational spectrum (using Fourier transform microwave spectroscopy) of the molecule of tertiary butyl acetate (TBAc) which exhibits a high degree of internal rotation; and of the weakly-bound complex between a neon atom and a nitrogen dioxide molecule (Ne-NO2). We used the semi-rigid approach for TBAc and the quantum dynamical approach for Ne-NO2. We also explored the compatibility of these two approaches. Moreover, we were able to predict and analyse the fine and hyperfine structure of the Ne-NO2 spectrum using spherical tensor operator algebra and the results of our dynamics calculations. To explore the nature of the interactions in an radical-radical van der Waals complex we calculated the PESs of the possible states that the complex may be formed in, when an oxygen and a nitrogen monoxide molecule meet on a plane using a number of high level ab initio methods. Finally, our conclusions were tested and applied when we performed the angular quantum dynamics to predict the rotational spectrum of the complex between an oxygen and a nitrogen dioxide molecule, and account for the effect of nuclear spin statistics in that system.

Dans cette thèse nous avons étudié différents aspects de l'interaction entre un atome et une surface diélectrique. Nous avons notamment recherché expérimentalement des situations où l'interaction de van der Waals à longue portée varie avec la population thermique de photons du vide, telle qu'imposée par un équilibre avec l'environnement. Une variation avec la température est prévue lorsqu'il y a un couplage virtuel résonnant en champ proche entre l'émission thermique de la surface (dans l'IR) et une absorption atomique. Notre recherche a porté sur l'interaction entre Cs(8P) et une surface de CaF2 en utilisant la spectroscopie de réflexion sélective. Jusqu'à présent, les valeurs expérimentales du coefficient C3 de l'interaction de van der Waals sont en contradiction avec les prédictions théoriques. Nous avons pourtant raffiné les prédictions théoriques en introduisant dans les calculs la dépendance en température de la constante diélectrique, à partir de nouvelles mesures de la réflectance sur des surfaces de saphir, CaF2 et BaF2 effectués à différentes températures. Nous avons, en outre, observé, sur une expérience auxiliaire d'absorption saturée, des raies inédites autour de la transition 6S1/2→8P, que nous avons attribuées à des dimères spécifiquement formés par nos faisceaux lasers. Ces raies apparaissent pour des densités de vapeur inhabituellement faibles. A un régime de plus faible distance de l'interaction atome-surface, où le potentiel combine attraction van der Waals et répulsion au voisinage immédiat de la surface, nous avons analysé la possibilité d'observer des oscillations de Bloch, en considérant le cas d'un atome d'Helium adsorbé sur une surface de LiF et soumis à une force externe.

Dans cette thèse, on présente un nouveau type de source atomique: un jet superfin d'atomes métastables produit à partir de l'échange de métastabilité au sein d'un jet supersonique d'atomes de gaz rares. On a utilisé les propriétés de cohérence de ce jet pour observer la diffraction de l'hélium, de l'argon et du néon métastables par un nano-réseau par transmission et par des micro-réseaux par réflexion. Ensuite, on a mis en évidence des transitions entre sous niveaux Zeeman du niveau 3P2 du néon métastable, transitions dues au terme quadrupolaire de l'interaction de van der Waals entre l'atome et la surface. Après avoir montré les résultats expérimentaux, nous avons calculé les probabilités de transitions dans le modèle de Landau–Zener puis discuté de l'intérêt des transitions vdW-Zeeman pour l'interférométrie atomique. Enfin, on a décrit le procédé de ralentissement Zeeman du jet supersonique d'argon métastable (3P2) et montré les premiers spectres de temps de vol d'atomes ralentis obtenus.

This thesis, submitted to the University of Manchester, covers a range of topics related to current research in two-dimensional materials under the title: 'Investigations into the interfacial interaction of graphene with hexagonal boron nitride.'In the last decade, two-dimensional materials have become a rich source of original research and potential applications. The main advantage lies in the ability to produce novel composite structures, so-called 'layered heterostructures', which are only a few atomic layers thick. One can utilise the unique properties of several species of crystal separately, or how they interact to realise a diverse range of uses. Two such crystals are graphene and hexagonal boron nitride. Hexagonal boron nitride has, so far, been used primarily as a substrate for graphene, allowing researchers to get the most out of graphene's impressive individual properties. However, in this thesis, the non-trivial van der Waals interaction between graphene and hexagonal boron nitride is examined. The interface potential reveals itself as a relatively large-scale, orientation-dependant superlattice, which is described in chapters 1 and 2.I In Chapter 4, the effect of this superlattice is examined by measurement of its effect upon the electrons in graphene, where its modulation leads to the creation of second and third generation Dirac points, revealing Hofstadter's Butterfly. As well as an excellent example of the physics possible with graphene, it also presents a new tool with which to create novel devices possessing tailored electronic properties. II In chapter 5, the consequential effect of the superlattice potential on the structure of graphene is studied. Results are discussed within the framework of the Frenkel-Kontorova model for a chain of atoms on a static background potential. Results are consistent with relaxation of the graphene structure leading to the formation of a commensurate ground state. This has exciting consequences for the production of heterostructures by demonstrating that alignment angle can have large effects upon the physical properties of the crystals. III In chapter 6, the van der Waals potential is shown to be responsible for the self-alignment of the two crystals. This effect is important for the fabrication of perfectly aligned devices and may lead to new applications based on nanoscale motion.

This thesis presents several experiments, generally aiming at visualising the ballistic and topological transport on the high-mobility graphene/boron nitride heterostructure using the scanning gate microscope. For the first experiment, we use the scanning gate microscopy to map out the trajectories of ballistic carriers in high-mobility graphene encapsulated by hexagonal boron nitride and in a weak perpendicular magnetic field. We employ a magnetic focusing transport configuration to image carriers that emerge ballistically from an injector, follow a cyclotron path due to the Lorentz force from an applied magnetic field, and land on an adjacent collector probe. The local potential generated by the scanning tip in the vicinity of the carriers deflects their trajectories, modifying the proportion of carriers focused into the collector. By measuring the voltage at the collector while scanning the tip, we are able to obtain images with arcs that are consistent with the expected cyclotron motion. We also demonstrate that the tip can be used to redirect misaligned carriers back to the collector. For the second experiment, we investigate the graphene van der Waals structures formed by aligning monolayer graphene with insulating layers of hexagonal boron nitride which exhibit a moiré superlattice that is expected to break sublattice symmetry. However, despite an energy gap of several tens of millielectronvolts opening in the Dirac spectrum, electrical resistivity remains lower than expected at low temperature and varies between devices. While subgap states are likely to play a role in this behaviour, their precise nature is still unclear in the community. We therefore perform a scanning gate microscopy study of graphene moiré superlattice devices with comparable activation energy but with different charge disorder levels. In the device with higher charge impurity ($\sim$ 10$^-$ cm$^{-2}$) and lower resistivity ($\sim$ 10 k$\Omega$) at the Dirac point we observe scanning gate response along the graphene edges. Combined with simulations, our measurements suggest that enhanced edge doping is responsible for this effect. In addition, a device with low charge impurity ($\sim$ 10$^{9}$ cm$^{-2}$) and higher resistivity ($\sim$ 100 k$\Omega$) shows subgap states in the bulk. Our measurements provide alternative model to the prevailing theory in the literature in which the topological bandstructures of the graphene moiré superlattices entail an edge currents shunting the insulating bulk. In the third experiment, we continue our study in the graphene moir$\acute e$ superlattices with the newly reported non-local Hall signals at the main Dirac point. It has been associated with the non-zero valley Berry curvature due to the gap opening and the nonlocal signal has been interpreted as the signature of the topological valley Hall effects. However, the nature of such signal is still disputed in the community, due to the vanishing density of states near the Dirac point and the possible topological edge transport in the system. Various artificial contribution without a topological origin of the measurement scheme has also been suggested. In connection to the second experiment, we use the scanning gate microscope to image the non-local Hall resistance as well as the local resistance in the current path. By analysing the features in the two sets of images, we find evidence for topological Hall current in the bulk despite a large artificial components which cannot be distinguished in global transport measurement. In the last experiment, we show the development of a radio-frequency scanning impedance microscopy compatible with the existing scanning gate microscopy and the dilution refrigerator. We detailed the design and the implementation of the radio-frequency reflectometry and the specialised tip holder for the integration of the tip and the transmission lines. We demonstrate the capability of imaging local impedance of the sample by detecting the mechanical oscillation of the tip, the device topography, and the Landau levels in the quantum Hall regime at liquid helium temperature and milli-Kelvin temperature.

Dans cette thèse, on a montré l'occurrence de transitions exothermiques et endothermiques entre les niveaux métastables 3P_2 et 3P_0 dans la collision d'atomes de gaz rare avec une surface solide. Le développement d'une source d'atomes métastables utilisant le processus d'échange de métastabilité au sein d'un jet supersonique a permis ensuite d'observer la diffraction par un réseau de nanofentes, puis, dans une expérience de collision sur un réseau micrométrique en Cuivre en présence d'un champ magnétique externe, d'observer des transitions Zeeman au sein du niveau 3P_2. Le calcul, à partir des données spectroscopiques, de l'interaction de van der Waals entre un atome d'argon métastable dans l'état 3P_2 et une surface conductrice plane a révélé outre une partie scalaire, une partie quadrupolaire modifiant l'énergie des sous niveaux au voisinage de la surface. Un modèle d'évolution soudaine prédit alors une probabilité de transition dont l'ordre de grandeur est en accord avec l'expérience.

Les MEMS et NEMS (Micro et Nano ElectroMechanical Systems) connaissent un développement important notamment dans le cadre de la Nanomécanique. Le bon fonctionnement de ces MEMS/NEMS est soumis au contrôle des interactions de surfaces séparées par des distances de l'ordre de 100 nm à 1 Μm. A cette échelle, les forces dominantes peuvent être de nature variée (Van der Waals, Casimir, électrostatique, magnétique,...). Ce travail de thèse est consacré à l'étude expérimentale par AFM des interactions électrostatiques et de Van der Waals/Casimir entre une microsphère et une surface d'or. Une attention particulière a été apportée à la préparation et à la caractérisation des sondes (microsphère collée sur un microlevier). Ensuite, à partir de l'analyse du bruit et de la sensibilité du système de mesure, nous avons pu montrer notre capacité à mesurer des forces faibles avec une résolution inférieure au piconewton. Par une détection statique, nous avons mesuré précisément des forces capacitives de l'ordre de quelques dizaines de piconewton et pour des distances comprises entre 100 et 500 nm. Nous avons mesuré et quantifié les effets de la déflexion du microlevier sur la détermination de la distance sphère-surface. Par des mesures dynamiques, nous avons étudié le couplage entre un oscillateur (sphère-microlevier) excité mécaniquement ou thermiquement et une surface sous l'effet de la force de Casimir. Enfin, les mesures en mode dynamique, nous ont permis d'aborder l'étude des mécanismes de dissipation associés aux interactions à longue distance. Nous avons ainsi observé la dissipation par couplage électromécanique.

L'idée qui consiste à traiter séparément les parties courte- et longue portée de l'interaction électronique dans la théorie de la fonctionnelle de la densité, par une fonctionnelle de la densité d'une part, et par une description par fonction d'onde d'autre part s'est largement développée récemment. Ce schéma conduit naturellement à la construction d'une fonctionnelle hybride d'un nouveau type, avec la combinaison d'une énergie d'échange de longue portée explicite et d'une fonctionnelle d'échange-corrélation de courte portée appropriée. L'ajout, dans une approche perturbative, d'un terme rendant compte des corrélations dynamiques de longue portée, se présente comme une solution alternative au problème fondamental de l'incorporation des forces de dispersion dans la méthode de la fonctionnelle de la densité, applicable aussi bien au niveau moléculaire qu'en conditions périodiques.

Dans un processus de photoassociation, deux atomes froids de césium absorbent un photon au cours de leur collision pour former une molécule froide électroniquement excitée dans un niveau de rotation et de vibration défini. L'énergie cinétique initiale des atomes libres étant très faible, le processus est résonnant et permet d'effectuer une spectroscopie à haute résolution qui donne accès à des niveaux de vibration de grande élongation, proches de la limite de dissociation. Nous présentons dans cette thèse les spectres des états corrélés à la limite 6S+6P et mettons en évidence le caractère purement longue distance de l'état 1u (6S+6P3/2). Cet état consiste en une paire d'atomes uniquement lié à 1,5 nm par l'interaction électrostatique multipolaire. La modulation de l'intensité des raies pour une progression vibrationnelle donnée reflète la structure nodale de la fonction radiale en onde s de deux atomes en collision dans l'état fondamental. La photoassociation par excitation de l'état 0g-(6S +6P3/2) d'atomes polarisés permet de déterminer les valeurs de la longueur de diffusion de l'état triplet du césium (aT = -530 a0) et du coefficient de Van der Waals de l'état fondamental moléculaire (C6 = 6510 u.a.). La photoassociation d'atomes froids de césium permet aussi la formation de molécules froides dans l'état fondamental singulet ou triplet après émission spontanée des molécules photoassociées. Différents schémas de formation sont caractérisés. Notament, les potentiels en double-puits 0g-(6S+6P3/2) et 1u(6S+6P3/2) présentent un point de Condon à distance intermédiare et constituent un cas idéal pour la formation de molécules froides. Le nuage moléculaire froid est analysé : des températures aussi basses que 20 microKelvins ont été mesurées et la distribution des niveaux de rotation et de vibration est étudiée. Les efficacités pour la réaction de photoassociation et pour la formation de molécules froides sont mesurées et comparées aux calculs théoriques.