Bielefeld, Univ., Diss., 2004

Techn. Hochsch., Diss., 2003--Aachen.

Techn. Universiẗat, Diss., 2003--Cottbus.

Universiẗat, Diss., 1999--Regensburg. / Erscheinungsjahr an der Haupttitelstelle: 1998.

Techn. Hochsch., Diss., 2004--Aachen.

Im Rahmen dieser Arbeit wurden die elektronischen Eigenschaften von Graphen auf Metalloberflächen mittels Rastertunnelmikroskopie und Quasiteilcheninterferenz (englisch quasiparticle interference, QPI)-Messungen untersucht. Durch das Verwenden schwerer Substrate sollte die Spin-Bahn-Wechselwirkung des Graphen verstärkt werden und damit eine Bandlücke am K-Punkt der Bandstruktur mittels QPI beobachtet werden. Um das Messen von QPI auf Graphen zu testen, wurde auf der Oberfläche eines SiC(0001)-Kristalls durch Erhitzen Graphen erzeugt und mit dem Rastertunnelmikroskop untersucht. Dieses System wurde schon ausführlich in der Literatur beschrieben und bereits bekannte QPI-Messungen von Streuringen, die auf den Dirac-Kegeln des Graphen am K-Punkt basieren, konnte ich auf gr/SiC(0001) in guter Qualität erfolgreich reproduzieren. Anschließend wurde Graphen nach einem wohlbekannten Verfahren durch Aufbringen von Ethylen auf ein erhitztes Ir(111)-Substrat erzeugt. Dieses gr/Ir(111)-System diente auch als Grundlage für Interkalationsversuche von Bismut (gr/Bi/Ir(111)) und Gadolinium (gr/Gd/Ir(111)) zwischen das Graphen und das Substrat. Auf gr/Bi/Ir(111) wurde ein schon aus der Literatur bekanntes Netzwerk aus Versetzungslinien beobachtet, dem zusätzlich eine Temperaturabhängigkeit nachgewiesen werden konnte. Beim Versuch, Gadolinium zu interkalieren, wurden zwei verschieden Oberflächenstrukturen beobachtet, die auf eine unterschiedlich Anordnung bzw. Menge des interkalierten Gadoliniums zurückzuführen sein könnten. Auf keinem dieser drei Systeme konnten allerdings Streuringe mittels QPI beobachtet werden. Als Vorbereitung der Interkalation von Gadolinium wurden dessen Wachstum und magnetische Eigenschaften auf einem W(110)-Kristall untersucht. Dabei konnte eine aus der Literatur bekannte temperaturabhängige Austauschaufspaltung reproduziert werden. Darüber hinaus konnten sechs verschieden magnetische Domänen beobachtet werden. Zusätzlich sind auf der Oberfläche magnetische Streifen auszumachen, die möglicherweise auf einer Spinspirale basieren. Als Grundlage für die mögliche zukünftige Erzeugung Graphen-artiger Molekülgitter wurde das Wachstum von H-TBTQ und Me-TBTQ auf Ag(111) untersucht. Die Moleküle richten sich dabei nach der Oberflächenstruktur des Silber aus und bilden längliche Inseln, deren Kanten in drei Vorzugsrichtungen verlaufen. Auf H-TBTQ wurde zudem eine zweite, Windmühlen-artige Ausrichtung der Moleküle auf der Oberfläche beobachtet. Auf den mit den Molekülen bedeckten Stellen der Oberfläche wurde eine Verschiebung des Ag-Oberflächenzustands beobachtet, die mit einem Ladungstransfer vom Ag(111)-Substrat auf die TBTQ-Moleküle zu erklären sein könnte. / In this thesis, the electronic properties of graphene on metal surfaces were investigated by scanning tunneling microscopy and quasiparticle interference (QPI) measurements. In order to enhance the spin orbital interaction of the graphene and possibly observe a band gap at the K-point of the band structure via QPI, substrates with heavy atoms were used. To test the ability to measure QPI on graphene, graphene was produced on the surface of a SiC(0001) crystal by heating and examined with a scanning tunneling microscope. This system has already been described in detail in the literature and I was able to successfully reproduce QPI measurements of clearly recognizable scattering rings, which are due to the Dirac cones of the graphene at the K-point Afterwards, graphene was produced by a well-known process by applying ethylene to a heated Ir(111) substrate. This gr/Ir(111) system also served as a basis for intercalation experiments of bismuth (gr/Bi/Ir(111)) and gadolinium (gr/Gd/Ir(111)) between the graphene and the substrate. On gr/Bi/Ir(111), a network of dislocation lines known from literature was observed, which also showed a temperature dependence. In the attempt to intercalate gadolinium, two different surface structures were observed which could be due to a different arrangement or quantity of the intercalated gadolinium. However, on none of these three systems scattering rings were observed by QPI. In preparation for the intercalation of gadolinium, its growth and magnetic properties were investigated on a W(110) substrate. A temperature-dependent exchange splitting of the surface density of states known from the literature could be reproduced. In addition, six different magnetic domains and magnetic stripes were observed on the surface, which may be based on a spin spiral. The growth of H-TBTQ and Me-TBTQ on Ag(111) was investigated as a basis for a possible subsequent generation of graphene-like molecular lattices in the future. The molecules are aligned to the surface structure of the silver and form elongated islands with edges in three preferred directions. H-TBTQ also appeared in a second, windmilllike orientation of the molecules on the surface. A shift of the Ag surface state was observed on the surface areas covered by the molecules, which might be explained by a charge transfer from the Ag(111) substrate to the TBTQ molecules.

In der vorliegenden Arbeit werden die strukturellen und magnetischen Eigenschaften verschiedener 3d-Übergangsmetalloxidketten (TMO-Ketten) auf Ir(001) und Pt(001) untersucht. Diese weisen eine (3 × 1) Struktur mit periodisch angeordneten Ketten auf, die nur über die Sauerstoffbindung an das Substrat gekoppelt sind. Während die Struktur durch experimentelle und theoretische Untersuchungen bestätigt ist, liegen für die magnetischen Eigenschaften ausschließlich Rechnungen vor. Zur Überprüfung dieser theoretischen Vorhersagen wird die Methode der spinpolarisierten Rastertunnelmikroskopie (SP-STM) verwendet, die die Abbildung der magnetischen Ordnung mit atomarer Auflösung erlaubt. Die Untersuchungen beginnen mit der Vorstellung der Ir(001) Oberfläche, die eine (5 × 1) Rekonstruktion aufweist. Eine Aufhebung dieser Rekonstruktion erreicht man durch das Heizen des Ir-Substrats in Sauerstoffatmosphäre unter Bildung einer (2 × 1) Sauerstoffrekonstruktion. Die Qualität der Oberfläche hängt dabei von der Wachstumstemperatur T und dem verwendeten Sauerstoffdruck pOx ab. Die bei T = 550°C und pOx = 1 × 10^−8 mbar hergestellte Sauerstoffrektonstruktion dient als Ausgangspunkt für die folgenden Präparationen von CoO2, FeO2 und MnO2-Ketten. Dazu wird jeweils eine drittel Monolage (ML) des Übergangsmetalls auf die Oberfläche des Substrates gedampft und die Probe unter Sauerstoffatmosphäre ein weiteres Mal geheizt. Auf diese Weise kann die (3 × 1) Struktur der bekannten Ketten bestätigt und die Gruppe der TMO-Ketten um die CrO2-Ketten erweitert werden. In der einschlägigen Fachliteratur wurden Vorhersagen bezüglich der magnetischen Struktur der TMO-Ketten publiziert, wonach entlang und zwischen CoO2-Ketten eine ferromagnetische (FM) und für FeO2 und MnO2-Ketten eine antiferromagnetische (AFM-) Kopplung vorliegt.Während die Überprüfung dieser Vorhersagen mit SP-STM für CoO2 und CrO2-Ketten keine Hinweise auf magnetische Strukturen liefert, liegen bei FeO2 und MnO2-Ketten unterschiedliche magnetische Phasen vor. In der Tat kann mit den experimentell gefundenen Einheitszellen die AFM-Kopplung entlang beider Ketten bestätigt werden. Im Gegensatz widersprechen die Kopplungen zwischen den Ketten den Berechnungen. Bei FeO2-Ketten liegt eine stabile FM Ordnung vor, die zu einer magnetischen (3 × 2) Einheitszelle mit einer leichten Magnetisierung in Richtung der Oberflächennormalen führt (out-of-plane). Die MnO2-Ketten weichen ebenfalls von der berechneten magnetischen kollinearen Ordnung zwischen benachbarten Ketten ab und zeigen eine chirale Struktur. Durch die Rotation der Mn-Spins um 120° in der Probenebenen (in-plane) entsteht eine magnetische (9 × 2) Einheitszelle, deren Periode durch neue DFT-Rechnungen bestätigt wird. Nach diesen Berechnungen handelt es sich um eine Spinspirale, die durch die Dzyaloshinskii-Moriya (DM-) Wechselwirkung bei einem Energiegewinn von 0,3 meV pro Mn-Atom gegenüber den kollinearen FM Zustand stabilisiert wird. Diese wird ähnlich wie bei bereits publizierten Clustern und Adatomen auf Pt(111) durch die Rudermann-Kittel-Kasuya-Yosida (RKKY-) Wechselwirkung vermittelt und erklärt den experimentell gefundenen einheitlichen Drehsinn der Spiralen. Die RKKY-Wechselwirkung zeigt eine starke Abhängigkeit von der Fermi-Oberfläche des Substrats. Im folgenden Kapitel werden deshalb mit TMO-Ketten auf Pt(001) die strukturellen und magnetischen Eigenschaften auf einem weiteren Substrat analysiert, wobei zum Zeitpunkt der Arbeit nur die Existenz der CoO2-Ketten aus der Literatur bekannt war. Vergleichbar mit Ir(001) besitzt auch Pt(001) eine rekonstruierte Oberfläche, die sich aber stabil gegenüber Oxidation zeigt. Dadurch muss die drittel ML des Übergangsmetalls direkt auf die Rekonstruktion aufgedampft werden. Das Wachstum des Übergangsmetalls ist dabei von der Temperatur des Substrats abhängig und beeinflusst das Ergebnis der nachfolgenden Oxidation. Diese erfolgt analog zum Wachstum der Ketten auf Ir(001) durch das Heizen der Probe in Sauerstoffatmosphäre und resultiert nur für das Aufdampfen des Übergangsmetalls auf kalte Pt(001) Oberflächen in Ketten mit der Periode von 3aPt. Auf diese Weise kann nicht nur die (3 × 1) Struktur der CoO2-Ketten bestätigt werden, sondern auch durch atomare Auflösung die Gruppe der TMO-Ketten um MnO2-Ketten auf Pt(001) erweitert werden. Im Gegensatz dazu sind die nicht magnetischen Messungen im Fall von Fe nicht eindeutig. Zwar liegen auch hier Ketten im Abstand des dreifachen Pt Gittervektors vor, trotzdem ist die (3 × 1) Struktur nicht nachweisbar. Dies liegt an einer Korrugation mit einer Periode von 2aPt entlang der Ketten, was ein Hinweis auf eine Peierls Instabilität sein kann. Entsprechend dem Vorgehen für Ir(001) werden für die TMO-Ketten auf Pt(001) SP-STM Messungen durchgeführt und die Vorhersage einer AFM-Kopplung für CoO2-Ketten überprüft. Auch hier können, wie im Fall von CoO2-Ketten und im Widerspruch zur Vorhersage, für beide Polarisationsrichtungen der Spitze keine magnetischen Strukturen gefunden werden. Darüber hinaus verhalten sich die MnO2-Ketten auf Pt(001) mit ihrer chiralen magnetischen Struktur ähnlich zu denen auf Ir(001). Dies bestätigt die Annahme einer indirekten DM-Wechselwirkung, wobei durch die 72° Rotation der Mn-Spins eine längere Periode der zykloidalen Spinspirale festgestellt wird. Die Erklärung dafür liegt in der Abhängigkeit der RKKY-Wechselwirkung vom Fermi-Wellenvektor des Substrats, während sich die DM-Wechselwirkung beim Übergang von Ir zu Pt nur wenig ändert. / In this work the structural and magnetic properties of various 3d transition-metal oxide (TMO) chains on Ir(001) and Pt(001) are investigated. These exhibit a (3 × 1) structure with periodically arranged chains that are only coupled to the substrate by oxygen bonds. While the structure is confirmed by experiments and theory, the magnetic coupling is merely available by theory. To verify these theoretical predictions, the method of spin-polarized scanning tunneling microscopy (SP-STM) is used, which enables the detection of magnetic nanostructures by the high lateral resolution. First the Ir(001) surface is introduced, which exhibits a (5×1) reconstruction. Removal of this reconstruction is achieved by heating the Ir substrate in oxygen atmosphere to form a (2 × 1) oxygen reconstruction. The observed surface quality depends on both, the temperature T and the oxygen pressure pOx during growth. The best result is achieved with T = 550°C and pOx = 1 × 10^−8 mbar and thus serves as the starting point for the following preparations of CoO2, FeO2 and MnO2 chains. In each case one third of the monolayer (ML) of the transition-metal is evaporated onto the substrate and the sample is heated once more under an oxygen atmosphere. After this procedure not only the (3 × 1) structure of the known chain system is confirmed, but also the group of TMO chains could be extended by the CrO2 chains. In the literature, predictions have been published regarding the magnetic structure of the TMO chains. According to these, the coupling is ferromagnetic (FM) along and between CoO2 chains and antiferromagnetic (AFM) for FeO2 and MnO2 chains. While SP—STM results do not suggest a magnetic structure for CoO2 and CrO2, the measurements reveal magnetic structures for FeO2 and MnO2 chains. Comparing the calculations with the experimentally observed magnetic order, the AFM coupling along both TMO—chains can be confirmed. Contradictory to the theoretical predictions, the interchain coupling differs. For FeO2 chains we find stable FM coupling which lead to a magnetic (3 × 2) unit cell with an easy magnetization direction parallel to the surface normal (out-of-plane). The MnO2 also deviate from the calculated collinear order between adjacent chains and show a chiral system. The in-plane rotation of the Mn spins by 120° form a magnetic (9 × 2) unit cell whose period is confirmed by new DFT calculations. According to these calculations, the spin spiral is stabilized by the Dzyaloshinskii—Moriya interaction (DMI) with an energy gain of 0,3 meV per Mn atom with respect to the collinear FM state. Similar to already published systems consisting of magnetic clusters and adatoms on a Pt(111) surface, the DMI is mediated by the Rudermann—Kittel—Kasuya—Yoshida (RKKY) interaction and explains the experimentally found uniform direction of rotation of the spirals. The RKKY interaction depends on the Fermi surface of the substrate. Based on this fact, the growth of TMO chains is investigated in the following chapter, where only the existence of CoO2 chains is known from literature at the time of this work. Similar to Ir(001), Pt(001) also has a reconstructed surface that is now stable to oxidation. As a consequence, the transition-metal is evaporated directly on the reconstructed surface. Both the growth of the transition metal on the Pt(001) and the topography after the following growth procedure of TMO chains depend on the substrate temperature during evaporation. This procedure follows the TMO growth on Ir(001) by heating the sample in oxygen atmosphere and only results in a stripe pattern with a period of 3aPt for the evaporation on cold Pt(001). In this way not only the (3 × 1) structure of the CoO2 can be confirmed, but also the group of TMO chains is extended by MnO2 chains through atomic resolution scans. In contrast, the non-magnetic measurements in the case of Fe are not obvious. Although there are chains with the expected period of 3aPt, the (3 × 1) structure is not fully resolved along the chains due to a corrugation with a period of 2aPt along the chains, which could be an indication of a Peierls instability. Following the procedure for Ir(001) SP-STM investigations are performed to verify the prediction of an AFM coupling for CoO2 chains. Indeed, no magnetic structures of CoO2 chains are observed for both directions of tip polarization identical to the same chains on Ir(001). In addition, the MnO2 chains with their chiral magnetic structure on Pt(001) behave similarly to those on Ir(001). This confirms the assumption of an indirect DM interacation, where the 72° rotation of the Mn spins indicates a longer period of the cycloidal spin spiral. The explanation for this can be found in the dependence of the RKKY interaction on the Fermi wave vector of the substrate, while the DM interaction changes only slightly due to the transition from Ir to Pt.

Neue physikalische Erkenntnisse vervollständigen die Sicht auf die Welt und erschließen gleichzeitig Wege für Folgeexperimente und technische Anwendungen. Das letzte Jahrzehnt der Festkörperforschung war vom zunehmenden Fokus der theoretischen und experimentellen Erkundung topologischer Materialien geprägt. Eine fundamentale Eigenschaft ist ihre Resistenz gegenüber solchen Störungen, welche spezielle physikalische Symmetrien nicht verletzen. Insbesondere die Topologischen Isolatoren - Halbleiter mit isolierenden Volumen- sowie gleichzeitig leitenden und spinpolarisierten Oberflächenzuständen - sind vielversprechende Kandidaten zur Realisierung breitgefächerter spintronischer Einsatzgebiete. Bis zur Verwirklichung von Quantencomputern und anderer, heute noch exotisch anmutender Konzepte bedarf es allerdings ein umfassenderes Verständnis der grundlegenden, physikalischen Zusammenhänge. Diese kommen vor allem an Grenzflächen zum Tragen, weshalb oberflächensensitive Methoden bei der Entdeckung der Topologischen Isolatoren eine wichtige Rolle spielten. Im Rahmen dieser Arbeit werden daher strukturelle, elektronische und magnetische Eigenschaften Topologischer Isolatoren mittels Tieftemperatur-Rastertunnelmikroskopie und -spektroskopie sowie begleitenden Methoden untersucht. Die Veränderung der Element-Ausgangskonzentration während dem Wachstum des prototypischen Topologischen Isolators Bi2Te3 führt zur Realisierung eines topologischen p-n Übergangs innerhalb des Kristalls. Bei einem spezifischen Verhältnis von Bi zu Te in der Schmelze kommt es aufgrund unterschiedlicher Erstarrungstemperaturen der Komponenten zu einer Ansammlung von Bi- und Te-reichen Gegenden an den gegenüberliegenden Enden des Kristalls. In diesen bildet sich infolge des jeweiligen Elementüberschusses durch Kristallersetzungen und -fehlstellen eine Dotierung des Materials aus. Daraus resultiert die Existenz eines Übergangsbereiches, welcher durch Transportmessungen verifiziert werden kann. Mit der räumlich auflösenden Rastertunnelmikroskopie wird diese Gegend lokalisiert und strukturell sowie elektronisch untersucht. Innerhalb des Übergangsbereiches treten charakteristische Kristalldefekte beider Arten auf - eine Defektunterdrückung bleibt folglich aus. Dennoch ist dort der Beitrag der Defekte zum Stromtransport aufgrund ihres gegensätzlichen Dotiercharakters vernachlässigbar, sodass der topologische Oberflächenzustand die maßgeblichen physikalischen Eigenschaften bestimmt. Darüber hinaus tritt der Übergangsbereich in energetischen und räumlichen Größenordnungen auf, die Anwendungen bei Raumtemperatur denkbar machen. Neben der Veränderung Topologischer Isolatoren durch den gezielten Einsatz intrinsischer Kristalldefekte bieten magnetische Störungen die Möglichkeit zur Prüfung des topologischen Oberflächenzustandes auf dessen Widerstandsfähigkeit sowie der gegenseitigen Wechselwirkungen. Die Zeitumkehrinvarianz ist ursächlich für den topologischen Schutz des Oberflächenzustandes, weshalb magnetische Oberflächen- und Volumendotierung diese Symmetrie brechen und zu neuartigem Verhalten führen kann. Die Oberflächendotierung Topologischer Isolatoren kann zu einer starken Bandverbiegung und einer energetischen Verschiebung des Fermi-Niveaus führen. Bei einer wohldosierten Menge der Adatome auf p-dotiertem Bi2Te3 kommt die Fermi-Energie innerhalb der Volumenzustands-Bandlücke zum Liegen. Folglich wird bei Energien rund um das Fermi-Niveau lediglich der topologische Oberflächenzustand bevölkert, welcher eine Wechselwirkung zwischen den Adatomen vermitteln kann. Für Mn-Adatome kann Rückstreuung beobachtet werden, die aufgrund der Zeitumkehrinvarianz in undotierten Topologischen Isolatoren verboten ist. Die überraschenderweise starken und fokussierten Streuintensitäten über mesoskopische Distanzen hinweg resultieren aus der ferromagnetischen Kopplung nahegelegener Adsorbate, was durch theoretische Berechnungen und Röntgendichroismus-Untersuchungen bestätigt wird. Gleichwohl wird für die Proben ein superparamagnetisches Verhalten beobachtet. Im Gegensatz dazu führt die ausreichende Volumendotierung von Sb2Te3 mit V-Atomen zu einem weitreichend ferromagnetischen Verhalten. Erstaunlicherweise kann trotz der weitläufig verbreiteten Theorie Zeitumkehrinvarianz-gebrochener Dirac-Zustände und der experimentellen Entdeckung des Anormalen Quanten-Hall-Effektes in ähnlichen Probensystemen keinerlei Anzeichen einer spektroskopischen Bandlücke beobachtet werden. Dies ist eine direkte Auswirkung der dualen Natur der magnetischen Adatome: Während sie einerseits eine magnetisch induzierte Bandlücke öffnen, besetzen sie diese durch Störstellenresonanzen wieder. Ihr stark lokaler Charakter kann durch die Aufnahme ihrer räumlichen Verteilung aufgezeichnet werden und führt zu einer Mobilitäts-Bandlücke, deren Indizien durch vergleichende Untersuchungen an undotiertem und dotiertem Sb2Te3 bestätigt werden. / New physical insights make up for a more complete vision onto the world and allow for subsequent experiments and technical implementations. The last decade in solid state physics was increasingly focusing on the theoretical and experimental discovery and investigation of topological materials. A very basic property is their robustness against perturbations not violating certain physical symmetries. Especially Topological Insulators - semiconductors with insulating bulk but conducting and spin-polarized surface states - are promising candidates for the attainment of a wide spectrum of spintronics applications. Till realization of quantum computing and up to now futuristically sounding concepts a deeper understanding of the fundamental physics is required. Since topological properties usually manifest at boundaries, surface sensitive techniques played a substantial role in the exploration of Topological Insulators. Within this thesis structural, electronic and magnetic properties of Topological Insulators are investigated by means of scanning tunneling microscopy and spectrocopy and supporting methods. Variation of the initial elemental concentration in the crystal growth process of the prototypical Topological Insulator Bi2Te3 leads to the realization of a topological p-n junction within the crystal. At a certain elemental ratio in the melt excess of Bi and Te will be obtained at the opposing ends of the crystal due to the different solidification temperatures. In these areas vacancies and substitutions give rise to p- and n-type doping, respectively. This implies the very existence of an intrinsic transition area, which can by verified by transport experiments. The junction area can be localized and structurally as well as spectroscopically examined by means of scanning tunneling microscopy. It can be shown that in the vicinity of this transition region both types of characteristic defects are present. This indicates that defects are not suppressed but compensated in this region. Nevertheless their contribution to bulk transport is minimal because of their opposite doping character, letting the topological surface state dominate the relevant physical properties. Furthermore the transition region meets the energetic and spatial dimensions that are promising for applications at room temperature. Besides the manipulation of Topological Insulators by using intrinsic crystallographic defects, magnetic perturbations are a powerful method to test the robustness of and the interaction with the topological surface state. Since Topological Insulators are initially protected by the time-reversal symmetry, magnetic surface and bulk doping can lift this protection and give rise to novel phenomena. Surface magnetic doping of Topological Insulators with Co- and Mn-adatoms can yield for a rigid band bending and a shift of the Fermi level. At a well defined amount of dopants in the p-type Bi2Te3 the Fermi energy lies in the bulk bandgap. Therefore, at energies close to the Fermi level only the topological surface state is occupied and can mediate inter-adsorbate interactions. In the case of Mn-doping backscattering is observed that is forbidden on undoped Topological Insulators due to the time-reversal symmetry. As evidenced by theory and x-ray magnetic circular dichroism ferromagnetic coupling between adsorbates gives rise to surprisingly strong and focused scattering intensities. However, long-ranging ferromagnetic order is absent but superparamagnetic characteristics can be detected. In contrast to surface doping sufficient bulk doping of Sb2Te3 with V-atoms can give rise to long-range ferromagnetic order. Surprisingly, a spectral bandgap is absent despite the general assumed theoretical framework of time-reversal symmetry gapped Dirac states and the discovery of the quantum anomalous hall effect in similar sample systems. This is figured out to be a direct consequence of the dual nature of the magnetic dopants: while on the one hand opening up a magnetization induced gap, they fill it by creating intragap states. Their local character, visualized by mapping of their spatial distribution, leads to a mobility gap that is confirmed by direct comparison of the undoped and V-doped Topological Insulator by means of Landau level spectroscopy.

Two-dimensional triangular lattices of group IV adatoms on semiconductor substrates provide a rich playground for the investigation of Mott-Hubbard physics. The possibility to combine various types of adatoms and substrates makes members of this material class versatile model systems to study the influence of correlation strength, band filling and spin-orbit coupling on the electronic structure - both experimentally and with dedicated many-body calculation techniques. The latter predict exotic ground states such as chiral superconductivity or spin liquid behavior for these frustrated lattices, however, experimental confirmation is still lacking. In this work, three different systems, namely the \(\alpha\)-phases of Sn/SiC(0001), Pb/Si(111), and potassium-doped Sn/Si(111) are investigated with scanning tunneling microscopy and photoemission spectroscopy in this regard. The results are potentially relevant for spintronic applications or quantum computing. For the novel group IV triangular lattice Sn/SiC(0001), a combined experimental and theoretical study reveals that the system features surprisingly strong electronic correlations because they are boosted by the substrate through its partly ionic character and weak screening capabilities. Interestingly, the spectral function, measured for the first time via angle-resolved photoemission, does not show any additional superstructure beyond the intrinsic \(\sqrt{3} \times \sqrt{3} R30^{\circ}\) reconstruction, thereby raising curiosity regarding the ground-state spin pattern. For Pb/Si(111), preceding studies have noted a phase transition of the surface reconstruction from \(\sqrt{3} \times \sqrt{3} R30^{\circ}\) to \(3 \times 3\) at 86 K. In this thesis, investigations of the low-temperature phase with high-resolution scanning tunneling microscopy and spectroscopy unveil the formation of a charge-ordered ground state. It is disentangled from a concomitant structural rearrangement which is found to be 2-up/1-down, in contrast to previous predictions. Applying an extended variational cluster approach, a phase diagram of local and nonlocal Coulomb interactions is mapped out. Based on a comparison of theoretical spectral functions with scattering vectors found via quasiparticle interference, Pb/Si(111) is placed in said phase diagram and electronic correlations are found to be the driving force of the charge-ordered state. In order to realize a doped Mott insulator in a frustrated geometry, potassium was evaporated onto the well-known correlated Sn/Si(111) system. Instead of the expected insulator-to-metal transition, scanning tunneling spectroscopy data indicates that the electronic structure of Sn/Si(111) is only affected locally around potassium atoms while a metallization is suppressed. The potassium atoms were found to be adsorbed on empty \(T_4\) sites of the substrate which eventually leads to the formation of two types of K-Sn alloys with a relative potassium content of 1/3 and 1/2, respectively. Complementary measurements of the spectral function via angle-resolved photoemission reveal that the lower Hubbard band of Sn/Si(111) gradually changes its shape upon potassium deposition. Once the tin and potassium portion on the surface are equal, this evolution is complete and the system can be described as a band insulator without the need to include Coulomb interactions. / Zweidimensionale Dreiecksgitter aus Adatomen der vierten Hauptgruppe auf Halbleitersubstraten bieten eine reichhaltige Spielwiese für die Untersuchung von Mott-Hubbard-Physik. Die Möglichkeit, verschiedene Adatomsorten und Substrate zu kombinieren, macht die Mitglieder dieser Materialklasse zu vielseitigen Modellsystemen, um den Einfluss von Korrelationsstärke, Bandfüllung und Spin-Bahn-Kopplung auf die elektronische Struktur zu untersuchen - sowohl im Experiment als auch mit Vielkörper-Rechnungen. Letztere prognostizieren exotische Grundzustände, wie z.B. chirale Supraleitung oder eine Spin-Flüssigkeit, wobei eine experimentelle Bestätigung jeweils noch aussteht. In dieser Dissertation werden drei derartige Systeme, nämlich die \(\alpha\)-Phasen von Sn/SiC(0001), Pb/Si(111) und kaliumdotiertem Sn/Si(111) mittels Rastertunnelmikroskopie und Photoemissionsspektroskopie diesbezüglich untersucht. Die Resultate sind potentiell relevant für Anwendungen im Bereich der Spintronik oder Quantencomputer. Für das erst kürzlich realisierte Gruppe-IV-Dreiecksgitter Sn/SiC(0001) zeigt diese Studie, bei der experimentelle und theoretische Methoden kombiniert werden, dass das System unerwartet starke Korrelationen aufweist, weil sie durch den teilweise ionischen Charakter und das geringe Abschirmungsvermögen des Substrats verstärkt werden. Die Spektralfunktion, die erstmals mit winkelaufgelöster Photoemission gemessen wird, zeigt keine überstruktur außer der intrinsischen \(\sqrt{3} \times \sqrt{3} R30^{\circ}\) Rekonstruktion des Gitters, was die Frage nach der Anordnung der Spins im Grundzustand aufwirft. Bei Pb/Si(111) haben bereits frühere Veröffentlichungen einen Phasenübergang bei der Oberflächenrekonstruktion von \(\sqrt{3}\times\sqrt{3}R30^{\circ}\) auf \(3 \times 3\) bei 86 K festgestellt. In dieser Arbeit zeigen Untersuchungen der Niedrigtemperaturphase mit hochaufgelöster Rastertunnelmikroskopie und -spektroskopie die Entstehung eines ladungsgeordneten Zustands. Dieser wird von der begleitend auftretenden strukturellen Neuordnung getrennt, welche entgegen bisheriger Voraussagen eine 2-hoch/1-tief-Anordnung aufweist. Mit Hilfe einer neu entwickelten Cluster-Rechenmethode wird ein Phasendiagramm erstellt, in dem die lokale und nichtlokale Coulomb-Wechselwirkung gegeneinander aufgetragen sind. Durch einen Vergleich zwischen theoretischen Spektralfunktionen mit Streuvektoren, die mittels Quasiteilchen-Interferenz bestimmt werden, kann Pb/Si(111) in besagtem Phasendiagramm platziert werden. Dadurch stellt sich heraus, dass elektronische Korrelationen die treibende Kraft für den ladungsgeordneten Zustand in Pb/Si(111) sind. Um einen dotierten Mott-Isolator in einem frustrierten System zu verwirklichen, wird Kalium auf das bekannte, korrelierte System Sn/Si(111) aufgebracht. Statt des erwarteten Isolator-Metall übergangs zeigen Messungen mit Rastertunnelspektroskopie, dass die elektronische Struktur von Sn/Si(111) nur lokal in der unmittelbaren Umgebung der Kaliumatome beeinflusst wird, ohne dass das System metallisch wird. Die Kaliumatome werden auf freien \(T_4\)-Plätzen des Substrats adsorbiert, was letztendlich zur Ausbildung von zwei unterschiedlichen Kalium-Zinn-Legierungen mit einem Kaliumanteil von 1/3 bzw. 1/2 führt. Komplementäre Messungen der Spektralfunktion mit winkelaufgelöster Photoemission zeigen, dass das untere Hubbardband von Sn/Si(111) durch die Kalium-Deposition allmählich seine Form verändert. Sobald Zinn und Kalium zu gleichen Teilen auf der Oberfläche vorliegen, ist diese Transformation beendet und das System kann als einfacher Bandisolator ohne die Notwendigkeit, elektronische Korrelationen zu berücksichtigen, beschrieben werden.

Im Rahmen dieser Arbeit wurde ein Rastertunnelmikroskop (STM) für Messungen bei tiefen Temperaturen und hohen Magnetfeldern konzipiert und aufgebaut. Die Probentemperatur kann dabei auf bis zu 1.4\,Kelvin reduziert werden, was spektroskopische Messungen mit extrem hoher Energieauflösung ermöglicht. Die thermische Verbreiterung spektroskopischer Merkmale liegt somit im Bereich eines Milli-Elektronenvolts, wie durch den Fit der Bandlücke eines supraleitenden Materials demonstriert wird. Ein linearer Bewegungsmechanismus ermöglicht die Positionierung des STM-Körpers innerhalb einer supraleitenden Spule, in der Magnetfelder von bis zu 12.5\,Tesla senkrecht zur Probenoberfläche erzeugt werden können. Das System erlaubt des Weiteren den Wechsel von Spitzen und Proben innerhalb des Kryostaten sowie das Aufdampfen von Einzelatomen auf die kalte Probenoberfläche ohne die Probe aus dem STM zu entfernen. Um den Einfluss mechanischer Vibrationen zu minimieren wurde ein innovatives Feder-Dämpfungssystem entwickelt, dass eine Stabilität des Tunnelkontakts von bis zu einem Pikometer gewährleistet. \\ \noindent Der zweite Teil dieser Arbeit präsentiert die Ergebnisse von STM-Messungen auf Antimon-Tellurid (Sb_{2}Te_{3}). Sb_{2}Te_{3}\, gehört zur relativ neu entdeckten Materialklasse der Topologischen Isolatoren (TI). Diese Verbindungen besitzen auf ihren Oberflächen Zustände mit linearer Dispersion, die durch die Zeitumkehr-Invarianz geschützt werden. Fokus unserer Messungen ist dabei der Einfluss eines magnetischen Feldes auf die Eigenschaften eines derartigen unkonventionellen 2D-Elektronengases. Dazu wurde die Entstehung von Landau Level (LL) innerhalb eines Magnetfelds genau untersucht. Die zwei in dieser Arbeit untersuchten Hauptaspekte sind: \medskip \noindent(i) Die energetische Verbreiterung, die Rückschlüsse auf die Lebensdauer zulässt\\ (ii) Die örtliche Fluktuation. \medskip \noindent Erstaunlicherweise kann die gemessene Verbreiterung der Landau Resonanzen nicht mit gängigen Mechanismen der Lebenszeit-Verbreiterung erklärt werden. Aus diesem Grund wird eine alternative Interpretation basierend auf der Heissenbergschen Unschärferelation vorgestellt, die im guten Einklang mit den von uns gewonnenen Daten steht. Des Weiteren zeigen örtlich aufgelöste Messungen systematische Abweichungen in der Dirac-Geschwindigkeit positiver und negativer Landau Resonanzen. Diese Fluktuationen stehen dabei in direktem Zusammenhang mit Änderungen im lokalen chemischen Potential. Da die physikalischen Ursachen dieser Abweichung im Rahmen dieser Arbeit nicht zweifelsfrei geklärt werden konnten, werden im letzten Teil die zugrundeliegenden Messergebnisse vorgestellt und mögliche Erklärungen des Verhaltens präsentiert. / The scope of this thesis is the design and construction of a scanning tunneling microscope (STM) operating at low temperatures and high magnetic fields. The sample temperature can be reduced to 1.4\,Kelvin which permits to perform spectroscopic measurements with extremely high energy resolution. As demonstrated by fitting the gap of a superconducting material the thermal broadening of spectroscopic features is routinely found to be of the order of one milli-electronvolt. A linear travel mechanism allows to position the STM head inside a superconducting solenoid where magnetic fields up to 12.5\,Tesla can be applied perpendicular to the sample surface. Tips and samples can be exchanged in-situ and single atoms can be directly evaporated onto the cold sample surface without extracting the sample from the STM. To minimize the impact of mechanical vibrations, an innovative spring-damping system has been developed giving the tunneling junction a stability as low as one pico-meter. \\ \noindent The second part of this thesis presents the results of STM measurements on antimony telluride (\Sb_{2}Te_{3}). \Sb_{2}Te_{3}\, belongs to the relatively new class of materials known as topological insulators (TI). These compounds host on their surfaces linearly dispersing states which are protected by time-reversal symmetry. The focus of our measurements is the influence of a magnetic field on the properties of this unconventional 2D electron gas. The evolution of Landau levels (LL) in magnetic fields has been carefully analysed. Two are the main aspects which have been tackled: \medskip \noindent(i) Their energetic broadening, which can be directly linked to the lifetime \\ (ii) Their spacial fluctuation. \medskip \noindent Surprisingly, the energetic broadening of the landau peaks cannot be explained by any of the mechanisms commonly limiting the lifetime. An alternative interpretation based on Heissenberg's uncertainty principle is presented, which is found to be in good agreement with our data. Furthermore spatially resolved experiments reveal systematic deviations of the Dirac velocities for positive and negative LL. These fluctuations are intimately linked to variations of the local chemical potential. As the physical origin of this deviation could not be unambiguously identified, the last part presents the experimental data and suggests possible explanations of this finding.