The subject of this thesis is the investigation of the transport properties of topological and massive surface states in the three-dimensional topological insulator Hg(Mn)Te. These surface states give rise to a variety of extraordinary transport phenomena, making this material system of great interest for research and technological applications. In this connection, many physical properties of the topological insulator Hg(Mn)Te still require in-depth exploration. The overall aim of this thesis is to analyze the quantum transport of HgTe-based devices ranging from hundreds of micrometers (macroscopic) down to a few micrometers in size (microscopic) in order to extend the overall understanding of surface states and the possibilities of their manipulation. In order to exploit the full potential of our high-quality heterostructures, it was necessary to revise and improve the existing lithographic fabrication process of macroscopic three-dimensional Hg(Mn)Te samples. A novel lithographic standard recipe for the fabrication of the HgTe-based macrostructures was developed. This recipe includes the use of an optimized Hall bar design and wet etching instead of etching with high-energy \(\mathrm{{Ar^{+}}}\)-ions, which can damage the samples. Further, a hafnium oxide insulator is applied replacing the SiO\(_{2}\)/Si\(_{3}\)N\(_{4}\) dielectric in order to reduce thermal load. Moreover, the devices are metallized under an alternating angle to avoid discontinuities of the metal layers over the mesa edges. It was revealed that the application of gate-dielectric and top-gate metals results in n-type doping of the devices. This phenomenon could be attributed to quasi-free electrons tunneling from the trap states, which form at the interface cap layer/insulator, through the cap into the active layer. This finding led to the development of a new procedure to characterize wafer materials. It was found that the optimized lithographic processing steps do not unintentionally react chemically with our heterostructures, thus avoiding a degradation of the quality of the Hg(Mn)Te layer. The implementation of new contact structures Ti/Au, In/Ti/Au, and Al/Ti/Au did not result in any improvement compared to the standard structure AuGe/Au. However, a novel sample recipe could be developed, resulting in an intermixing of the contact metals (AuGe and Au) and fingering of metal into the mesa. The extent of the quality of the ohmic contacts obtained through this process has yet to be fully established. This thesis further deals with the lithographic realization of three-dimensional HgTe-based microstructures measuring only a few micrometer in size. Thus, these structures are in the order of the mean free path and the spin relaxation length of topological surface state electrons. A lithographic process was developed enabling the fabrication of nearly any desired microscopic device structure. In this context, two techniques suitable for etching microscopic samples were realized, namely wet etching and the newly established inductively coupled plasma etching. While wet etching was found to preserve the crystal quality of the active layer best, inductively coupled plasma etching is characterized by high reproducibility and excellent structural fidelity. Hence, the etching technique employed depends on the envisaged type of experiment. Magneto-transport measurements were carried out on the macroscopic HgTe-based devices fabricated by means of improved lithographic processing with respect to the transport properties of topological and massive surface states. It was revealed that due to the low charge carrier density present in the leads to the ohmic contacts, these regions can exhibit an insulating behavior at high magnetic fields and extremely low temperatures. As soon as the filling factor of the lowest Landau levels dropped below a critical value (\(\nu_{\mathrm{{c}}}\approx0.8\)), the conductance of the leads decreased significantly. It was demonstrated that the carrier density in the leads can be increased by the growth of modulation doping layers, a back-gate-electrode, light-emitting diode illumination, and by the application of an overlapping top-gate layout. This overlapping top-gate and a back-gate made it possible to manipulate the carrier density of the surface states on both sides of the Hg(Mn)Te layer independently. With this setup, it was identified that topological and massive surface states contribute to transport simultaneously in 3D Hg(Mn)Te. A model could be developed allowing the charge carrier systems populated in the sample to be determined unambiguously. Based on this model, the process of the re-entrant quantum Hall effect observed for the first time in three-dimensional topological insulators could be explained by an interplay of n-type topological and p-type massive surface states. A well-pronounced \(\nu=-1\rightarrow\nu=-2\rightarrow\nu=-1\) sequence of quantum Hall plateaus was found in manganese-doped HgTe-based samples. It is postulated that this is the condensed-matter realization of the parity anomaly in three-dimensional topological insulators. The actual nature of this phenomenon can be the subject of further research. In addition, the measurements have shown that inter-scattering occurs between counter-propagating quantum Hall edge states. The good quantization of the Hall conductance despite this inter-scattering indicates that only the unpaired edge states determine the transport properties of the system as a whole. The underlying inter-scattering mechanism is the topic of a publication in preparation. Furthermore, three-dimensional HgTe-based microstructures shaped like the capital letter "H" were investigated regarding spin transport phenomena. The non-local voltage signals occurring in the measurements could be attributed to a current-induced spin polarization of the topological surface states due to electrons obeying spin-momentum locking. It was shown that the strength of this non-local signal is directly connected to the magnitude of the spin polarization and can be manipulated by the applied top-gate voltage. It was found that in these microstructures, the massive surface and bulk states, unlike the topological surface states, cannot contribute to this spin-associated phenomenon. On the contrary, it was demonstrated that the population of massive states results in a reduction of the spin polarization, either due to the possible inter-scattering of massive and topological surface states or due to the addition of an unpolarized electron background. The evidence of spin transport controllable by a top-gate-electrode makes the three-dimensional material system mercury telluride a promising candidate for further research in the field of spintronics. / Die vorliegende Dissertation beschäftigt sich mit der Untersuchung der Transporteigenschaften von topologischen und massiven Oberflächenzuständen in dem dreidimensionalen topologischen Isolator Hg(Mn)Te. Da diese Oberflächenzustände zu einer Vielzahl von außergewöhnlichen Transportphänomenen führen, ist dieses Materialsystem für die Grundlagenforschung und technologische Anwendungen von großem Interesse. Der Bereich der dreidimensionalen topologischen Isolatoren stellt ein relativ junges Forschungsgebiet dar. Daher bedürfen noch viele physikalische Eigenschaften des topologischen Isolators Hg(Mn)Te ein tiefergehendes Verständnis. Das übergeordnete Ziel dieser Arbeit ist die Analyse des Quantentransports von HgTe-basierten Proben, deren Abmessungen von mehreren hundert Mikrometern (makroskopisch) bis hin zu wenigen Mikrometern (mikroskopisch) reichen. Auf diese Weise soll das allgemeine Verständnis der Oberflächenzustände und die Möglichkeiten ihrer Manipulation erweitert werden. Um das volle Potential unserer hochqualitativen Heterostrukturen, welche durch Molekularstrahlepitaxie gewachsen werden, ausschöpfen zu können, musste das bestehende lithographische Herstellungsverfahren für makroskopische dreidimensionale Hg(Mn)Te-Proben überarbeitet und verbessert werden. Es konnte ein neuartiges lithographisches Standardrezept für die Herstellung von HgTe-basierten Makrostrukturen entwickelt werden. Dieses Rezept beinhaltet die Verwendung eines optimierten Probendesigns und verwendet nasschemisches Ätzen anstelle von Ätzen mit hochenergetischen \(\mathrm{{Ar^{+}}}\)-Ionen, welches die Proben beschädigen kann. Außerdem wird ein Isolator aus Hafniumoxid verwendet, der das SiO\(_{2}\)/Si\(_{3}\)N\(_{4}\)-Dielektrikum ersetzt, um die thermische Belastung der Proben zu verringern. Darüber hinaus werden die Proben unter einem veränderlichen Winkel metallisiert, um Diskontinuitäten der Metallschichten entlang der Ränder der Mesa zu vermeiden. Es zeigte sich, dass das Aufbringen des Isolators und der Feldeffektelektrode zu einer Erhöhung der Elektronendichte in der Hg(Mn)Te-Schicht führt. Dieses Phänomen konnte darauf zurückgeführt werden, dass quasifreie Elektronen aus sogenannten Fallenzuständen, welche sich an der Grenzfläche zwischen der Cd\(_{0.7}\)Hg\(_{0.3}\)Te Deckschicht und dem Dielektrikum bilden, durch die Deckschicht in die aktive Schicht tunneln können. Dieser neue Einblick führte zu der Entwicklung einer neuen Prozedur zur Charakterisierung von Wafermaterialien. Es stellte sich heraus, dass die optimierten lithographischen Prozessschritte nicht unbeabsichtigt mit unseren Heterostrukturen chemisch reagieren, was eine Verringerung der Qualität der Hg(Mn)Te-Schicht verhindert. Die Implementierung der neuen Kontaktstrukturen Ti/Au, In/Ti/Au und Al/Ti/Au führte zu keiner Verbesserung im Vergleich zur Standardstruktur AuGe/Au. Es konnte jedoch ein neuartiges Probenrezept entwickelt werden, dessen Anwendung zu einer Vermischung der Kontaktmetalle (AuGe und Au) und zu einem Eindiffundieren von Metall in die Mesa führt. Das Ausmaß der Qualität der ohmschen Kontakte, welche durch dieses Verfahren erhalten werden, muss noch vollständig ermittelt werden. Zudem befasst sich diese Dissertation mit der lithographischen Realisierung dreidimensionaler HgTe-basierter Mikrostrukturen, die nur wenige Mikrometer groß sind. Somit liegen diese Strukturen in der Größenordnung der mittleren freien Weglänge und der Spinrelaxationslänge von Elektronen, welche sich in den topologischen Oberflächenzuständen befinden. Es wurde ein lithographischer Prozess entwickelt, der die Herstellung nahezu jeder gewünschten mikroskopischen Struktur ermöglicht. In diesem Zusammenhang wurden zwei für das Ätzen mikroskopischer Proben geeignete Techniken vorgestellt, nämlich nasschemisches Ätzen mit einer flüssigen KI:I\(_{2}\):HBr Lösung und das Ätzen unter Verwendung eines induktiv gekoppelten Methan-Plasmas. Während nasschemisches Ätzen die Kristallqualität der Hg(Mn)Te-Schicht am besten erhält, zeichnet sich das Plasmaätzen durch eine hohe Reproduzierbarkeit und ausgezeichnete Strukturtreue aus. Die Wahl der zu bevorzugenden Ätztechnik hängt daher von der Art des geplanten Experiments ab. An den makroskopischen Bauelementen auf HgTe-Basis, welche durch Anwendung der verbesserten lithographischen Prozessierung hergestellt wurden, wurden magnetfeldabhängige Transportmessungen hinsichtlich der Transporteigenschaften von topologischen und massiven Oberflächenzuständen durchgeführt. Es zeigte sich, dass die Zuleitungen zu den ohmschen Kontakten bei hohen Magnetfeldern (\(B>4\,\mathrm{{T}}\)) und extrem tiefen Temperaturen (\(T\ll1\,\mathrm{K}\)) ein isolierendes Verhalten aufweisen können. Eine geringe Ladungsträgerdichte in diesen Bereichen wurde als Ursache identifiziert. Sobald der Füllfaktor der untersten Landau-Niveaus unter einen kritischen Wert fiel, nahm die Leitfähigkeit der Zuleitungen deutlich ab. Es wurde festgestellt, dass der Betrag dieses kritischen Füllfaktors für alle untersuchten Proben ungefähr 0,8 beträgt und unabhängig davon ist, ob die untersten Landau-Niveaus elektronen- oder lochartig sind. Darüber hinaus konnte gezeigt werden, dass die Ladungsträgerdichte in den Zuleitungen durch das Wachstum von Modulationsdotierschichten, eine unterhalb des Bauelements angeordnete Feldeffektelektrode, die Bestrahlung mit einer Leuchtdiode und das Aufbringen einer mit den ohmschen Kontakten überlappenden Feldeffektelektrode erhöht werden kann. Diese beiden Feldeffektelektroden, welche sich unter- und oberhalb der Heterostruktur befinden, ermöglichten es die Ladungsträgerdichte der Oberflächenzustände auf beiden Seiten der Hg(Mn)Te-Schicht unabhängig voneinander zu manipulieren. Mit diesem Aufbau wurde festgestellt, dass topologische und massive Oberflächenzustände gleichzeitig zum Transport in 3D Hg(Mn)Te beitragen. Es konnte ein Modell entwickelt werden, welches die eindeutige Bestimmung der in der Probe besetzten Ladungsträgersysteme ermöglicht. Auf der Grundlage dieses Modells konnte ein magnetfeldabhängiger Prozess, welcher sich durch wiedereinkehrende Plateaus im Rahmen des Quanten-Hall-Effekts auszeichnet, erklärt werden. Dieser erstmals in dreidimensionalen topologischen Isolatoren beobachtete Prozess ist das Resultat des Zusammenspiels von zwei elektronenartigen topologischen Oberflächenzuständen und einem lochartigen massiven Oberflächenzustand. Eine besonders deutlich ausgeprägte \(\nu=-1\rightarrow\nu=-2\rightarrow\nu=-1\) Abfolge von Plateaus konnte in mit Mangan dotierten dreidimensionalen HgTe-basierten topologischen Isolatoren gefunden werden. Es wird postuliert, dass es sich dabei um die Realisierung der Paritätsanomalie in kondensierter Materie handelt. Die tatsächliche Natur dieses Phänomens kann Gegenstand weiterer Forschung sein. Darüber hinaus haben die Messungen gezeigt, dass entgegengesetzt verlaufende elektronen- und lochartige Randzustände miteinander streuen. Die gute Quantisierung der Hall-Leitfähigkeit, welche ungeachtet dieser Streuung beobachtet werden kann, deutet darauf hin, dass nur die ungepaarten Randzustände die Transporteigenschaften des Gesamtsystems bestimmen. Der zugrundeliegende Streumechanismus ist das Thema einer Publikation, welche sich in der Vorbereitung befindet. Des Weiteren wurden dreidimensionale HgTe-basierte Mikrostrukturen, die wie der Großbuchstabe “H” geformt sind, hinsichtlich Spintransportphänomene untersucht. Die bei den Messungen auftretenden nichtlokalen Spannungssignale konnten auf eine strominduzierte Spinpolarisation der topologischen Oberflächenzustände zurückgeführt werden. Ursache für diese strominduzierte Spinpolarisation ist die starke Kopplung des Elektronenspins an den Elektronenimpuls. Es wurde gezeigt, dass die Intensität dieses nichtlokalen Signals direkt mit der Stärke der Spinpolarisation zusammenhängt und durch eine Feldeffektelektrode manipuliert werden kann. Es wurde festgestellt, dass in diesen Mikrostrukturen die massiven Oberflächen- und Bulkzustände, im Gegensatz zu den topologischen Oberflächenzuständen, nicht zu diesem mit dem Spin assoziierten Phänomen beitragen können. Es wurde im Gegenteil gezeigt, dass eine Besetzung der massiven Zustände zu einer Verringerung der Spinpolarisation führt. Die verantwortlichen Mechanismen sind das Streuen von massiven und topologischen Oberflächenzuständen und das Hinzufügung eines großen Hintergrunds an unpolarisierten Elektronen. Der Nachweis des durch eine Feldeffektelektrode kontrollierbaren Spintransports macht das dreidimensionale Materialsystem Quecksilbertellurid zu einem vielversprechenden Kandidaten für weitere Forschungen auf dem Gebiet der Spintronik.

University, Diss., 2006--Augsburg. / Erscheinungsjahr an der Haupttitelstelle: 2005.

Universiẗat, Diss., 1999--Braunschweig.

Univ., FB Chemie, Diss., 2000--Marburg

Universiẗat, Diss., 2000--Marburg.

The subject of this thesis is the fabrication and characterization of magnetic topological insulator layers of (V,Bi,Sb)\(_2\)Te\(_3\) exhibiting the quantum anomalous Hall effect. A major task was the experimental realization of the quantum anomalous Hall effect, which is only observed in layers with very specific structural, electronic and magnetic properties. These properties and their influence on the quantum anomalous Hall effect are analyzed in detail. First, the optimal conditions for the growth of pure Bi\(_2\)Te\(_3\) and Sb\(_2\)Te\(_3\) crystal layers and the resulting structural quality are studied. The crystalline quality of Bi\(_2\)Te\(_3\) improves significantly at higher growth temperatures resulting in a small mosaicity-tilt and reduced twinning defects. The optimal growth temperature is determined as 260\(^{\circ}\)C, low enough to avoid desorption while maintaining a high crystalline quality. The crystalline quality of Sb\(_2\)Te\(_3\) is less dependent on the growth temperature. Temperatures below 230\(^{\circ}\)C are necessary to avoid significant material desorption, though. Especially for the nucleation on Si(111)-H, a low sticking coefficient is observed preventing the coalescence of islands into a homogeneous layer. The influence of the substrate type, miscut and annealing sequence on the growth of Bi\(_2\)Te\(_3\) layers is investigated. The alignment of the layer changes depending on the miscut angle and annealing sequence: Typically, layer planes align parallel to the Si(111) planes. This can enhance the twin suppression due to transfer of the stacking order from the substrate to the layer at step edges, but results in a step bunched layer morphology. For specific substrate preparations, however, the layer planes are observed to align parallel to the surface plane. This alignment avoids displacement at the step edges, which would cause anti-phase domains. This results in narrow Bragg peaks in XRD rocking curve scans due to long-range order in the absence of anti-phase domains. Furthermore, the use of rough Fe:InP(111):B substrates leads to a strong reduction of twinning defects and a significantly reduced mosaicity-twist due to the smaller lattice mismatch. Next, the magnetically doped mixed compound V\(_z\)(Bi\(_{1−x}\)Sb\(_x\))\(_{2−z}\)Te\(_3\) is studied in order to realize the quantum anomalous Hall effect. The addition of V and Bi to Sb\(_2\)Te\(_3\) leads to efficient nucleation on the Si(111)-H surface and a closed, homogeneous layer. Magneto-transport measurements of layers reveal a finite anomalous Hall resistivity significantly below the von Klitzing constant. The observation of the quantum anomalous Hall effect requires the complete suppression of parasitic bulklike conduction due to defect induced carriers. This can be achieved by optimizing the thickness, composition and growth conditions of the layers. The growth temperature is observed to strongly influence the structural quality. Elevated temperatures result in bigger islands, improved crystallographic orientation and reduced twinning. On the other hand, desorption of primarily Sb is observed, affecting the thickness, composition and reproducibility of the layers. At 190\(^{\circ}\)C, desorption is avoided enabling precise control of layer thickness and composition of the quaternary compound while maintaining a high structural quality. It is especially important to optimize the Bi/Sb ratio in the (V,Bi,Sb)\(_2\)Te\(_3\) layers, since by alloying n-type Bi\(_2\)Te\(_3\) and p-type Sb\(_2\)Te\(_3\) charge neutrality is achieved at a specific mixing ratio. This is necessary to shift the Fermi level into the magnetic exchange gap and fully suppress the bulk conduction. The Sb content x furthermore influences the in-plane lattice constant a significantly. This is utilized to accurately determine x even for thin films below 10 nm thickness required for the quantum anomalous Hall effect. Furthermore, x strongly influences the surface morphology: with increasing x the island size decreases and the RMS roughness increases by up to a factor of 4 between x = 0 and x = 1. A series of samples with x varied between 0.56-0.95 is grown, while carefully maintaining a constant thickness of 9 nm and a doping concentration of 2 at.% V. Magneto-transport measurements reveal the charge neutral point around x = 0.86 at 4.2 K. The maximum of the anomalous Hall resistivity of 0.44 h/e\(^2\) is observed at x = 0.77 close to charge neutrality. Reducing the measurement temperature to 50 mK significantly increases the anomalous Hall resistivity. Several samples in a narrow range of x between 0.76-0.79 show the quantum anomalous Hall effect with the Hall resistivity reaching the von Klitzing constant and a vanishing longitudinal resistivity. Having realized the quantum anomalous Hall effect as the first group in Europe, this breakthrough enabled us to study the electronic and magnetic properties of the samples in close collaborations with other groups. In collaboration with the Physikalisch-Technische Bundesanstalt high-precision measurements were conducted with detailed error analysis yielding a relative de- viation from the von Klitzing constant of (0.17 \(\pm\) 0.25) * 10\(^{−6}\). This is published as the smallest, most precise value at that time, proving the high quality of the provided samples. This result paves the way for the application of magnetic topological insulators as zero-field resistance standards. Non-local magneto-transport measurements were conducted at 15 mK in close collaboration with the transport group in EP3. The results prove that transport happens through chiral edge channels. The detailed analysis of small anomalies in transport measurements reveals instabilities in the magnetic phase even at 15 mK. Their time dependent nature indicates the presence of superparamagnetic contributions in the nominally ferromagnetic phase. Next, the influence of the capping layer and the substrate type on structural properties and the impact on the quantum anomalous Hall effect is investigated. To this end, a layer was grown on a semi-insulating Fe:InP(111)B substrate using the previously optimized growth conditions. The crystalline quality is improved significantly with the mosaicity twist reduced from 5.4\(^{\circ}\) to 1.0\(^{\circ}\). Furthermore, a layer without protective capping layer was grown on Si and studied after providing sufficient time for degradation. The uncapped layer on Si shows perfect quantization, while the layer on InP deviates by about 5%. This may be caused by the higher crystalline quality, but variations in e.g. Sb content cannot be ruled out as the cause. Overall, the quantum anomalous Hall effect seems robust against changes in substrate and capping layer with only little deviations. Furthermore, the dependence of the quantum anomalous Hall effect on the thickness of the layers is investigated. Between 5-8 nm thickness the material typically transitions from a 2D topological insulator with hybridized top and bottom surface states to a 3D topological insulator. A set of samples with 6 nm, 8 nm, and 9 nm thickness exhibits the quantum anomalous Hall effect, while 5 nm and 15 nm thick layers show significant bulk contributions. The analysis of the longitudinal and Hall conductivity during the reversal of magnetization reveals distinct differences between different thicknesses. The 6 nm thick layer shows scaling consistent with the integer quantum Hall effect, while the 9 nm thick layer shows scaling expected for the topological surface states of a 3D topological insulator. The unique scaling of the 9 nm thick layer is of particular interest as it may be a result of axion electrodynamics in a 3D topological insulator. Subsequently, the influence of V doping on the structural and magnetic properties of the host material is studied systematically. Similarly to Bi alloying, increased V doping seems to flatten the layer surface significantly. With increasing V content, Te bonding partners are observed to increase simultaneously in a 2:3 ratio as expected for V incorporation on group-V sites. The linear contraction of the in-plane and out-of-plane lattice constants with increasing V doping is quantitatively consistent with the incorporation of V\(^{3+}\) ions, possibly mixed with V\(^{4+}\) ions, at the group-V sites. This is consistent with SQUID measurements showing a magnetization of 1.3 \(\mu_B\) per V ion. Finally, magnetically doped topological insulator heterostructures are fabricated and studied in magneto-transport. Trilayer heterostructures with a non-magnetic (Bi,Sb)\(_2\)Te\(_3\) layer sandwiched between two magnetically doped layers are predicted to host the axion insulator state if the two magnetic layers are decoupled and in antiparallel configuration. Magneto-transport measurements of such a trilayer heterostructure with 7 nm undoped (Bi,Sb)\(_2\)Te\(_3\) between 2 nm thick layers doped with 1.5 at.% V exhibit a zero Hall plateau representing an insulating state. Similar results in the literature were interpreted as axion insulator state, but in the absence of a measurement showing the antiparallel magnetic orientation other explanations for the insulating state cannot be ruled out. Furthermore, heterostructures including a 2 nm thin, highly V doped layer region show an anomalous Hall effect of opposite sign compared to previous samples. A dependency on the thickness and position of the doped layer region is observed, which indicates that scattering at the interfaces causes contributions to the anomalous Hall effect of opposite sign compared to bulk scattering effects. Many interesting phenomena in quantum anomalous Hall insulators as well as axion insulators are still not unambiguously observed. This includes Majorana bound states in quantum anomalous Hall insulator/superconductor hybrid systems and the topological magneto-electric effect in axion insulators. The limited observation temperature of the quantum anomalous Hall effect of below 1 K could be increased in 3D topological insulator/magnetic insulator heterostructures which utilize the magnetic proximity effect. The main achievement of this thesis is the reproducible growth and characterization of (V,Bi,Sb)2Te3 layers exhibiting the quantum anomalous Hall effect. The detailed study of the structural requirements of the quantum anomalous Hall effect and the observation of the unique axionic scaling behavior in 3D magnetic topological insulator layers leads to a better understanding of the nature of this new quantum state. The high-precision measurements of the quantum anomalous Hall effect reporting the smallest deviation from the von Klitzing constant are an important step towards the realization of a zero-field quantum resistance standard. / Das Thema dieser Arbeit ist die Herstellung und Charakterisierung von Schichten des magnetischen topologischen Isolators (V,Bi,Sb)\(_2\)Te\(_3\), die den Quanten anomalen Hall-Effekt zeigen. Die Hauptaufgabe war die experimentelle Realisierung des Quanten anomalen Hall-Effekts, welcher nur in Schichten mit bestimmten strukturellen, elektronischen und magnetischen Eigenschaften beobachtet wird. Diese Eigenschaften wurden ermittelt und ihr Einfluss genau analysiert. Als Erstes wurden die optimalen Bedingungen für das Wachstum von reinen Bi\(_2\)Te\(_3\) und Sb\(_2\)Te\(_3\) Kristallschichten und die resultierende strukturelle Qualität untersucht. Die kristalline Qualität von Bi\(_2\)Te\(_3\) verbessert sich signifikant bei hohen Wachstumstemperaturen, welche die Neigung der Domänen verringern und Zwillingsdefekte reduzieren. Als optimale Wachstumstemperatur wurde 260\(^{\circ}\)C ermittelt, ausreichend niedrig um Desorption zu vermeiden während eine hohe Kristallqualität erhalten bleibt. Die Wachstumstemperatur von Sb\(_2\)Te\(_3\) hat einen geringeren Einfluss auf die Kristallqualität. Temperaturen unter 230\(^{\circ}\)C sind allerdings nötig um erhebliche Desorption zu vermeiden. Ein geringer Haftkoeffizient wurde besonders bei der Nukleation auf der Si(111)-H Oberfläche beobachtet und verhindert das Zusammenwachsen von Inseln zu einer homogenen Schicht. Der Einfluss des Substrattyps, der Fehlorientierung der Oberfläche und der Ausheizsequenz auf das Wachstum von Bi\(_2\)Te\(_3\) Schichten wurde untersucht. Die Ausrichtung der Schicht ändert sich je nach Winkel der Fehlorientierung und der Ausheilsequenz: Typischerweise orientieren sich die Ebenen der Schicht parallel zu den Si(111) Ebenen, was aufgrund des Transfers der Stapelfolge vom Substrat zur Schicht an den Stufenkanten die Unterdrückung von Zwillingsdefekte verbessert. Andererseits führt diese Orientierung zu Anti-Phasen-Domänen durch die Verschiebung an den Stufenkanten und zu einer gestuften Oberflächenmorphologie. Für bestimmte Substratpräparationen richtet sich die Schicht jedoch parallel zur Oberfläche aus. Diese Orientierung verhindert Verschiebungen an Stufenkanten und damit Anti-Phasen-Domänen. Dies führt aufgrund der langreichweitigen Ordnung zu sehr schmalen Bragg-Reflexen in XRD rocking curve Diffraktogrammen. Weiterhin führen raue Fe:InP(111):B Substrate zu einer starken Unterdrückung von Zwillingsdefekten und aufgrund der besseren Gitteranpassung zu einer deutlich verringerten Verdrehung der Domänen. Als Nächstes wurde das magnetisch dotierte V\(_z\)(Bi\(_{1−x}\)Sb\(_x\))\(_{2−z}\)Te\(_3\) untersucht mit dem Ziel den Quanten anomalen Hall-Effekt zu realisieren. Die Zugabe von V und Bi zu Sb\(_2\)Te\(_3\) führt zu einer effizienten Nukleation auf der Si(111)-H Oberfläche und einer geschlossenen, homogenen Schicht. Magnetotransport Messungen der Schichten ergeben einen messbaren anomalen Hall-Widerstand deutlich unter der von-Klitzing-Konstanten. Die Beobachtung des Quanten anomalen Hall-Effekts setzt eine vollständige Unterdrückung der defekt-induzierten, parasitären Leitfähigkeit im Inneren der Schicht voraus. Dies kann durch die Optimierung der Dicke, Zusammensetzung und Wachstumsbedingungen der Schicht erreicht werden. Beobachtungen zeigen, dass die Wachstumstemperatur die strukturelle Qualität stark beeinflusst. Erhöhte Temperaturen erzielen größere Inseln, eine verbesserte kristalline Orientierung und weniger Zwillingsdefekte. Andererseits wird Desorption von überwiegend Sb beobachtet, was sich auf die Dicke, Zusammensetzung und Reproduzierbarkeit der Schichten auswirkt. Bei 190\(^{\circ}\)C kann Desorption vermieden werden, was eine präzise Kontrolle über Schichtdicke und Zusammensetzung des quaternären Verbunds ermöglicht, während eine hohe strukturelle Qualität erhalten bleibt. Es ist besonders wichtig das Bi/Sb Verhältnis zu optimieren, da durch das Legieren des n-Typ Bi\(_2\)Te\(_3\) mit dem p-Typ Sb\(_2\)Te\(_3\) bei einem bestimmten Verhältnis Ladungsneutralität erzielt wird. Dies ist nötig um die Leitung im Inneren der Schicht vollständig zu unterdrücken und die Fermikante in die magnetische Austauschlücke zu schieben. Der Sb Gehalt x beeinflusst außerdem die Gitterkonstante a in der Ebene deutlich, im Gegensatz zur Gitterkonstante c in Wachstumsrichtung. Mit Hilfe dieses Zusammenhangs kann x selbst in dünnen Schichten unter 10 nm Dicke, wie sie für den Quantum anomalen Hall-Effekt benötigt werden, genau bestimmt werden. Der Sb Gehalt x beeinflusst weiterhin die Oberflächenmorphologie deutlich: mit steigenden x verringert sich die Inselgröße und die RMS Rauigkeit wächst um bis zu einem Faktor 4 zwischen x = 0 und x = 1. Eine Probenserie mit x zwischen 0,56−0,95 wurde hergestellt, wobei darauf geachtet wurde eine konstante Dicke von 9 nm und eine Dotierkonzentration von 2 at.% V beizubehalten. Magnetotransport Messungen bei 4,2K zeigen Ladungsneutra- lität bei x = 0,86. Der maximale anomale Hall-Widerstand von 0,44 h/e\(^2\) wird bei x = 0,77 nahe der Ladungsneutralität beobachtet. Wird die Messtemperatur auf 50 mK reduziert, steigt der anomale Hall-Widerstand signifikant an. Mehrere Proben mit x in einem schmalen Bereich von 0,76−0,79 zeigen den Quanten anomalen Hall-Effekt mit einem Hall-Widerstand, der die von-Klitzing-Konstante erreicht, und verschwindendem longitudinalen Widerstand. Die Realisierung des Quantum anomalen Hall-Effekts als erste Gruppe in Europa ermöglichte es uns die elektrischen und magnetischen Eigenschaften der Proben in Zusammenarbeit mit anderen Gruppen zu untersuchen. In Kollaboration mit der Physikalisch-Technische Bundesanstalt wurden Hochpräzisionsmessungen mit detaillierter Fehleranalyse durchgeführt und eine relative Abweichung von der von-Klitzing-Konstante von (0,17\(\pm\)0,25)*10\(^{−6}\) erzielt. Dieser Wert wurde als kleinster und genauester Wert publiziert, was die hohe Qualität der zur Verfügung gestellten Proben zeigt. Dieses Ergebnis ebnet den Weg für die Anwendung von magnetischen topologischen Isolatoren als Widerstand Standards ohne Magnetfeld. In enger Zusammenarbeit mit der Transport Gruppe in der EP3 wurden nichtlokale Magnetotransport Messungen bei 15mK durchgeführt. Das Ergebnis beweist, dass Transport durch chirale Randkanäle erfolgt. Die detaillierte Analyse kleiner Anomalien in Transport Messungen offenbart Instabilitäten in der magnetischen Phase selbst bei 15 mK. Der zeitabhängige Charakter dieser Anomalien weist auf superparamagnetische Anteile in der nominell ferromagnetischen Phase hin. Als nächstes wurde der Einfluss der Deckschicht und des Substrattyps auf die strukturellen Eigenschaften und die Auswirkungen auf den Quanten anomalen Hall-Effekt untersucht. Dazu wurde eine Schicht auf halbisolierendem Fe:InP(111)B Substrat unter den zuvor optimierten Wachstumsbedingungen gewachsen. Dies führt zu einer deutlich erhöhten kristallinen Qualität mit einem verringerten Verdrehungswinkel von 5,4\(^{\circ}\) auf 1,0\(^{\circ}\). Weiterhin wurde eine Schicht ohne schützende Deckschicht auf Si gewachsen und, nachdem ausreichend Zeit für mögliche Degradation vergangen war, gemessen. Die Schicht auf Si ohne Deckschicht zeigt perfekte Quantisierung, während die Schicht auf InP eine Abweichung von etwa 5% aufweist. Ursache könnte die höhere kristalline Qualität sein, Variationen in z.B. Sb Gehalt könnten jedoch auch eine Rolle spielen. Insgesamt scheint der Quanten anomale Hall-Effekt robust gegenüber Änderungen des Substrats und der Deckschicht zu sein. Des Weiteren wurde die Abhängigkeit des Quanten anomalen Hall-Effekts von der Schichtdicke untersucht. Zwischen 5−8 nm Dicke wechselt das Material typischerweise von einem 2D topologischen Isolator mit hybridisierten oberen und unteren Oberflächenzustand zu einem 3D topologischen Isolator. Eine Probenreihe mit 6 nm, 8 nm und 9 nm Schichtdicke zeigt den Quanten anomalen Hall- Effekt, während 5 nm und 15 nm dicke Schichten deutliche Beiträge aus dem Volumen haben. Die Analyse der longitudinalen- und Hall-Leitfähigkeit während der Umkehrung der Magnetisierung offenbart eindeutige Unterschiede. Die 6 nm dicke Schicht zeigt ein Skalierungsverhalten konsistent mit dem ganzzahligen Quanten- Hall-Effekt, die 9 nm dicke Schicht dagegen zeigt das erwartete Skalierungsverhalten für die topologischen Oberflächenzustände eines 3D topologischen Isolators. Das besondere Skalierungsverhalten der 9 nm dicken Schicht ist von besonderem Interesse, da es der axionischen Elektrodynamik in einem 3D topologischen Isolator entspringen könnte. Anschließend wird der Einfluss von V Dotierung auf die strukturellen und magnetischen Eigenschaften der Schichten systematisch untersucht. Ähnlich wie das Legieren mit Bi, scheint V Dotieren die Oberfläche deutlich zu glätten. Mit steigenden V Gehalt erhöht sich die Zahl der Te Bindungspartner simultan im 2:3 Verhältnis, wie erwartet für den Einbau von V auf Gruppe-V Plätzen. Die lineare Kontraktion der Gitterkonstanten in der Ebene und senkrecht dazu mit steigender V Dotierung ist quantitativ konsistent mit dem Einbau von V\(^{3+}\) Ionen, möglicherweise gemischt mit V\(^{4+}\) Ionen, auf Gruppe-V Plätzen. Dies ist konsistent mit SQUID Messungen die eine Magnetisierung von 1,3 \(\mu_B\) pro V Ion zeigen. Schließlich werden magnetisch dotierte topologische Isolator Heterostrukturen hergestellt und in Magnetotransport Messungen charakterisiert. Der Axion-Isolator Zustand wurde in dreischichtigen Heterostrukturen mit einer nichtmagnetischen (Bi,Sb)\(_2\)Te\(_3\) Lage zwischen zwei magnetischen Schichten vorhergesagt, falls die beiden magnetischen Lagen entkoppelt sind und in antiparalleler Ausrichtung vorliegen. Magnetotransport Messungen solcher dreischichtigen Heterostrukturen mit 7 nm undotiertem (Bi,Sb)\(_2\)Te\(_3\) zwischen jeweils 2 nm dicken dotierten Schichten mit 1,5 at.% V zeigen ein Null Hall-Plateau, das einen isolierenden Zustand repräsentiert. Ähnliche Ergebnisse in der Literatur wurden als Axion-Isolator Zustand interpretiert, jedoch können andere Erklärungen ohne eine direkten Messung der antiparallelen magnetischen Orientierung nicht ausgeschlossen werden. Weiterhin zeigen Heterostrukturen mit einer 2 nm dünnen, hoch V dotierten Schicht einen anomalen Hall-Effekt mit entgegengesetzten Vorzeichen im Vergleich zu vorhergehenden Proben. Die Abhängigkeit von der Dicke und Position dieser Schicht könnte darauf hindeuten, dass Streuprozesse an den Grenzflächen einen Beitrag zum anomalen Hall-Effekt entgegengesetzt zu den Volumenstreuprozessen verursachen. Viele interessante Phänomene in Quanten anomalen Hall Isolatoren sowie Axion- Isolatoren sind noch nicht eindeutig beobachtet worden. Dies schließt gebundene Majorana-Zustände in Quanten anomalen Hall Isolator/Supraleiter Hybridsystemen und den topologischen magneto-elektrischen Effekt in Axion-Isolatoren ein. Die limitierte Beobachtungstemperatur des Quanten anomalen Hall-Effekts von unter 1 K könnte in Heterostrukturen aus 3D topologischen Isolator und magnetischen Isolator Schichten welche den magnetischen Proximity-Effekt nutzen erhöht werden. Das wichtigste Ergebnis dieser Arbeit ist das reproduzierbare Wachstum und die Charakterisierung von (V,Bi,Sb)\(_2\)Te\(_3\) Schichten die den Quanten anomalen Hall-Effekt zeigen. Die detaillierte Untersuchung der strukturellen Voraussetzungen und die Beobachtung des besonderen axionischen Skalierungsverhaltens in 3D magnetischen Isolatorschichten führt zu einem besseren Verständnis dieses neuen Quantenzustands. Die Hochpräzisionsmessungen des Quanten anomalen Hall-Effekts mit der geringsten Abweichung von der von-Klitzing-Konstanten sind ein wichtiger Schritt zur Realisierung eines Widerstand-Standards basierend auf Quantisierung ohne magnetischem Feld.

The subject of this thesis is the control of strain in HgTe thin-film crystals. Such systems are members of the new class of topological insulator materials and therefore of special research interest. A major task was the experimental control of the strain in the HgTe films. This was achieved by a new epitaxial approach and confirmed by cristallographic analysis and magneto-transport measurements. In this work, strain was induced in thin films by means of coherent epitaxy on substrate crystals. This means that the film adopts the lattice constant of the substrate in the plane of the substrate-epilayer interface. The level of strain is determined by the difference between the strain-free lattice constants of the substrate and epilayer material (the so-called lattice mismatch). The film responds to an in-plane strain with a change of its lattice constant perpendicular to the interface. This relationship is crucial for both the correct interpretation of high resolution X-ray diffraction (HRXRD) measurements, and the precise determination of the band dispersion. The lattice constant of HgTe is smaller than the lattice constant of CdTe. Therefore, strain in HgTe is tensile if it is grown on a CdTe substrate. In principle, compressive strain can be achieved by using an appropriate \(\text{Cd}_{1-x}\text{Zn}_{x}\text{Te}\) substrate. This concept was modified and applied in this work. Epilayers have been fabricated by molecular-beam epitaxy (MBE). The growth of thick buffer layers of CdTe on GaAs:Si was established as an alternative to commercial CdTe and \(text{Cd}_{0.96}\text{Zn}_{0.04}\text{Te}\) substrates. The growth conditions have been optimized by an analysis of atomic force microscopy and HRXRD studies. HRXRD measurements reveal a power-law increase of the crystal quality with increasing thickness. Residual strain was found in the buffer layers, and was attributed to a combination of finite layer thickness and mismatch of the thermal expansion coefficients of CdTe and GaAs. In order to control the strain in HgTe epilayers, we have developed a new type of substrate with freely adjustable lattice constant. CdTe-\(\text{Cd}_{0.5}\text{Zn}_{0.5}\text{Te}\) strained-layer-superlattices have been grown by a combination of MBE and atomic-layer epitaxy (ALE), and have been analyzed by HRXRD. ALE of the \(\text{Cd}_{0.5}\text{Zn}_{0.5}\text{Te}\) layer is self-limiting to one monolayer, and the effective lattice constant can be controlled reproducibly and straightforward by adjusting the CdTe layer thickness. The crystal quality has been found to degrade with increasing Zn-fraction. However, the effect is less drastic compared to single layer \(\text{Cd}_{1-x}\text{Zn}_{x}\text{Te}\) solid solutions. HgTe quantum wells (QWs) sandwiched in between CdHgTe barriers have been fabricated in a similar fashion on superlattices and conventional CdTe and \(\text{Cd}_{0.96}\text{Zn}_{0.04}\text{Te}\) substrates. The lower critical thickness of the CdHgTe barrier material grown on superlattice substrates had to be considered regarding the sample design. The electronic properties of the QWs depend on the strain and thickness of the QW. We have determined the QW thickness with an accuracy of \(\pm\)0.5 nm by an analysis of the beating patterns in the thickness fringes of HRXRD measurements and X-ray reflectometry measurements. We have, for the first time, induced compressive strain in HgTe QWs by an epitaxial technique (i.e. the effective lattice constant of the superlattice is lower compared to the lattice constant of HgTe). The problem of the lattice mismatch between superlattice and barriers has been circumvented by using CdHgTe-ZnHgTe superlattices instead of CdHgTe as a barrier material. Furthermore, the growth of compressively strained HgTe bulk layers (with a thickness of at least 50 nm) was demonstrated as well. The control of the state of strain adds a new degree of freedom to the design of HgTe epilayers, which has a major influence on the band structure of QWs and bulk layers. Strain in bulk layers lifts the degeneracy of the \(\Gamma_8\) bands at \(\mathbf{k}=0\). Tensile strain opens an energy gap, compressive strain shifts the touching points of the valence- and conduction band to positions in the Brillouin zone with finite \(\mathbf{k}\). Such a situation has been realized for the first time in the course of this work. For QWs in the inverted regime, it is demonstrated that compressive strain can be used to significantly enhance the thermal energy gap of the two-dimensional electron gas (2DEG). In addition, semi-metallic and semiconducting behavior is expected in wide QWs, depending on the state of strain. An examination of the temperature dependence of the subband ordering in QWs revealed that the band gap is only temperature-stable for appropriate sample parameters and temperature regimes. The band inversion is always lifted for sufficiently high temperatures. A large number of models investigate the influence of the band gap on the stability of the quantum-spin-Hall (QSH) effect. An enhancement of the stability of QSH edge state conductance is expected for enlarged band gaps. Furthermore, experimental studies on the temperature dependence of the QSH conductance are in contradiction to theoretical predictions. Systematic studies of these aspects have become feasible based on the new flexibility of the sample design. Detailed low-temperature magnetotransport studies have been carried out on QWs and bulk layers. For this purpose, devices have been fabricated lithographically, which consist of two Hall-bar geometries with different dimensions. This allows to discriminate between conductance at the plane of the 2DEG and the edge of the sample. The Fermi energy in the 2DEG has been adjusted by means of a top gate electrode. The strain-induced transition from semi-metallic to semiconducting characteristics in wide QWs was shown. The magnitude of the semi-metallic overlap of valence- and conduction band was determined by an analysis of the two-carrier conductance and is in agreement with band structure calculations. The band gap of the semiconducting sample was determined by measurements of the temperature dependence of the conductance at the charge-neutrality point. Agreement with the value expected from theory has been achieved for the first time in this work. The influence of the band gap on the stability of QSH edge state conductance has been investigated on a set of six samples. The band gap of the set spans a range of 10 to 55 meV. The latter value has been achieved in a highly compressively strained QW, has been confirmed by temperature-dependent conductance measurements, and is the highest ever reported in the inverted regime. Studies of the carrier mobility reveal a degradation of the sample quality with increasing Zn-fraction in the superlattice, in agreement with HRXRD observations. The enhanced band gap does not suppress scattering mechanisms in QSH edge channels, but lowers the conductance in the plane of the 2DEG. Hence, edge state conductance is the dominant conducting process even at elevated temperatures. An increase in conductance with increasing temperature has been found, in agreement with reports from other groups. The increase follows a power-law dependency, the underlying physical mechanism remains open. A cause for the lack of an increase of the QSH edge state conductance with increasing energy gap has been discussed. Possibly, the sample remains insulating even at finite carrier densities, due to localization effects. The measurement does not probe the QSH edge state conductance at the situation where the Fermi energy is located in the center of the energy gap, but in the regime of maximized puddle-driven scattering. In a first set of measurements, it has been shown that the QSH edge state conductance can be influenced by hysteretic charging effects of trapped states in the insulating dielectric. A maximized conductance of \(1.6\ \text{e}^2/\text{h}\) was obtained in a \(58\ \mu\text{m}\) edge channel. Finally, measurements on three dimensional samples have been discussed. Recent theoretical works assign compressively strained HgTe bulk layers to the Weyl semi-metal class of materials. Such layers have been synthesized and studied in magnetotransport experiments for the first time. Pronounced quantum-Hall- and Shubnikov-de-Haas features in the Hall- and longitudinal resistance indicate two-dimensional conductance on the sample surface. However, this conductance cannot be assigned definitely to Weyl surface states, due to the inversion of \(\Gamma_6\) and \(\Gamma_8\) bands. If a magnetic field is aligned parallel to the current in the device, a decrease in the longitudinal resistance is observed with increasing magnetic field. This is a signature of the chiral anomaly, which is expected in Weyl semi-metals. / Die vorliegende Dissertation befasst sich mit der Verspannung in kristallinen HgTe Dünnschichtsystemen. Solche Systeme sind aufgrund ihrer Zugehörigkeit zur Materialklasse der topologischen Isolatoren von besonderem Interesse. Eine wesentliche Aufgabe bestand in der experimentellen Kontrolle der Verspannung der HgTe Schichten. Dies wurde durch ein neues Epitaxieverfahren erreicht. Der Erfolg des Verfahrens konnte durch kristallografische Analysemethoden und Magnetotransportmessungen bestätigt werden. Im Rahmen dieser Arbeit wurde Verspannung in dünnen Schichten durch kohärentes Wachstum auf kristallinen Substraten induziert. Kohärentes Wachstum bedeutet hierbei, dass die Schicht unter Beibehaltung der Substratgitterkonstante in der Ebene parallel zu der Substrat-Epischicht-Grenzfläche auf ein Substrat aufgewachsen wird. Die Abweichung der Gitterkonstanten von Substrat und unverspannter Epischicht (sog. Gitterfehlpassung) bestimmt den Grad der Verspannung. Die Schicht antwortet auf die Verspannung in der Ebene mit einer Änderung der Gitterkonstante senkrecht zur Grenzfläche. Dieser Zusammenhang ist entscheidend sowohl für die korrekte Interpretation von Messungen durch hochauflösende Röntgendiffraktometrie (engl. high resolution X-ray diffraction, HRXRD), als auch für die exakte Bestimmung der Banddispersion. Die Gitterkonstante von HgTe ist kleiner als die von CdTe. Daher ist HgTe tensil verspannt wenn es auf ein CdTe Substrat aufgewachsen wird, es kann aber durch die Verwendung von geeigneten \(\text{Cd}_{1-x}\text{Zn}_{x}\text{Te}\) Substraten prinzipiell auch kompressiv verspannt gewachsen werden. Dieses Konzept wurde in dieser Arbeit modifiziert und angewandt. Epischichten wurden mittels Molekularstrahlepitaxie (engl. molecular-beam epitaxy, MBE) hergestellt. Als Alternative zu kommerziellen CdTe und \(\text{Cd}_{0.96}\text{Zn}_{0.04}\text{Te}\) Substraten wurde zunächst das epitaktische Wachstum dicker Schichten (sog. Buffer) CdTe auf GaAs:Si Substraten etabliert. Der Parameterraum für optimales Wachstum wurde anhand von Rasterkraftmikroskopie- und HRXRD Studien eingegrenzt. HRXRD Messungen zeigen eine Zunahme der Qualität mit zunehmender Dicke, die einem Potenzgesetz folgt. Im Vergleich zu reinen CdTe Substraten wurde eine Restverspannung im Buffer beobachtet, wobei eine Kombination aus endlicher Schichtdicke und unterschiedlichen thermischen Ausdehnungskoeffizienten von CdTe und GaAs als Ursache ausgemacht wurde. Um die Verspannung in HgTe Epischichten kontrollieren zu können, wurde ein neuer Substrattyp mit frei einstellbarer Gitterkonstante entwickelt. Durch eine Kombination aus MBE und Atomlagenepitaxie (ALE) wurden spezielle \(\text{CdTe}- \text{Cd}_{0.5}\text{Zn}_{0.5}\text{Te}\) Übergitter auf GaAs:Si gewachsen, und wiederum mittels HRXRD analysiert. Die ALE der \(\text{Cd}_{0.5}\text{Zn}_{0.5}\text{Te}\) Schicht ist selbstbegrenzend auf eine Monolage, und die effektive Gitterkonstante des Übergitters konnte durch die Variation der Dicke der CdTe Schicht einfach und reproduzierbar kontrolliert werden. Eine Abnahme der Schichtqualität wurde mit zunehmendem Zinkgehalt beobachtet, der Effekt ist allerdings weniger stark ausgeprägt als in vergleichbaren ternären \(\text{Cd}_{1-x}\text{Zn}_{x}\text{Te}\) Einfachschichten. HgTe Quantentröge (engl. quantum wells, QWs) zwischen CdHgTe Barrieren wurden auf vergleichbare Weise auf Übergittern und konventionellen CdTe bzw. \(\text{Cd}_{0.96}\text{Zn}_{0.04}\text{Te}\) Substraten hergestellt. Dabei ist eine geringere kritische Schichtdicke des CdHgTe Barrierenmaterials auf Übergittersubstraten zu beachten. Neben der Verspannung ist die Trogdicke der zweite entscheidende Parameter für die elektronischen Eigenschaften der Schicht. Sie wurde anhand von Schwebungen in den Schichtdickenoszillationen der HRXRD Messung oder durch Röntgenreflektometrie auf etwa \(\pm\) 0.5 nm genau bestimmt. Es konnte erstmalig mit epitaktischen Mitteln kompressive Verspannung in HgTe QWs induziert werden (d.h. die effektive Gitterkonstante des Übergitters ist kleiner als die des HgTe). Es wurde gezeigt, dass das Problem der Gitterfehlpassung von Übergitter und Barriere durch die Verwendung von CdHgTe-ZnHgTe Übergittern anstelle von CdHgTe als Barrierenmaterial umgangen werden kann, und dass das kompressiv verspannte Wachstum von dickeren Schichten HgTe (sog. Bulk Material, Dicke mindestens 50 nm) ebenfalls möglich ist. Mit dem Verspannungszustand steht ein neuer Freiheitsgrad in der Fertigung von HgTe Epischichten zur Verfügung. Dieser beeinflusst die elektronische Bandstruktur von QWs und Bulk Schichten entscheidend. Verspannung in Bulk-Material hebt die Energieentartung der \(\Gamma_8\) Bänder bei \(\mathbf{k}=0\) auf. Tensile Verspannung öffnet dabei eine Energielücke, kompressive Verspannung schiebt die Berührpunkte von Valenz- und Leitungsband an Stellen in der Brillouinzone mit \(\mathbf{k}\neq0\). Eine derartige Situation wurde im Rahmen dieser Arbeit erstmals experimentell realisiert. Es wurde weiterhin demonstriert, dass in QWs mit topologisch invertierter Bandreihenfolge die thermische Bandlücke des zweidimensionalen Elektronengases (2DEG) durch kompressive Verspannung signifikant erhöht werden kann. Außerdem wird, je nach Verspannungszustand, halbmetallisches bzw. halbleitendes Verhalten in QWs mit hoher Trogdicke erwartet. Anhand einer Betrachtung der Temperaturabhängigkeit der Subbänder in QWs wurde gezeigt, dass eine temperaturstabile Bandlücke nur bei geeignet gewählten Probenparametern und Temperaturintervallen gegeben ist, und dass die Bandinversion für ausreichend hohe Temperaturen immer aufgehoben wird. Es existieren zahlreiche Modelle die die Stabilität des Quanten-Spin-Hall (QSH) Randzustandes in Verbindung mit der Bandlücke betrachten. Es wird insbesondere eine Zunahme der Stabilität des QSH Zustandes mit zunehmender Bandlücke erwartet. Außerdem besteht eine Diskrepanz zwischen theoretischen Modellen und experimentellen Daten bezüglich der Temperaturabhängigkeit der QSH-Leitfähigkeit. Diese Zusammenhänge konnten mit der neuen Flexibilität im Probendesign gezielt untersucht werden. QWs und Bulk Schichten wurden in Tieftemperatur- Magnetotransportmessungen eingehend untersucht. Dazu wurden Proben lithographisch hergestellt, deren Layout aus zwei Hallbar-Strukturen mit verschiedenen Abmessungen besteht. Dies ermöglicht die Unterscheidung zwischen Ladungstransport in der Fläche des 2DEGs, und dem Probenrand. Das Ferminiveau im 2DEG ist über eine Topgate-Elektrode einstellbar. Es wurde der verspannungsinduzierte Übergang von halbmetallischer zu halbleitender Charakteristik in breiten Quantentrögen gezeigt. Eine Analyse des zwei-Ladungsträger-Verhaltens bestätigt die Größe des halbmetallischen Überlapps von Valenz- und Leitungsband aus Bandstrukturberechnungen. Die Bandlücke der halbleitenden Probe wurde anhand der Temperaturabhängigkeit des Leitwertes am ladungsneutralen Punkt bestimmt. Die Übereinstimmung mit dem theoretisch erwarteten Wert wurde in dieser Arbeit zum ersten Mal erzielt. Der Einfluss der Bandlücke auf die Stabilität des QSH Randkanaltransports wurde anhand einer Serie von sechs Proben untersucht. Die Bandlücke wurde dabei von 10 auf 55 meV erhöht. Der letztgenannte Wert wurde in einem hochkompressiv verspannten QW erreicht, in temperaturabhängigen Leitwertsmessungen bestätigt, und stellt den Bestwert im invertierten Regime dar. Untersuchungen der Beweglichkeit der Ladungsträger zeigen, in Übereinstimmung mit HRXRD Messungen, dass die Probenqualität mit zunehmendem Zinkgehalt im Übergitter abnimmt. Die erhöhte Bandlücke verursacht keine effektive Unterdrückung der Rückstreuung der QSH Randkänale, verringert allerdings die Flächenleitung im 2DEG, sodass der Randkanaltransport auch bei höheren Temperaturen den dominanten Transportmechanismus darstellt. In Übereinstimmung mit Arbeiten anderer Gruppen wurde ein Anstieg des Leitwertes mit der Temperatur gefunden. Dieser lässt sich mit einem Potenzgesetz modellieren, seine Ursache blieb aber ungeklärt. Als Ursache für den ausbleibenden Anstieg des QSH Leitwertes mit zunehmender Bandlücke wurde diskutiert, dass die Probe aufgrund von Lokalisationseffekten auch bei endlicher Ladungsträgerdichte noch isolierend ist. Die Messung des QSH Leitwertes erfolgt möglicherweise nicht bei in der Bandlücke zentrierter Fermienergie, sondern im Regime maximaler Inselrückstreuung. In einer ersten Messreihe wurde weiterhin gezeigt, dass der QSH Leitwert durch hysteretische Umladungseffekte von Störstellen im Isolatormaterial beeinflusst werden kann. Dadurch wurde ein maximaler Leitwert von \(1.6\ \text{e}^2/\text{h}\) in einem \(58\mu\text{m}\) Randkanal erreicht. Abschließend wurden noch Messungen an dreidimensionalen Systemen diskutiert. Neue theoretische Studien ordnen kompressiv verspannte Bulk HgTe Schichten der Materialklasse der Weyl-Halbmetalle zu. Im Rahmen dieser Arbeit wurden zum ersten Mal derartige Schichten gewachsen und in Magnetotransportmessungen studiert. Ausgeprägte Quanten-Hall- und Shubnikov-de-Haas Signaturen im Hall- und Längswiderstand sind ein klares Indiz für zweidimensionalen Transport an der Probenoberfläche. Dieser lässt sich aufgrund der \(\Gamma_6\)-\(\Gamma_8\) Bandinversion in HgTe allerdings nicht eindeutig den Weyl-Oberflächenzuständen zuordnen. Orientiert man ein Magnetfeld parallel zum Probenstrom, so wird eine Abnahme des Längswiderstandes mit zunehmendem Magnetfeld beobachtet. Dies ist eine Signatur der chiralen Anomalie, die in Weyl Halbmetallen erwartet wird.

The prediction and the experimental discovery of topological insulators has set the stage for a novel type of electronic devices. In contrast to conventional metals or semiconductors, this new class of materials exhibits peculiar transport properties at the sample surface, as conduction channels emerge at the topological boundaries of the system. In specific materials with strong spin-orbit coupling, a particular form of a two-dimensional topological insulator, the quantum spin Hall state, can be observed. Here, the respective one-dimensional edge channels are helical in nature, meaning that there is a locking of the spin orientation of an electron and its direction of motion. Due to the symmetry of time-reversal, elastic backscattering off interspersed impurities is suppressed in such a helical system, and transport is approximately ballistic. This allows in principle for the realization of novel energy-efficient devices, ``spintronic`` applications, or the formation of exotic bound states with non-Abelian statistics, which could be used for quantum computing. The present work is concerned with the general transport properties of one-dimensional helical states. Beyond the topological protection mentioned above, inelastic backscattering can arise from various microscopic sources, of which the most prominent ones will be discussed in this Thesis. As it is characteristic for one-dimensional systems, the role of electron-electron interactions can be of major importance in this context. First, we review well-established techniques of many-body physics in one dimension such as perturbative renormalization group analysis, (Abelian) bosonization, and Luttinger liquid theory. The latter allow us to treat electron interactions in an exact way. Those methods then are employed to derive the corrections to the conductance in a helical transport channel, that arise from various types of perturbations. Particularly, we focus on the interplay of Rashba spin-orbit coupling and electron interactions as a source of inelastic single-particle and two-particle backscattering. It is demonstrated, that microscopic details of the system, such as the existence of a momentum cutoff, that restricts the energy spectrum, or the presence of non-interacting leads attached to the system, can fundamentally alter the transport signature. By comparison of the predicted corrections to the conductance to a transport experiment, one can gain insight about the microscopic processes and the structure of a quantum spin Hall sample. Another important mechanism we analyze is backscattering induced by magnetic moments. Those findings provide an alternative interpretation of recent transport measurements in InAs/GaSb quantum wells. / Mit der Vorhersage und der experimentellen Entdeckung von topologischen Isolatoren wurde die Grundlage für eine vollkommen neue Art von elektronischen Bauelementen geschaffen. Diese neue Klasse von Materialien zeichnet sich gegenüber herkömmlichen Metallen und Halbleitern durch besondere Transporteigenschaften der Probenoberfläche aus, wobei elektrische Leitung in Randkanälen an den topologischen Grenzflächen des Systems stattfindet. Eine spezielle Form des zweidimensionalen topologischen Isolators stellt der Quanten-Spin-Hall-Zustand dar, welcher in bestimmten Materialien mit starker Spin-Bahn-Kopplung beobachtet werden kann. Die hier auftretenden eindimensionalen Leitungskanäle sind von helikaler Natur, was bedeutet, dass die Orientierung des Spins eines Elektrons und seine Bewegungsrichtung fest miteinander gekoppelt sind. Aufgrund von Symmetrien wie Zeitumkehr ist elastische Rückstreuung an eventuell vorhandenen Störstellen in solchen helikalen Kanälen verboten, sodass elektrische Leitung als nahezu ballistisch betrachtet werden kann. Prinzipiell bieten sich dadurch neue Möglichkeiten zur Konstruktion von energieeffizienten Transistoren, “Spintronik“-Bauelementen, oder zur Erzeugung von speziellen Zuständen, die für den Betrieb eines Quantencomputers benutzt werden könnten. Die vorliegende Arbeit beschäftigt sich mit den allgemeinen Transporteigenschaften von eindimensionalen, helikalen Randzuständen. Neben dem oben erwähnten topologischen Schutz gibt es zahlreiche Störquellen, die inelastische Rückstreuprozesse induzieren. Die wichtigsten davon werden im Rahmen dieser Dissertation beleuchtet. Entscheidend wirkt hierbei oft die Rolle von Elektron-Elektron-Wechselwirkungen, welche in eindimensionalen Systemen generell von großer Bedeutung ist. Zunächst werden bewährte Techniken der Festkörperphysik wie etwa Abelsche Bosonisierung (mithilfe derer Wechselwirkungen in einer Raumdimension exakt berücksichtigt werden können), die Theorie von Luttinger Flüssigkeiten, oder die störungstheoretische Renormierungsgruppenanalyse rekapituliert. Diese Methoden werden im Weiteren benutzt, um die Korrekturen zum Leitwert eines helikalen Transportkanals zu berechnen, welche aufgrund von ausgewählten Störungen auftreten können. Ein Fokus liegt hierbei auf dem Zusammenspiel vonWechselwirkungen und Rashba Spin-Bahn-Kopplung als Quelle inelastischer Ein-Teilchen- oder Zwei-Teilchen-Rückstreuung. Mikroskopische Details wie etwa die Existenz einer Impulsobergrenze, welche das Energiespektrum beschränkt, oder die Anwesenheit von wechselwirkungsfreien Spannungskontakten, sind dabei von grundsätzlicher Bedeutung. Die charakteristische Form der vorhergesagten Korrekturen kann dazu dienen, die Struktur und die mikroskopischen Vorgänge im Inneren einer Quanten-Spin- Hall-Probe besser zu verstehen. Ein weiterer grundlegender Mechanismus ist Rückstreuung verursacht durch magnetische Momente. Aus der entsprechenden Analyse der Korrekturen zur Leitfähigkeit ergeben sich interessante Übereinstimmungen mit aktuellen Experimenten in InAs/GaSb Quantentrögen.

In this dissertation the electronic and high-energy optical properties of thin nanoscale films of the magnetic topological insulator (MTI) (V,Cr)y(BixSb1-x)2-yTe3 are studied by means of X-ray photoelectron spectroscopy (XPS) and electron energy-loss spectroscopy (EELS). Magnetic topological insulators are presently of broad interest as the combination of ferromagnetism and spin-orbit coupling in these materials leads to a new topological phase, the quantum anomalous Hall state (QAHS), with dissipation less conduction channels. Determining and controlling the physical properties of these complex materials is therefore desirable for a fundamental understanding of the QAHS and for their possible application in spintronics. EELS can directly probe the electron energy-loss function of a material from which one can obtain the complex dynamic dielectric function by means of the Kramers-Kronig transformation and the Drude-Lindhard model of plasmon oscillations. The XPS core-level spectra in (V,Cr)y(BixSb1-x)2-yTe3 are analyzed in detail with regards to inelastic background contributions. It is shown that the spectra can be accurately described based on the electron energy-loss function obtained from an independent EELS measurement. This allows for a comprehensive and quantitative analysis of the XPS data, which will facilitate future core-level spectroscopy studies in this class of topological materials. From the EELS data, furthermore, the bulk and surface optical properties were estimated, and compared to ab initio calculations based on density functional theory (DFT) performed in the GW approximation for Sb2Te3. The experimental results show a good agreement with the calculated complex dielectric function and the calculated energy-loss function. The positions of the main plasmon modes reported here are expected to be generally similar in other materials in this class of nanoscale TI films. Hence, the present work introduces EELS as a powerful method to access the high-energy optical properties of TI thin films. Based on the presented results it will be interesting to explore more systematically the effects of stoichiometry, magnetic doping, film thickness and surface morphology on the electron-loss function, potentially leading to a better understanding of the complex interplay of structural, electronic, magnetic and optical properties in MTI nanostructures. / Die vorliegende Dissertation beschäftigt sich mit den elektronischen und hochen- ergetischen optischen Eigenschaften von auf der Nanoskala dünnen Filmen des magnetischen topologischen Isolators (MTI) (V,Cr)y(BixSb1−x)2−yTe3 mithilfe von Röntgenphotoelektronenspektroskopie (engl.: X-ray photoelectron spectroscopy, XPS), sowie Elektronenenergieverlustspektroskopie (engl.: electron energy-loss spectroscopy, EELS). Magnetische topologische Isolatoren sind gegenwärtig von großem Interesse, da die Kombination von Ferromagnetismus und Spin-Bahn- Kopplung in diesen Materialien zu einer neuen topologischen Phase führt, der Quanten-Anomalen-Hall-Phase (engl.: quantum anomalous Hall state, QAHS), die sich durch verlustfreie Leitungskanäle auszeichnet. Bestimmung und Kontrolle der physikalischen Eigenschaften dieser komplexen Materialien ist somit erstrebenswert für ein fundamentales Verständnis des QAHS sowie für Anwendungen in der Spin- tronik. EELS erlaubt die direkte Untersuchung der Elektronenenergieverlustfunk- tion eines Materials, aus der man, mithilfe der Kramers-Kronig-Transformation und des Drude-Lindhard-Modells von Plasmonenoszillationen, die komplexe dynamis- che dielektrische Funktion des Materials erhält. In den XPS-Spektren der Rumpfniveaus in (V,Cr)y(BixSb1−x)2−yTe3 wird detail- liert insbesondere der Beitrag des inelastischen Untergrunds analysiert. Es kann gezeigt werden, dass, basierend auf der in einem unabhängigen EELS-Experiment gewonnenen Elektronenenergieverlustfunktion, die Rumpfniveauspektren präzise beschrieben werden können. Dies erlaubt eine umfangreiche und quantitative Anal- yse der Daten, was zukünftige Rumpfniveaustudien dieser Klasse topologischer Materialien erleichtern wird. Die mit EELS gewonnenen Daten ermöglichen weiter- hin eine Abschätzung der optischen Eigenschaften von Volumen und Oberfläche der Materialien, die in der vorliegenden Arbeit mit ab initio Berechnungen aus der Literatur für Sb2Te3 verglichen werden, welche auf Basis der Dichtefunktionaltheo- rie (DFT) in GW-näherung durchgeführt wurden. Die experimentellen Ergebnisse zeigen gute Übereinstimmungen mit der berechneten komplexen dielektrischen Funktion, sowie mit der Energieverlustfunktion. Es wird erwartet, dass die hier beschriebenen Positionen der Hauptplasmonenmoden im Allgemeinen ähnlich zu denen anderer Materialien dieser Klasse auf der Nanoskala dünner topologischer Isolatoren sind. Somit stellt die vorliegende Arbeit das EELS Experiment als eine mächtige Methode vor, die einen Zugang zu den hochenergetischen optischen Eigen- schaften dünner TIs schafft. Basierend auf den hier vorgestellten Ergebnissen bleibt es interessant sein die Auswirkungen von Stöchiometrie, magnetischer Dotierung, Filmdicke, sowie Oberflächenmorphologie auf die Energieverlustfunktion system- atischer zu untersuchen, um damit ein besseres Verständnis für das komplexe Zusammenspiel aus strukturellen, elektronischen und optischen Eigenschaften in MTI-Nanostrukturen zu erlangen.

Neue physikalische Erkenntnisse vervollständigen die Sicht auf die Welt und erschließen gleichzeitig Wege für Folgeexperimente und technische Anwendungen. Das letzte Jahrzehnt der Festkörperforschung war vom zunehmenden Fokus der theoretischen und experimentellen Erkundung topologischer Materialien geprägt. Eine fundamentale Eigenschaft ist ihre Resistenz gegenüber solchen Störungen, welche spezielle physikalische Symmetrien nicht verletzen. Insbesondere die Topologischen Isolatoren - Halbleiter mit isolierenden Volumen- sowie gleichzeitig leitenden und spinpolarisierten Oberflächenzuständen - sind vielversprechende Kandidaten zur Realisierung breitgefächerter spintronischer Einsatzgebiete. Bis zur Verwirklichung von Quantencomputern und anderer, heute noch exotisch anmutender Konzepte bedarf es allerdings ein umfassenderes Verständnis der grundlegenden, physikalischen Zusammenhänge. Diese kommen vor allem an Grenzflächen zum Tragen, weshalb oberflächensensitive Methoden bei der Entdeckung der Topologischen Isolatoren eine wichtige Rolle spielten. Im Rahmen dieser Arbeit werden daher strukturelle, elektronische und magnetische Eigenschaften Topologischer Isolatoren mittels Tieftemperatur-Rastertunnelmikroskopie und -spektroskopie sowie begleitenden Methoden untersucht. Die Veränderung der Element-Ausgangskonzentration während dem Wachstum des prototypischen Topologischen Isolators Bi2Te3 führt zur Realisierung eines topologischen p-n Übergangs innerhalb des Kristalls. Bei einem spezifischen Verhältnis von Bi zu Te in der Schmelze kommt es aufgrund unterschiedlicher Erstarrungstemperaturen der Komponenten zu einer Ansammlung von Bi- und Te-reichen Gegenden an den gegenüberliegenden Enden des Kristalls. In diesen bildet sich infolge des jeweiligen Elementüberschusses durch Kristallersetzungen und -fehlstellen eine Dotierung des Materials aus. Daraus resultiert die Existenz eines Übergangsbereiches, welcher durch Transportmessungen verifiziert werden kann. Mit der räumlich auflösenden Rastertunnelmikroskopie wird diese Gegend lokalisiert und strukturell sowie elektronisch untersucht. Innerhalb des Übergangsbereiches treten charakteristische Kristalldefekte beider Arten auf - eine Defektunterdrückung bleibt folglich aus. Dennoch ist dort der Beitrag der Defekte zum Stromtransport aufgrund ihres gegensätzlichen Dotiercharakters vernachlässigbar, sodass der topologische Oberflächenzustand die maßgeblichen physikalischen Eigenschaften bestimmt. Darüber hinaus tritt der Übergangsbereich in energetischen und räumlichen Größenordnungen auf, die Anwendungen bei Raumtemperatur denkbar machen. Neben der Veränderung Topologischer Isolatoren durch den gezielten Einsatz intrinsischer Kristalldefekte bieten magnetische Störungen die Möglichkeit zur Prüfung des topologischen Oberflächenzustandes auf dessen Widerstandsfähigkeit sowie der gegenseitigen Wechselwirkungen. Die Zeitumkehrinvarianz ist ursächlich für den topologischen Schutz des Oberflächenzustandes, weshalb magnetische Oberflächen- und Volumendotierung diese Symmetrie brechen und zu neuartigem Verhalten führen kann. Die Oberflächendotierung Topologischer Isolatoren kann zu einer starken Bandverbiegung und einer energetischen Verschiebung des Fermi-Niveaus führen. Bei einer wohldosierten Menge der Adatome auf p-dotiertem Bi2Te3 kommt die Fermi-Energie innerhalb der Volumenzustands-Bandlücke zum Liegen. Folglich wird bei Energien rund um das Fermi-Niveau lediglich der topologische Oberflächenzustand bevölkert, welcher eine Wechselwirkung zwischen den Adatomen vermitteln kann. Für Mn-Adatome kann Rückstreuung beobachtet werden, die aufgrund der Zeitumkehrinvarianz in undotierten Topologischen Isolatoren verboten ist. Die überraschenderweise starken und fokussierten Streuintensitäten über mesoskopische Distanzen hinweg resultieren aus der ferromagnetischen Kopplung nahegelegener Adsorbate, was durch theoretische Berechnungen und Röntgendichroismus-Untersuchungen bestätigt wird. Gleichwohl wird für die Proben ein superparamagnetisches Verhalten beobachtet. Im Gegensatz dazu führt die ausreichende Volumendotierung von Sb2Te3 mit V-Atomen zu einem weitreichend ferromagnetischen Verhalten. Erstaunlicherweise kann trotz der weitläufig verbreiteten Theorie Zeitumkehrinvarianz-gebrochener Dirac-Zustände und der experimentellen Entdeckung des Anormalen Quanten-Hall-Effektes in ähnlichen Probensystemen keinerlei Anzeichen einer spektroskopischen Bandlücke beobachtet werden. Dies ist eine direkte Auswirkung der dualen Natur der magnetischen Adatome: Während sie einerseits eine magnetisch induzierte Bandlücke öffnen, besetzen sie diese durch Störstellenresonanzen wieder. Ihr stark lokaler Charakter kann durch die Aufnahme ihrer räumlichen Verteilung aufgezeichnet werden und führt zu einer Mobilitäts-Bandlücke, deren Indizien durch vergleichende Untersuchungen an undotiertem und dotiertem Sb2Te3 bestätigt werden. / New physical insights make up for a more complete vision onto the world and allow for subsequent experiments and technical implementations. The last decade in solid state physics was increasingly focusing on the theoretical and experimental discovery and investigation of topological materials. A very basic property is their robustness against perturbations not violating certain physical symmetries. Especially Topological Insulators - semiconductors with insulating bulk but conducting and spin-polarized surface states - are promising candidates for the attainment of a wide spectrum of spintronics applications. Till realization of quantum computing and up to now futuristically sounding concepts a deeper understanding of the fundamental physics is required. Since topological properties usually manifest at boundaries, surface sensitive techniques played a substantial role in the exploration of Topological Insulators. Within this thesis structural, electronic and magnetic properties of Topological Insulators are investigated by means of scanning tunneling microscopy and spectrocopy and supporting methods. Variation of the initial elemental concentration in the crystal growth process of the prototypical Topological Insulator Bi2Te3 leads to the realization of a topological p-n junction within the crystal. At a certain elemental ratio in the melt excess of Bi and Te will be obtained at the opposing ends of the crystal due to the different solidification temperatures. In these areas vacancies and substitutions give rise to p- and n-type doping, respectively. This implies the very existence of an intrinsic transition area, which can by verified by transport experiments. The junction area can be localized and structurally as well as spectroscopically examined by means of scanning tunneling microscopy. It can be shown that in the vicinity of this transition region both types of characteristic defects are present. This indicates that defects are not suppressed but compensated in this region. Nevertheless their contribution to bulk transport is minimal because of their opposite doping character, letting the topological surface state dominate the relevant physical properties. Furthermore the transition region meets the energetic and spatial dimensions that are promising for applications at room temperature. Besides the manipulation of Topological Insulators by using intrinsic crystallographic defects, magnetic perturbations are a powerful method to test the robustness of and the interaction with the topological surface state. Since Topological Insulators are initially protected by the time-reversal symmetry, magnetic surface and bulk doping can lift this protection and give rise to novel phenomena. Surface magnetic doping of Topological Insulators with Co- and Mn-adatoms can yield for a rigid band bending and a shift of the Fermi level. At a well defined amount of dopants in the p-type Bi2Te3 the Fermi energy lies in the bulk bandgap. Therefore, at energies close to the Fermi level only the topological surface state is occupied and can mediate inter-adsorbate interactions. In the case of Mn-doping backscattering is observed that is forbidden on undoped Topological Insulators due to the time-reversal symmetry. As evidenced by theory and x-ray magnetic circular dichroism ferromagnetic coupling between adsorbates gives rise to surprisingly strong and focused scattering intensities. However, long-ranging ferromagnetic order is absent but superparamagnetic characteristics can be detected. In contrast to surface doping sufficient bulk doping of Sb2Te3 with V-atoms can give rise to long-range ferromagnetic order. Surprisingly, a spectral bandgap is absent despite the general assumed theoretical framework of time-reversal symmetry gapped Dirac states and the discovery of the quantum anomalous hall effect in similar sample systems. This is figured out to be a direct consequence of the dual nature of the magnetic dopants: while on the one hand opening up a magnetization induced gap, they fill it by creating intragap states. Their local character, visualized by mapping of their spatial distribution, leads to a mobility gap that is confirmed by direct comparison of the undoped and V-doped Topological Insulator by means of Landau level spectroscopy.