<p> Effects of electron correlations on a two dimensional quantum spin Hall system are studied. We examine possible phases of a generalized Hubbard model on a bilayer honeycomb lattice with a spin-orbit coupling and short range electron-electron repulsions at half filling, based on the slave rotor mean-field theory. The phase diagram of the model is found for a special case where the interlayer Coulomb repulsion is comparable to the intralayer Coulomb repulsion.</p> <p> Besides the conventional quantum spin Hall phase and a broken-symmetry insulating phase, we find a new phase, a fractionalized quantum spin Hall phase, where the quantum spin Hall effect arises for fractionalized spinons which carry only spin but not charge. Experimental manifestations of the exotic phase and effects of fluctuations beyond the saddle point approximation are also discussed.</p> <p> We finally study a toy Bose-Hubbard model for the charge sector of the theory to gain some insight into the phase diagram away from the special Coulomb repulsion values.</p> / Thesis / Master of Science (MSc)

The recent discoveries of topological insulators (TI) has opened a new realm for study¬ing topological systems and exploring the exotic properties they offer. The in-built topological protection against direct backscattering and absence of localization makes two-dimensional (2D) surface states of bismuth chalcogenide-based strong TI a promising platform for studying interesting phenomena in condensed matter physics like dissipation-less transport, quantum anomalous hall effect, topological magnetoelectric effect, majo¬rana fermions etc. and also makes this system very suitable for applications in the fields of electronics and spintronics. However, realization of these novel states can be difficult because of scattering of surface states from different types of disorders (intrinsic or ex¬trinsic) or the presence of parallel channels in the bulk of the sample which can dominate over surface transport. The main goal of this thesis is to evaluate the performance of TI as an electronic element and look into elastic and inelastic scattering processes and kinetics of these scatterers. In most part of this work we concentrate on the magnitude and origin of low-frequency flicker noise or the 1/f-noise, a key performance marker in electronics, to characterize the electrical transport in TI. In this work we have studied 1/f-noise in both mechanically exfoliated TI-flakes and epitaxially grown TI films by varying chemical potential and temperature. Our study of exfoliated TI-flakes with a wide range of thickness (10 nm to 80 μm) suggests that whereas at thinner (<100 nm) samples and at low temperature (<70 K), the electrical transport happens entirely at the surface, resistance fluctuations in the surface states are mainly caused by potential fluctuations caused by generation-recombination processes in the bulk of TI. Study of 1/f-noise in MBE-grown magnetically doped TI reveals signature of hopping transport through localized bulk mid gap states. These states can either be Cr-impurity band or disorder-induced mobility edge states of bulk valence band. Our study of quantum transport in exfoliated TI-devices indicate presence of a de-coherence mechanism which saturates phase-coherence length and temperature below T< 3 K and results from a unique scattering mechanism caused by localized magnetic moments in these systems

Neste trabalho foram estudadas as fases topológicas não triviais presentes em sistemas formados pela deposição de átomos de grafeno. Encontramos que quando um átomo hibridiza fortemente com o grafeno, apresenta um momento magnético e um forte spin-órbirta é possível a formação de uma rede hexagonal de baricentros que efetivamente gera uma estrutura de bandas característica de um efeito hall quântico anômalo. Especificamente, determinamos que o Ru satisfaz estas características. Quando este metal é depositado em uma configuração triangular no grafeno ocorrem picos na densidade de estados localizados no centro geométrico (baricentro) dos triângulos formados pelos Ru. Estes picos estão distribuídos de forma hexagonal e efetivamente geram uma estrutura de bandas que nas proximidades do nível de Fermi apresenta uma configuração de spin característica do efeito Hall quântico anômalo. Adicionalmente, encontramos que o sistema composto pela absorção de Ba ou Sr no grafeno favorece a formação do efeito Hall quântico de spin. Neste sistema, o acoplamento spin-órbita (SOC) gera um gap mais de 1000 vezes maior ao período no grafeno prístino. Para o estudo destes sistemas, implementamos no código SIESTA a aproximação on-site do acoplamento spin-órbita via o formalismo dos pseudopotenciais relativísticos de norma conservada. Nossa implementação foi testada a partir do estudo de fenômenos já conhecidos: i) o strong spin-splitting gerado no grafeno pela adsorção de Au, ii) o efeito hall quântico de spin no poço quântico de HgTe/CdTe e, iii) a formação de estados topológicos na superfície do Bi2Se3 e as fases magnéticas deste material com átomos de Mn adsorvidos. / In this work, were studied the non-trivial topological phases present in systems formed by deposition of atoms in graphene. We found that when an atom hybridizes strongly with grapheme, has a magnetic moment and a strong spin-orbit it is possible the formation of a hexagonal network of barycentres that effectively generates a structure band characteristic of a quantum anomalous Hall effect. Specifically, we determined that Ru satisfies these characteristics. When this metal is deposited in a triangular configuration in grapheme, peaks occur in the density of localized states in the geometric center (centroid) of the triangles formed by Ru. These peaks are distributed in a hexagonal structure and effectively generates a band structure that near the Fermi level has a spin configuration characteristic of the spin quantum Hall effect anomalous. Additionally, we found that the system composed by the adsorption of Ba or Sr in grapheme, promotes the formation of spin quantum Hall effect. In this system, the spin-orbit coupling (SOC) generates a gap more than 1000 times grater that predicted in pristine praphene. To study these systems, wu implemented in the code SIESTA the on-site approach of the spin-orbit coupling throught the formalism of norm conserved relativistic pseudo potentials. Our implementation was tested from the study of phenomena already known: i) the strong spin-splitting generated in graphene by adsorption of Au, ii) the quantum spin Hall effect in quantum well of HgTe / CdTe and, iii) formation of topological states in the surface of Bi2Se3 and the magnetic of this material with Mn atoms adsorved.

Neste trabalho foram estudadas as fases topológicas não triviais presentes em sistemas formados pela deposição de átomos de grafeno. Encontramos que quando um átomo hibridiza fortemente com o grafeno, apresenta um momento magnético e um forte spin-órbirta é possível a formação de uma rede hexagonal de baricentros que efetivamente gera uma estrutura de bandas característica de um efeito hall quântico anômalo. Especificamente, determinamos que o Ru satisfaz estas características. Quando este metal é depositado em uma configuração triangular no grafeno ocorrem picos na densidade de estados localizados no centro geométrico (baricentro) dos triângulos formados pelos Ru. Estes picos estão distribuídos de forma hexagonal e efetivamente geram uma estrutura de bandas que nas proximidades do nível de Fermi apresenta uma configuração de spin característica do efeito Hall quântico anômalo. Adicionalmente, encontramos que o sistema composto pela absorção de Ba ou Sr no grafeno favorece a formação do efeito Hall quântico de spin. Neste sistema, o acoplamento spin-órbita (SOC) gera um gap mais de 1000 vezes maior ao período no grafeno prístino. Para o estudo destes sistemas, implementamos no código SIESTA a aproximação on-site do acoplamento spin-órbita via o formalismo dos pseudopotenciais relativísticos de norma conservada. Nossa implementação foi testada a partir do estudo de fenômenos já conhecidos: i) o strong spin-splitting gerado no grafeno pela adsorção de Au, ii) o efeito hall quântico de spin no poço quântico de HgTe/CdTe e, iii) a formação de estados topológicos na superfície do Bi2Se3 e as fases magnéticas deste material com átomos de Mn adsorvidos. / In this work, were studied the non-trivial topological phases present in systems formed by deposition of atoms in graphene. We found that when an atom hybridizes strongly with grapheme, has a magnetic moment and a strong spin-orbit it is possible the formation of a hexagonal network of barycentres that effectively generates a structure band characteristic of a quantum anomalous Hall effect. Specifically, we determined that Ru satisfies these characteristics. When this metal is deposited in a triangular configuration in grapheme, peaks occur in the density of localized states in the geometric center (centroid) of the triangles formed by Ru. These peaks are distributed in a hexagonal structure and effectively generates a band structure that near the Fermi level has a spin configuration characteristic of the spin quantum Hall effect anomalous. Additionally, we found that the system composed by the adsorption of Ba or Sr in grapheme, promotes the formation of spin quantum Hall effect. In this system, the spin-orbit coupling (SOC) generates a gap more than 1000 times grater that predicted in pristine praphene. To study these systems, wu implemented in the code SIESTA the on-site approach of the spin-orbit coupling throught the formalism of norm conserved relativistic pseudo potentials. Our implementation was tested from the study of phenomena already known: i) the strong spin-splitting generated in graphene by adsorption of Au, ii) the quantum spin Hall effect in quantum well of HgTe / CdTe and, iii) formation of topological states in the surface of Bi2Se3 and the magnetic of this material with Mn atoms adsorved.

Este trabalho apresenta as propriedades de transporte eletrônico de isolantes topológicos bidimensionais (TI) baseados em poços quânticos de HgTe/CdTe. Estas heteroestruturas, no regime de bandas invertido, contem um novo estado conhecido como isolante de spin Hall quântico (QSHI). Este estado apresenta um comportamento de isolante no corpo (bulk), mas exibe estados condutores sem lacunas nas bordas (edges), as quais podem ser verificadas em medidas de transporte. Medidas de resistência de quatro terminais foram observadas perto do valor quantizado em amostras mesoscópicas. No entanto, para amostras com mais de um m, a resistência pode ser muito maiores que h/2e2 devido à presença de defasagem de spin, não homogeneidade ou desordem na amostra. Esta tese aborda o problema da resistência não quantizado observada em amostras macroscópicas de dimensões maiores a algum mícron. Nós relatamos observação e investigação sistemática de transporte local e não local em poços quânticos de HgTe (8.0-8.3 nm) com estrutura de banda invertida correspondente à fase de isolante de spin Hall quântico. O dispositivo MCT1 consiste de três segmentos consecutivos de largura 4 m e de comprimentos diferentes (2 m, 8 m, 32 m), e sete sondas de tensão. O dispositivo MCT2 foi fabricado com um comprimento litográfico de 6 m e largura 5 m. Ambos dispositivos estão equipados com uma porta superior (top gate), que permite ajustar a densidade de portadores do dispositivo. A aplicação de uma tensão de porta muda a densidade de portadores, transformando a condutividade do poço quântico de tipo n para tipo p através de uma fase intermediária chamada de ponto a neutralidade de carga (CNP). Picos acentuados não universais (R >> h/2e2) em ambas as resistividades, local e não local, foram observados próximos ao CNP os quais diminuem rapidamente a medida que se afasta do CNP. Tal comportamento próximo ao CNP pode ser explicado usando o modelo de transporte de bordas (edge) e corpo (bulk), que inclui tanto os estados de borda como o corpo para a contribuição à corrente. O desvio dos valores da resistência de quarto terminais do valor quantizado (R >> h/2e2) em amostras macroscópicas com dimensões acima de algum mícron é um dos principais problemas no campo dos isolantes topológicos. Recentemente foi proposto um modelo por Vayrynen et al., onde tem sido considerado a influência de poças de carga, resultantes de distribuições de carga não homogêneas em isolantes topológicos 2d, na condutância de estados de borda helicoidal. Os estados de borda são acoplados por tunelamento a essas poças metálicas ou pontos quânticos. A permanência dos elétrons em pontos quânticos pode levar a um retroespalhamento inelástico significativo dentro da borda e modifica o transporte balístico. Portanto transporte balístico coerente é esperado somente na região entre poças, e o total de resistência de quatro terminais excede o valor quantizado. Introduzindo as interações elétron-elétron em sistemas de uma dimensão resulta em um liquido de Luttinger (LL). Os estados de borda helicoidais em isolantes topológicos 2d, podem ser tratados como um líquido de Luttinger ideal, uma vez que, naturalmente, aparecem em poços quânticos de HgTe. Entre as várias assinaturas específicas do comportamento do LL, como a dependência da temperatura, é importante se concentrar nas propriedades de não equilíbrio do LL. Em contraste com os líquidos de Fermi convencionais, nenhum estado excitado decairá ao estado de equilíbrio, caracterizado pela temperatura, na ausência de desordem. Medidas de elétron-aquecimento podem ser usadas para entender a física que governa os processos de relaxamento em LL. Nós temos realizado medidas de transporte não linear no CNP em isolantes topológicos 2d de HgTe. Este método, juntamente com a dependência da resistência com a temperatura, pode ser utilizado para determinar o mecanismo de relaxação da energia dos estados de borda helicoidais em QSHI. Nosso experimento falhou em confirmar as assinaturas especificas do comportamento do líquido de Luttinger. No entanto, o efeito de aquecimento de elétron pode ser descrito pelo mecanismo convencional de relaxamento de energia, esperado para espalhamento elétron-fônon. / This thesis present electronic transport properties of two-dimensional topological insulators (TI) based on HgTe/CdTe quantum wells. These heterostructures, in the band inverted regime, hosts a novel state known as the quantum spin Hall insulator. This state is identified as insulator in the bulk, but exhibits gapless conducting states at their edges which can be verified in transport experiments. Four-terminal resistance close to the quantized value has been observed in mesoscopic samples. However, for samples longer than 1 m, the resistance might be much higher than h/2e2 due to the presence of spin dephasing, inhomogeneity or disorder in the sample. This thesis address the problem of non-quantized resistance observed in macroscopic samples of dimensions longer than few microns. We report on the observation and a systematic investigation of local and nonlocal transport in HgTe quantum wells (8.0-8.3 nm) with inverted band structure corresponding to the quantum spin Hall insulating (QSHI) phase. The device MCT1 consists of three 4 m wide consecutive segments of different length (2 m, 8 m, 32 m), and seven voltage probes. The device MCT2 was fabricated with a lithographic length 6 m and width 5 m. Both devices are equipped with a top gate which allows tuning the carrier density of the device. Applying gate bias changes the carrier density transforming the quantum well conductivity from n-type to p-type via an intermediate phase, called the charge neutrality point (CNP). Non-universal (R >> h/2e2) peaks in both local and nonlocal resistivity were observed near the CNP which decreases rapidly going away from CNP. Such a behavior near CNP can be explained using the edge plus bulk transport model, which includes both the edge states and bulk contribution to the total current. Deviation of the four-terminal resistance from quantization (R >> h/2e2) in macroscopic samples, with dimensions above a few microns, is one of the major issue in the field of topological insulators. Recently a model was proposed by Vayrynen et al., where influence of charge puddles, resulting from inhomogeneous charge distribution in 2d topological insulators, on its helical edge conductance has been considered. The edge states are tunnel coupled to these metallic puddles or quantum dots. Electron´s dwelling in the quantum dot may lead to significant inelastic backscattering within the edge and modifies the ballistic transport. Therefore ballistic coherent transport is expected only in the region between the puddles, and the total four-terminal resistance exceeds the quantized value. Introducing electron-electron interactions in one-dimensional systems results in a Luttinger liquid (LL). The helical edge states in 2d topological insulator, can be treated as ideal Luttinger liquid, since it naturally appears in HgTe quantum wells. Among the various specific signatures of the LL behavior, such as temperature dependence, it is important to focus on non-equilibrium properties of LL. In contrast to conventional Fermi liquids, none of the excited state will decay to equilibrium state, characterized by temperature, in the absence of disorder. Electron-heating measurements can be used to understand the physics governing relaxation processes in LL. We have performed non-linear transport measurements at the CNP in HgTe based 2d topological insulators. This method together with temperature dependence of resistance can be used to determine the energy relaxation mechanism of the helical edge modes in QSHI. Our experiments fail to confirm the specific signatures of Luttinger liquid behavior. However, electron heating effect can be described by conventional energy relaxation mechanism, expected for electron-phonon interactions.

<p>In this overview I describe the simplest models for the quantum Hall and quantum spin Hall effects, and give some general indications as to the description of topological insulators. As a background to the theoretical models I will first trace the development leading up to the description of topological insulators . Then I will present Laughlin's original model for the quantum Hall effect and briefly discuss its limitations. After that I will describe the Kane and Mele model for the quantum spin Hall effect in graphene and discuss its relation to a general quantum spin Hall system. I will conclude by giving a conceptual description of topological insulators and mention some potential applications of such states.</p>

In this overview I describe the simplest models for the quantum Hall and quantum spin Hall effects, and give some general indications as to the description of topological insulators. As a background to the theoretical models I will first trace the development leading up to the description of topological insulators . Then I will present Laughlin's original model for the quantum Hall effect and briefly discuss its limitations. After that I will describe the Kane and Mele model for the quantum spin Hall effect in graphene and discuss its relation to a general quantum spin Hall system. I will conclude by giving a conceptual description of topological insulators and mention some potential applications of such states.

Este trabalho apresenta as propriedades de transporte eletrônico de isolantes topológicos bidimensionais (TI) baseados em poços quânticos de HgTe/CdTe. Estas heteroestruturas, no regime de bandas invertido, contem um novo estado conhecido como isolante de spin Hall quântico (QSHI). Este estado apresenta um comportamento de isolante no corpo (bulk), mas exibe estados condutores sem lacunas nas bordas (edges), as quais podem ser verificadas em medidas de transporte. Medidas de resistência de quatro terminais foram observadas perto do valor quantizado em amostras mesoscópicas. No entanto, para amostras com mais de um m, a resistência pode ser muito maiores que h/2e2 devido à presença de defasagem de spin, não homogeneidade ou desordem na amostra. Esta tese aborda o problema da resistência não quantizado observada em amostras macroscópicas de dimensões maiores a algum mícron. Nós relatamos observação e investigação sistemática de transporte local e não local em poços quânticos de HgTe (8.0-8.3 nm) com estrutura de banda invertida correspondente à fase de isolante de spin Hall quântico. O dispositivo MCT1 consiste de três segmentos consecutivos de largura 4 m e de comprimentos diferentes (2 m, 8 m, 32 m), e sete sondas de tensão. O dispositivo MCT2 foi fabricado com um comprimento litográfico de 6 m e largura 5 m. Ambos dispositivos estão equipados com uma porta superior (top gate), que permite ajustar a densidade de portadores do dispositivo. A aplicação de uma tensão de porta muda a densidade de portadores, transformando a condutividade do poço quântico de tipo n para tipo p através de uma fase intermediária chamada de ponto a neutralidade de carga (CNP). Picos acentuados não universais (R >> h/2e2) em ambas as resistividades, local e não local, foram observados próximos ao CNP os quais diminuem rapidamente a medida que se afasta do CNP. Tal comportamento próximo ao CNP pode ser explicado usando o modelo de transporte de bordas (edge) e corpo (bulk), que inclui tanto os estados de borda como o corpo para a contribuição à corrente. O desvio dos valores da resistência de quarto terminais do valor quantizado (R >> h/2e2) em amostras macroscópicas com dimensões acima de algum mícron é um dos principais problemas no campo dos isolantes topológicos. Recentemente foi proposto um modelo por Vayrynen et al., onde tem sido considerado a influência de poças de carga, resultantes de distribuições de carga não homogêneas em isolantes topológicos 2d, na condutância de estados de borda helicoidal. Os estados de borda são acoplados por tunelamento a essas poças metálicas ou pontos quânticos. A permanência dos elétrons em pontos quânticos pode levar a um retroespalhamento inelástico significativo dentro da borda e modifica o transporte balístico. Portanto transporte balístico coerente é esperado somente na região entre poças, e o total de resistência de quatro terminais excede o valor quantizado. Introduzindo as interações elétron-elétron em sistemas de uma dimensão resulta em um liquido de Luttinger (LL). Os estados de borda helicoidais em isolantes topológicos 2d, podem ser tratados como um líquido de Luttinger ideal, uma vez que, naturalmente, aparecem em poços quânticos de HgTe. Entre as várias assinaturas específicas do comportamento do LL, como a dependência da temperatura, é importante se concentrar nas propriedades de não equilíbrio do LL. Em contraste com os líquidos de Fermi convencionais, nenhum estado excitado decairá ao estado de equilíbrio, caracterizado pela temperatura, na ausência de desordem. Medidas de elétron-aquecimento podem ser usadas para entender a física que governa os processos de relaxamento em LL. Nós temos realizado medidas de transporte não linear no CNP em isolantes topológicos 2d de HgTe. Este método, juntamente com a dependência da resistência com a temperatura, pode ser utilizado para determinar o mecanismo de relaxação da energia dos estados de borda helicoidais em QSHI. Nosso experimento falhou em confirmar as assinaturas especificas do comportamento do líquido de Luttinger. No entanto, o efeito de aquecimento de elétron pode ser descrito pelo mecanismo convencional de relaxamento de energia, esperado para espalhamento elétron-fônon. / This thesis present electronic transport properties of two-dimensional topological insulators (TI) based on HgTe/CdTe quantum wells. These heterostructures, in the band inverted regime, hosts a novel state known as the quantum spin Hall insulator. This state is identified as insulator in the bulk, but exhibits gapless conducting states at their edges which can be verified in transport experiments. Four-terminal resistance close to the quantized value has been observed in mesoscopic samples. However, for samples longer than 1 m, the resistance might be much higher than h/2e2 due to the presence of spin dephasing, inhomogeneity or disorder in the sample. This thesis address the problem of non-quantized resistance observed in macroscopic samples of dimensions longer than few microns. We report on the observation and a systematic investigation of local and nonlocal transport in HgTe quantum wells (8.0-8.3 nm) with inverted band structure corresponding to the quantum spin Hall insulating (QSHI) phase. The device MCT1 consists of three 4 m wide consecutive segments of different length (2 m, 8 m, 32 m), and seven voltage probes. The device MCT2 was fabricated with a lithographic length 6 m and width 5 m. Both devices are equipped with a top gate which allows tuning the carrier density of the device. Applying gate bias changes the carrier density transforming the quantum well conductivity from n-type to p-type via an intermediate phase, called the charge neutrality point (CNP). Non-universal (R >> h/2e2) peaks in both local and nonlocal resistivity were observed near the CNP which decreases rapidly going away from CNP. Such a behavior near CNP can be explained using the edge plus bulk transport model, which includes both the edge states and bulk contribution to the total current. Deviation of the four-terminal resistance from quantization (R >> h/2e2) in macroscopic samples, with dimensions above a few microns, is one of the major issue in the field of topological insulators. Recently a model was proposed by Vayrynen et al., where influence of charge puddles, resulting from inhomogeneous charge distribution in 2d topological insulators, on its helical edge conductance has been considered. The edge states are tunnel coupled to these metallic puddles or quantum dots. Electron´s dwelling in the quantum dot may lead to significant inelastic backscattering within the edge and modifies the ballistic transport. Therefore ballistic coherent transport is expected only in the region between the puddles, and the total four-terminal resistance exceeds the quantized value. Introducing electron-electron interactions in one-dimensional systems results in a Luttinger liquid (LL). The helical edge states in 2d topological insulator, can be treated as ideal Luttinger liquid, since it naturally appears in HgTe quantum wells. Among the various specific signatures of the LL behavior, such as temperature dependence, it is important to focus on non-equilibrium properties of LL. In contrast to conventional Fermi liquids, none of the excited state will decay to equilibrium state, characterized by temperature, in the absence of disorder. Electron-heating measurements can be used to understand the physics governing relaxation processes in LL. We have performed non-linear transport measurements at the CNP in HgTe based 2d topological insulators. This method together with temperature dependence of resistance can be used to determine the energy relaxation mechanism of the helical edge modes in QSHI. Our experiments fail to confirm the specific signatures of Luttinger liquid behavior. However, electron heating effect can be described by conventional energy relaxation mechanism, expected for electron-phonon interactions.

Les travaux présentés dans cette thèse ont pour objectif d’apporter à la physique mésoscopique un éclairage concernant la compréhension des propriétés de transport électroniques d’une classe de matériaux récemment découverts : les isolants topologiques.La première partie de ce manuscrit est une introduction aux isolants topologiques, mettant en partie l’accent sur leurs spécificités par rapport aux isolants "triviaux" : des états de bords hélicaux (dans le cas de l’effet Hall quantique de spin en 2 dimensions) ou de surface relativistes (pour les isolants topologiques tridimensionnels) robustes vis-à-vis du désordre.La deuxième partie propose une sonde de l’hélicité des états de bords de l’effet Hall quantique de spin en étudiant les propriétés remarquables de l’injection de paires de Cooper dans cette phase topologique.La troisième partie étudie la diffusion des états de surface des isolants topologiques tridimensionnels dans le régime cohérent de phase. L’étude de la diffusion, de la correction quantique à la conductance (antilocalisation faible) et de l’amplitude des fluctuations universelles de conductance de fermions de Dirac sans masse est présentée. Cette étude est aussi menée dans la cas d’états de surface dont la surface de Fermi présente la déformation hexagonale observée expérimentalement. / The works presented in this thesis intend to contribute to condensed matter physics in the understanding of the electronic properties of a recently discovered class of materials : the topological insulators.The first part of this memoir is an introduction to topological insulators, focusing on their specifities compared to "trivial" insulators : helical edge states (in the two dimensional quantum spin Hall effect) or relativistic surface states (for three dimensional topological insulators) both robust agiant disorder.The second part proposes a new way to probe the unique properties of the helical edge states of quantum spin Hall effect via the injection of Cooper pair from a superconductor.The third part deals with the diffusion of the three dimensional topological insulator surface states, in the phase coherent regime. The diffusion, the quantum correction to conductivity, and the amplitude of the universal conductance fluctuations are studied. This study is also led in the experimentally relevant case where the Fermi surface presents a hexagonal deformation.