Dans cette thèse, les domaines diamagnétiques appelés « domaines de Condon » sont étudiés. L'origine de ces domaines est la quantification des états d'énergie des électrons soumis à un champ magnétique en niveaux de Landau conduisant à l'effet de Haas-van Alphen (dHvA). Pour la première fois, la structure magnétique des domaines de Condon est détectée à la surface d'un échantillon en argent à l'aide d'une sonde locale de l'aimantation. Pour ce faire, un réseau contenant cinq microsondes de Hall ayant une résolution spatiale d'une dizaine de micromètres et une résolution magnétique de 1e-4 est utilisé. La période de la structure des domaines et l'épaisseur des parois sont estimées. L'hystérèse est observée dans l'effet dHvA en présence de domaines de Condon. La boucle d'hystérèse est détectée par les sondes de Hall DC et par des mesures standard de susceptibilité AC. La détection de l'hystérèse par la technique AC offre une méthode très sensible avec laquelle les diagrammes de phase des domaines de Condon sont déterminés pour un échantillon d'argent et pour un échantillon de béryllium.

Dans une première partie, nous développons la théorie analytique des effets de Haas-van Alphen (oscillations d'aimantation) et Shubnikov-de Haas (oscillations de magnétorésistance) dans les systèmes électroniques quasi-bidimensionnels, qui sont constitués de couches très bonnes conductrices avec une faible dispersion des quasi-particules entre les plans. Nous montrons que l'application d'un champ magnétique perpendiculairement aux couches a pour effet de réduire la dimensionnalité apparente du système. A fort champ magnétique, le comportement des oscillations d'aimantation est proche de celui d'un gaz d'électrons bidimensionnel. Nous étudions en détail l'influence des oscillations du potentiel chimique sur la forme des oscillations de Haas-van Alphen en présence d'une ou de plusieurs bandes d'états au niveau de Fermi. Nous dérivons également une expression pour les oscillations d'aimantation dans l'état mixte supraconducteur. Nous calculons enfin les oscillations de la magnétorésistance longitudinale dans le cadre de la théorie du transport quantique pour un modèle d'impuretés ponctuelles. A fort champ magnétique nous trouvons des oscillations géantes avec un comportement thermiquement activé des maxima de résistance.<br /><br />Dans une deuxième partie, nous étudions les propriétés de l'état mixte dans le supraconducteur non-conventionnel UPt3 pour un champ magnétique parallèle à l'axe hexagonal du cristal principalement dans le cadre des modèles théoriques d'un état supraconducteur à deux composantes couplé avec un champ briseur de symétrie. Nous examinons la structure du réseau de vortex dans la phase A de UPt3 à partir de considérations de symétrie et de l'approximation locale de London, et montrons que seul l'état supraconducteur de symétrie E2u peut rendre compte des observations expérimentales. Nous mettons également en évidence que la transition entre les phases mixtes A et B est plutôt un crossover qu'une transition de phase du second ordre à cause de la présence de termes de gradients de mélange dans l'expression de l'énergie libre de Ginzburg-Landau. Enfin, nous démontrons que la dépendance de la pente du second champ critique au niveau de la température critique en fonction du taux d'impuretés n'est pas sensible à la symétrie de l'état supraconducteur.