Ce travail porte sur la dynamique quantique des aimants moléculaires Fe8 et Mn6. Dans nos expériences nous utilisons des micro-sondes à effet Hall pour la mesure de la dynamique de l'aimantation. Ces sondes ont un domaine de fonctionnement très large en température et en champ magnétique et elles permettent d'avoir une résolution temporelle de la dynamique de l'aimantation bien inférieure à la microseconde.<br /><br />La première partie présente des mesures d'aimantation résolues en temps de l'aimant moléculaire Fe8. Nous présentons plusieurs expériences indépendantes, qui mettent en évidence les différents couplages entre les spins et qui permettent d'observer la dynamique quantique des spins moléculaires. Les études de la dynamique de l'aimantation nous donne un accès direct au processus de relaxation de spin, en particulier ces études nous permettent d'étudier l'interaction entre spins et phonons. Dans ce contexte nous avons développé une technique « pompe-sonde » avec deux impulsions de micro-ondes décalées en temps pour étudier la dynamique très rapide des spins.<br /><br />La deuxième partie concerne les mesures d'aimantation de l'aimant moléculaire Mn6 par magnétométrie Hall. De nombreuses mesures dans différents régimes en température et en champ magnétique nous permettent de caractériser les propriétés magnétiques de la molécule. Finalement, des simulations numériques qui s'appuient sur un modèle dimérique de la molécule (en présence des termes d'interaction par échange symétriques et antisymétriques) nous permettent d'expliquer théoriquement les transitions par effet tunnel.

Effets quantiques mésoscopiques d'ions de terres rares faiblement couplés. Quel peut-être l'apport d'ions de terres rares fortement dilués au magnétisme mésoscopique ? Ce travail décrit l'origine d'une dynamique quantique lente du renversement du moment magnétique d'un ion Ho$^(3+)$, en présence d'une forte anisotropie uniaxiale (retournement d'un aimant atomique par effet tunnel sous la barrière d'anisotropie). Dans le monocristal quadratique LiYF$_4$, les mécanismes de relaxation paramagnétique dus aux couplages spin-phonons sont inefficaces à très basse température, et l'allure singulière des cycles d'hystérésis observés à faible vitesse de balayage du champ appliqué selon l'axe de facile aimantation, en marches d'escalier, révèle un effet de mécanique quantique non stationnaire. Ces transitions non adiabatiques correspondent au retournement cohérent du moment électronique et du spin nucléaire d'un ion Ho$^(3+)$ quasi-isolé (couplage hyperfin fort). La dynamique quantique d'un centre tunnel est cependant rendue incohérente par de faibles couplages à l'environnement de spins nucléaires, ceux des ions diamagnétiques de la matrice d'accueil non magnétique. De plus, en présence d'un phénomène dit de goulot d'étranglement des phonons, l'allure des cycles mesurés est fortement modifiée à plus grande vitesse de balayage du champ. Des sauts supplémentaires, attribués à une dynamique quantique à plusieurs ions (relaxations croisées), apparaissent pour d'autres champs résonants. Une interprétation à deux ions démontre que des transitions de co-tunnel à deux ions et des transitions tunnel à un ion décalées par les interactions dipolaires dominent la relaxation dans ce régime tunnel, en accord avec des mesures de susceptibilité alternative à T>1.75K. Les ions dilués de terres rares constituent non seulement une alternative aux aimants moléculaires pour une compréhension plus approfondie du magnétisme mésoscopique, mais ils permettent aussi d'envisager sérieusement l'observation de la cohérence quantique en magnétisme ainsi que l'étude des phénomènes de dissipation/décohérence, notamment dus aux porteurs libres. En outre, la mise en évidence d'une dynamique quantique à plusieurs corps apporte des éléments nouveaux à l'étude de la nature des fluctuations quantiques dans des systèmes complexes, comme dans les verres de spins.