Cette thèse est une étude par diffusion neutronique des pyrochlores Tb2Ti2O7 et Pr2Zr2O7. Ces composés, pour lesquels les ions magnétiques sont des ions Non-Kramers (NK), sont présentés comme de potentielles glaces de spin quantiques. Dans Pr2Zr2O7, l'étude des réponses élastique et inélastique et des structures induites sous champ nous amènent à conclure que l'état fondamental serait une recombinaison du doublet fondamental de champ cristallin (CEF) du fait de l'existence de termes multipolaires dans l'Hamiltonien. Ces termes seraient dus à un couplage magnéto-cristallin. Dans l'approximation de champ moyen, un modèle local de distorsion structurale semble en effet reproduire nos résultats. Dans Tb2Ti2O7, malgré de notables différences avec Pr2Zr2O7, nos mesures indiquent qu'un mécanisme semblable de mélange des fonctions d'onde du doublet fondamental de CEF a lieu. Ce mélange impliquerait des termes multipolaires également dus au couplage magnéto-cristallin et nous avons pu observer une signature directe de ce couplage. Les mécanismes en jeu dans ces systèmes ne seraient pas ceux proposés pour les glaces de spin quantiques mais dus à la sensibilité des ions NK à leur environnement. L'étude de composés non-st¿chiométriques montre la réactivité du magnétisme aux perturbations. / This work is the neutron scattering study of the pyrochlores Tb2Ti2O7 and Pr2Zr2O7. These compounds where magnetic ions are Non-Kramers ions are expected to be quantum spin ices. In Pr2Zr2O7, the study of the elastic and inelastic response together with the study of the magnetic structures in applied magnetic field lead to the conclusion that the magnetic ground state is a mixing of the wave functions of the crystal-field ground state doublet because of quadrupolar terms in the Hamiltonian. These terms would originate from a coupling to the lattice. Using the mean-field approximation, a model based on a local structural distortion reproduces quite well our measurements. Despite strong differences with Pr2Zr2O7, our measurements provide evidence for a similar mechanism in Tb2Ti2O7. Again, this would be caused by multipolar terms in the Hamiltonian reflecting a strong coupling of the magnetic moments to the lattice. Then, these pyrochlores would not be quantum spin ices. Instead, the extreme sensibility to the environment characteristic of the Non-Kramers ions would lead to these fluctuations. Our measurements of samples slightly off-stoichiometry emphases the strong reactivity of the magnetic behavior of these compounds.

Durant ces dernières décennies, les composés de basse dimensionnalité à gap de spin ont été largement étudiés grâce notamment à l'aide qu'ils peuvent apporter dans la compréhension de la frontière entre le comportement purement quantique d'un spin isolé et le comportement classique d'un ensemble de spins. Parmi ces composés à gap de spin nous pouvons citer les chaînes alternées de spins 1/2, les composés présentant une transition spin-Peierls ou les systèmes comportant un nombre pair de spins avec un couplage d'échange antiferromagnétique (AF) entre eux. Parmi les méthodes d'étude expérimentale de ces systèmes, la Résonance de Spin Electronique (RSE) fait partie des plus puissantes parce qu'elle est très sensible aux interactions anisotropes dans ces composés. Malgré les multiples données RSE obtenues sur ces composés, l'interprétation du profil de variation thermique de la largeur de raie RSE et du facteur g reste quand même problématique à cause de l'absence de théories efficaces. Parmi les théories disponibles, la plus utilisée est celle de Kubo et Tomita qui prédit un rétrécissement par échange de la largeur de raie à température infinie. Plus récemment, Oshikawa et Affleck ont trouvé des formules de la variation thermique de la largeur de raie et du facteur g pour une chaîne homogène de spins 1/2. Une autre méthode pour interpréter les données RSE est de calculer numériquement les paramètres d'absorption du modèle qui décrit le mieux le composé étudié. Ce mémoire rapporte mes travaux de thèse dont le sujet est l'étude, par RSE, de la dynamique des spins dans les composés à base de dimères de spins 1/2, CsV2O5, VO(HPO4)*0.5H2O et KZn(H2O)(VO)2(PO4)2(H2PO4). En étudiant les courbes de résonance RSE en fonction de la température et de l'angle nous avons trouvé que ces composés, dont la susceptibilité magnétique peut être aussi bien décrite par celle d'un ensemble de dimères isolés de spins 1/2 que par celle d'une chaîne AF alternée de spins 1/2, présentent deux régimes de comportement de la largeur de raie en fonction de la température : A haute température les raies de résonance RSE sont rétrécies à cause de l'échange suivant les prédictions de Kubo et Tomita alors qu'à basse température les courbes de résonance RSE s'élargissent et changent de forme (apparition de deux raies de résonance dues à la structure fine). Avec une méthode numérique de calcul des paramètres d'absorption RSE nous montrons que ce profil de la largeur de raie correspond plus à celui présenté par une chaîne AF alternée de spins 1/2.

Le piégeage optique d'atomes sur réseaux optiques permet d'étudier leur comportement dans un régime de très basse température, de l'ordre du nanokelvin, sans geler le degré de liberté de leur moment cinétique. Ces méthodes récentes de piégeage offrent la possibilité d'analyser le magnétisme des phases quantiques spontanément adopté par les atomes. Dans cette thèse, nous étudions numériquement des bosons à deux états effectifs de spin, ou bosons de spin-1/2, ainsi que des bosons à trois états de spin, ou bosons de spin-1, avec deux méthodes conceptuellement différentes: une approche simplifiée en champ moyen et une méthode exacte, la méthode de Monte Carlo Quantique. Au delà de l'étude de ces deux systèmes, nous comparons une méthode en champ moyen, parfois abusivement employée, à la méthode de Monte Carlo Quantique. L'étude approfondie du système de bosons de spin-1/2 en une et deux dimensions dans la limite de température nulle montre l'influence de la dimension sur la physique de ce système. Les effets thermiques, non négligeables expérimentalement, sont aussi étudiés. Enfin, le système de bosons de spin-1 piégés sur un réseau bidimensionnel, système plus riche et plus complexe à étudier que le précédent, est étudié dans la limite de température nulle. L'étude de ces deux systèmes révèle différentes organisations magnétiques dans les phases isolantes de Mott ainsi que dans la phase superfluide, telles qu'un superfluide ferromagnétique. Des transitions de phases du premier ordre et des mouvements cohérents anticorrélés, présents dans les phases de Mott, sont aussi observés.